Le niveau atteint par les intelligences artificielles nous pose de nouvelles questions éthiques : comment promouvoir un développement technologique respectueux de l’homme ? Call to action (Appel à l’action) pour les développeurs et les innovateurs du monde numérique. Un horizon qui nous concerne tous.

Juin 2023, Institut universitaire Sophia : sur l’écran de l’Aula Magna, une hôtesse numérique ouvre élégamment le séminaire « Towards a Digital Oath / Vers un serment numérique ». Nous franchissons un seuil : les préparatifs sont en cours depuis un certain temps, mais l’accélération de ces derniers mois dit quelque chose de nouveau. Promu par une plateforme d’acteurs – le centre de recherche Sophia Global Studies, le Movimento Politico per l’Unità, NetOne, New Humanity et Digital Oath -, la rencontre vise à aborder les questions les plus urgentes du monde numérique sous différentes perspectives : philosophique, technologique, éthique, social, politique, jusqu’à discuter de la proposition d’un « serment » qui pourrait représenter quelque chose d’analogue au serment d’Hippocrate des médecins pour ceux qui travaillent dans le monde numérique. D’où vient ce besoin ? Avec quels objectifs ?

Le monde technologique tend à changer rapidement et, de plus en plus, à une vitesse qui dépasse notre capacité d’adaptation. La complexité des machines et des systèmes qui structurent la réalité affecte non seulement notre façon de vivre, mais aussi notre façon de voir le monde et de penser l’avenir. Le niveau atteint par les « intelligences artificielles »- IA, voit l’émergence, à côté de l’enthousiasme pour leurs capacités opérationnelles, d’une inquiétude générale quant aux nouvelles possibilités ouvertes par ces systèmes et aux effets qui peuvent résulter de leur utilisation malveillante.

La diffusion récente du ChatGPT (novembre 2022) et de tous ses dérivés a massivement rapproché les IA de notre vie quotidienne, soulevant de nouvelles questions de sens liées à la compréhension de ce qui est humain et de ce qui ne l’est pas. Sur la scène mondiale, l’évolution de ces dispositifs a produit une certaine désorientation, non seulement parce que leur utilisation semble être à la portée de tous, mais surtout parce qu’ils démontrent qu’ils font quelque chose qui était auparavant l’apanage des êtres humains, avec des capacités quantitativement supérieures. Le fait que nous soyons confrontés à des systèmes qui ne sont pas « intelligents » au sens humain du terme et qui gèrent leur base de connaissances par des calculs statistiques ne change rien au résultat final : le sentiment de ne plus être les auteurs de choix fondamentaux, concurrencés par des machines qui sont un peu moins des « outils » et un peu plus des « compagnons de travail ».

A ces questions, le séminaire « Vers un serment numérique / Towards a Digital Oath » a ajouté un thème central : s’interroger sur l’éthique des technologies, c’est s’interroger sur l’humain. En effet, nombreux sont ceux qui considèrent le développement technologique comme l’activité humaine qui nous caractérise le plus. En effet, les technologies numériques, et en particulier l’IA, sont celles qui reflètent plus que d’autres, comme dans un miroir, notre façon d’être et de comprendre l’existence. Les crises du siècle dernier (valeurs, environnementales, sociales et politiques) leur sont étroitement liées et nous disent que le développement technologique doit s’accompagner d’un engagement éducatif tout aussi déterminé, afin que toutes les formes de progrès puissent être guidées par une conscience éthique plus profonde. Le sens d’un « serment » pour le monde numérique va précisément dans ce sens. Le programme des premiers jours de juin a réuni des experts qualifiés (lien vers le programme). Après une première présentation générale des technologies numériques actuelles, le débat a porté sur les risques et les réglementations liés à leur utilisation en Italie et dans l’UE, aux États-Unis, au Brésil et en Chine, mêlant solutions technologiques et questions politiques, réflexions philosophiques et phénomènes sociaux. « Il est nécessaire de rendre visible et de souscrire à un engagement concret et universellement partagé », explique Fadi Chehadé, ancien PDG de l’ICANN (Internet Corporation for Assigned Names and Numbers) et promoteur du « serment » pour une éthique du monde numérique, professeur invité à l’Institut Sophia, « avec lequel les développeurs, les techniciens et les utilisateurs des technologies numériques peuvent fermement ancrer leur travail sur une approche centrée sur l’humain ». Fadi Chehadé a accompagné les premières étapes du parcours depuis novembre 2019, lorsqu’un premier groupe s’était réuni à Trente (Italie) pour donner forme au projet. Par la suite, le groupe promoteur a impliqué des chercheurs de différents pays et a participé à la consultation publique promue par l’ONU pour le Global Digital Compact 2024.

Aujourd’hui, l’objectif du Digital Oath est précis : suggérer des lignes directrices et motiver éthiquement les développeurs et les innovateurs du monde numérique à se concentrer sur la dignité et la qualité de vie des personnes et des communautés, sur le sens humain de l’existence et sur le respect des droits fondamentaux et de l’environnement. « La proposition de traduire, pour ainsi dire, le Serment d’Hippocrate pour le monde numérique », rappellent les promoteurs de la conférence, « est déjà apparue dans diverses études internationales, qui soulignent l’urgence de la question et la responsabilité de ceux qui créent et gèrent des services numériques et administrent des données. On pense non seulement aux nouveaux réseaux neuronaux, mais aussi aux réseaux sociaux, ou aux crypto-monnaies… Notre travail rejoint celui d’autres réseaux : il s’agit maintenant d’unir nos efforts pour une coalition entre universités, le secteur privé et les organisations engagées dans la rédaction d’un code d’éthique, d’un protocole d’autorégulation dont des personnes, des sociétés et l’environnement pourront bénéficier ».

Une première formulation du serment est disponible pour tous sur le nouveau site web du Digital Oath et les inscriptions affluent ; le texte est ouvert aux suggestions et aux modifications avec une élaboration progressive. Le site inclura également bientôt les enregistrements et les documents du Séminaire. Bien que le chemin soit certainement ascendant, nous sommes nombreux à marcher : c’est un horizon qui nous concerne tous.                                                                                                                                                                                                                               Andrea Galluzzi