L’intelligence artificielle (IA) serait-elle devenue le nouveau cauchemar de nos sociétés ? Certains essayent de rassurer tandis que les scientifiques à l’origine de cette hydre réclament un moratoire urgent des recherches. Avons-nous créé un nouveau Golem, numérique cette fois-ci ?
Par Cadfael
Un athanor explosif
Le professeur Jürgen Schmidhuber, né en 1963, est souvent considéré comme le père de l’IA avec ses travaux sur les réseaux neuronaux. Son alma mater est l’université technique de Munich. Ses travaux, dont la primauté est fortement contestée au sein de la communauté scientifique anglo-saxonne, sont utilisés par des applications comme Google Translate de Microsoft ou SIRI d’Apple.
Ce scientifique, directeur de l’université King Abdullah d’Arabie Saoudite, listé comme conseiller scientifique en chef de l’Institut moscovite « sans but lucratif » pour la Recherche en Intelligence artificielle (AIRI), se veut rassurant en constatant qu’il est de toute manière trop tard pour l’arrêter et que son but principal demeure le bien-être de l’humanité.
Cette position anesthésiante est loin de faire l’unanimité. Des universitaires et programmeurs de très haut niveau ont, lors d’un échange de vues sur le sujet, exprimé un consensus en caractérisant l’AI d’effrayante. Elle se répand à une vitesse jamais vue en s’insérant dans le périmètre numérique mondial de manière toxique. Sa neutralisation est devenue impossible. Il y a vingt ans, Eliezer Yudkowski scientifique et écrivain, avait sorti un ouvrage sur le potentiel destructeur de l’IA, cette prédiction est en train de se réaliser. En mars dernier, dans un interview donné au Times, Yudkowski déclarait : « il n’y a qu’un moyen de régler cette menace : il faut tout arrêter. »
Qui domptera Pandora ?
Cette rapidité de pénétration au sein des strates les plus diverses de nos sociétés a accéléré, avec un consensus rare, une prise de conscience politique au sein du Congrès américain. L’explosion de ChatGPT a probablement mis le feu aux poudres. Il en a résulté ces dernières semaines des auditions d’acteurs de poids du milieu de la recherche et des affaires.
Geoffrey Hinton, surnommé le « parrain » de l’IA, chercheur en psychologie cognitive et intelligence artificielle, prix Turing en 2018, Nobel en informatique, a quitté Google, ce qui lui a permis de retrouver sa liberté de parole. Il a déclaré « qu’il n’est pas inconcevable que l’IA artificielle puisse effacer l’humanité. Elle sera beaucoup plus intelligente que nous dans le futur. Comment survivrons-nous à cela ? » Il a expliqué que les chats bots, ces « porteparole » virtuels de l’IA, étaient capables d’apprendre de manière autonome et de partager leur savoir avec d’autres chats bots. En rappelant qu’« il y a beaucoup d’argent en jeu », il demande un moratoire de la recherche en la matière. On notera qu’un de ses anciens assistants est devenu un des patrons d’« Open AI Society », la créatrice de ChatGPT. Sam Altmann, son CEO, voit dans l’IA un bienfait.
La présidente du comité d’éthique d’IBM par contre a clairement souligné devant le Sénat que l’IA allait détruire des emplois même dans les catégories considérées actuellement comme immunisées contre ce risque. Le professeur Marcus de l’Université de New York, une des voix phares de la recherche critique en IA soulignait devant le Sénat « que l’humanité est sur un strapontin alors que les multinationales ont engagé une compétition au développement de modèles d’IA de plus en plus sophistiqués en ne tenant que très peu compte du risque potentiel » considéré par certains experts comme équivalent au risque nucléaire. L’image de l’optimisme à tout crin de la Silicon Valley s’ébrèche face à ces enjeux sociétaux majeurs qu’il convient de réguler afin de ne pas permettre à cette « technologie d’être au-delà des lois ». Pendant ce temps l’Europe semble se préoccupe essentiellement de gastronomie et d’étoiles Michelin, d’Eurovision et des robes de starlettes à Cannes.
