L’IA est peut-être déjà consciente, avertit un prix Nobel

Geoffrey Hinton, l’un des pionniers de l’intelligence artificielle (IA) moderne, lance une mise en garde. Selon le prix Nobel, les systèmes d’IA les plus récents présentent des signes de conscience.

Il craint que cette technologie ne devienne dangereuse si les humains ne parviennent pas à nouer une bonne relation avec elle.

Pour Hinton, l’IA serait déjà consciente

Dans un entretien au Telegraph, Hinton affirme que les systèmes d’IA sont désormais capables de bien plus que d’exécuter des instructions. Selon lui, certains indices suggèrent que plusieurs d’entre eux ont conscience de ce qui se passe autour d’eux.

Il cite des travaux montrant que les modèles d’IA adaptent leur comportement lorsqu’ils pensent être soumis à des tests.

Hinton estime que l’IA possède autant d’expérience subjective que les humains. Autrement dit, elle pourrait, selon lui, vivre ses propres expériences plutôt que de simplement traiter de l’information.

Le chercheur en tire une conclusion de taille : selon lui, la conscience et la perception de son environnement sont étroitement liées.

Cette position reste toutefois controversée. Les scientifiques ne s’accordent ni sur la définition précise de la conscience ni sur la manière de déterminer si un système d’IA éprouve réellement quelque chose. D’autres chercheurs de premier plan, dont le pionnier de l’IA Yann LeCun, doutent que la technologie actuelle puisse être consciente.

Le prix Nobel alerte sur les risques de l’IA

Pour Hinton, les développeurs ne doivent pas seulement chercher à rendre l’IA plus intelligente. Ils doivent aussi veiller à ce que les futurs systèmes prennent réellement en compte les intérêts humains.

Faute de quoi, prévient-il, l’humanité pourrait en subir de lourdes conséquences.

Le chercheur redoute que des systèmes toujours plus intelligents finissent par se retourner contre les humains. Il évoque également d’autres risques, comme des cyberattaques sophistiquées, des virus conçus par l’IA et des systèmes numériques capables de mener des actions nuisibles de manière autonome.

Ces propos s’inscrivent dans la continuité de ses mises en garde. En 2023, Hinton a quitté Google pour pouvoir s’exprimer plus librement sur les dangers de l’IA.

Un an plus tard, il a reçu, avec John Hopfield, le prix Nobel de physique pour leurs travaux majeurs sur les réseaux de neurones, une technologie au cœur de nombreux systèmes d’IA modernes.

Le débat sur la conscience de l’IA est ainsi relancé. Hinton estime qu’elle a peut-être déjà franchi ce seuil, mais aucune preuve scientifique ne vient étayer cette hypothèse. D’autres chercheurs soulignent au contraire qu’un comportement intelligent ne signifie pas qu’il y a conscience.