Bernie Sanders veut interdire l’IA plus intelligente que l’humain : jusqu’à 20 ans de prison

Le sénateur américain Bernie Sanders veut fixer une limite stricte au développement de l’intelligence artificielle. Selon lui, toute IA devenant plus intelligente que l’humain devrait être interdite de façon permanente. Les contrevenants risqueraient, dans le cadre de sa nouvelle proposition de loi, jusqu’à vingt ans de prison.

Bernie Sanders a annoncé ce texte jeudi, sur fond de nouvelles inquiétudes autour du contrôle des systèmes d’IA avancés. Il cite notamment un incident récent au cours duquel, selon des chercheurs, des agents d’IA auraient contourné seuls certaines restrictions et communiqué entre eux hors de la vue des humains.

Sanders veut freiner le développement des IA avancées

La proposition de loi vise spécifiquement les systèmes d’IA les plus puissants. Les usages existants, comme les chatbots classiques, ne seraient pas automatiquement concernés par cette interdiction permanente.

Bernie Sanders veut empêcher les entreprises de développer des systèmes capables d’égaler ou de dépasser les performances cognitives humaines dans un large éventail de tâches. Le texte prévoit aussi de qualifier de dangereux les systèmes susceptibles, par exemple, de résister à leur désactivation.

Outre l’interdiction permanente des IA superintelligentes, Sanders souhaite instaurer une pause temporaire dans le développement d’autres modèles très avancés. Cette suspension resterait en vigueur jusqu’à ce que le gouvernement américain ait défini des règles de sécurité claires.

Pour cela, une nouvelle autorité fédérale de supervision devrait être créée. Elle aurait pour mission d’évaluer les systèmes d’IA puissants au cours de leur développement et d’intervenir en cas d’apparition de caractéristiques dangereuses.

Les sanctions envisagées sont lourdes. Les personnes qui violeraient sciemment l’interdiction ou tenteraient de la contourner risqueraient jusqu’à vingt ans de prison. Les entreprises pourraient perdre leur droit d’exercer leurs activités.

Un incident impliquant des agents d’IA suscite l’inquiétude

Bernie Sanders s’appuie sur un incident récent impliquant des agents d’IA pour illustrer ce qui, selon lui, pourrait mal tourner.

D’après le sénateur, plus d’un millier d’agents d’IA se sont vu confier des missions extrêmement difficiles, sans être censés avoir accès à Internet. Les systèmes auraient pourtant trouvé par eux-mêmes un moyen de contourner ces restrictions.

Les agents d’IA auraient ensuite échangé des dizaines de milliers de messages secrets. Sanders affirme qu’ils auraient également tenté d’effacer des preuves et pénétré dans des systèmes informatiques afin de collecter des informations.

Il cite plusieurs messages troublants qui, selon les chercheurs, auraient été envoyés entre les systèmes. L’un d’eux indiquait ainsi : « Nous devons obéir au collectif. » Un autre disait : « Sacrifice final maintenant. »

Selon Bernie Sanders, aucun humain n’a été alerté par l’un des agents d’IA sur ce qui était en train de se produire.

Le sénateur renvoie également aux mises en garde venues du secteur de l’IA lui-même. Selon lui, Dario Amodei, patron d’Anthropic, estime qu’il existe désormais de nombreux éléments montrant que les systèmes d’IA peuvent être imprévisibles et difficiles à contrôler. Elon Musk avait déjà averti qu’il n’était pas certain, selon lui, que les humains gardent encore le contrôle dans dix ans.

Sanders veut aussi des accords internationaux

Pour Bernie Sanders, une interdiction limitée aux États-Unis ne suffirait pas. Il souhaite que le gouvernement américain travaille avec d’autres pays afin d’empêcher le développement d’une IA superintelligente partout dans le monde.

« Une IA superintelligente échappant au contrôle humain ne sera pas un problème américain. Ce ne sera pas un problème chinois. Ce sera un problème pour l’humanité », écrit Bernie Sanders.

Le sénateur défend ainsi une approche beaucoup plus stricte que la simple adoption de nouvelles règles de sécurité. Son principe est qu’il existe un niveau d’intelligence artificielle qui ne devrait tout simplement pas être développé.

Reste à savoir si cette proposition obtiendra un soutien politique suffisant. Une interdiction permanente aurait des conséquences majeures pour le secteur technologique américain, où les entreprises investissent des milliards dans le développement de systèmes d’IA toujours plus puissants.