L’IA a un accélérateur mais pas de frein, avertit le patron d’Anthropic

Le développement de l’intelligence artificielle progresse à un rythme tel que les humains risquent de perdre le contrôle. C’est ce qu’affirme Jack Clark, co-fondateur de l’entreprise AI Anthropic. Selon lui, il manque actuellement un élément crucial dans l’industrie de l’IA : un frein.

Clark estime que les gouvernements doivent pouvoir intervenir lorsque la technologie évolue plus rapidement que la société ne peut suivre. Son avertissement intervient alors que les systèmes d’IA deviennent de plus en plus autonomes et soutiennent de plus en plus leur propre développement.

Anthropic observe une IA de plus en plus indépendante

Dans une interview avec la BBC, Clark compare la situation actuelle à une voiture qui ne pourrait qu’accélérer.

« Il est indispensable de pouvoir lever le pied de l’accélérateur et de freiner », dit-il. « Pour l’heure, il semble que le secteur de l’IA dispose d’un accélérateur mais pas de frein. »

Selon Clark, le chatbot Claude d’Anthropic est désormais principalement développé avec du code écrit par Claude lui-même. On estime qu’environ 80 % du code provient du système d’IA lui-même.

Si cette tendance se poursuit, Claude pourrait utiliser un code entièrement généré par l’IA dans deux ans. Cela signifie théoriquement que l’intelligence artificielle pourrait s’améliorer sans intervention humaine directe.

Clark souligne que cela pourrait avoir des conséquences significatives pour l’économie, le marché du travail et la société.

Appel à une nouvelle réglementation de l’IA

Le co-fondateur d’Anthropic estime que les gouvernements doivent déjà réfléchir à de nouvelles règles pour l’IA.

« Le monde doit réfléchir à ces questions et finalement élaborer une réglementation qui garantisse notre confiance en ces systèmes », affirme Clark.

Il compare cela à l’émergence de l’industrie pétrolière au début du XXe siècle, lorsque de nouveaux risques sont apparus et que les gouvernements ont dû légiférer pour profiter des avantages de la technologie sans exposer la société à des dangers incontrôlables.

Fait intéressant, Anthropic a récemment plaidé pour une approche relativement souple de la régulation de l’IA aux États-Unis. Par exemple, une mesure récente de l’administration Trump oblige les entreprises à ne pas soumettre leurs modèles à un test de sécurité par le gouvernement avant leur mise sur le marché.

Pendant ce temps, des acteurs majeurs comme Anthropic, OpenAI et Google poursuivent sans relâche leurs recherches.

La créativité reste selon Clark un atout humain

En plus des préoccupations relatives à la sécurité et au contrôle, Clark met en garde contre l’impact de l’IA sur l’emploi. Selon lui, les agents d’IA, ces systèmes qui accomplissent des tâches de manière autonome, pourraient à l’avenir remplacer des emplois actuellement occupés par des humains.

Les grandes entreprises technologiques ont déjà licencié des milliers d’employés, citant souvent l’utilisation croissante de l’IA comme facteur contributif.

Pourtant, Clark voit également un avantage clé pour les humains. Selon lui, il existe encore peu de preuves que l’IA puisse réellement faire preuve de créativité.

« Chez Anthropic, nous sommes actuellement plus limités par le manque de bonnes idées que par nos capacités techniques à les réaliser », dit-il.

C’est pourquoi il conseille aux jeunes de rester curieux, de lire beaucoup et de cultiver leur curiosité. Pour lui, la créativité et l’aptitude à concevoir de nouvelles idées sont des qualités qui permettront aux humains de se distinguer dans une économie pilotée par l’IA.