Anthropic alerte : l’IA aurait pu servir à des recherches sur des armes biologiques

Anthropic affirme avoir bloqué cette année plusieurs tentatives de scientifiques qui cherchaient à utiliser ses modèles d’IA pour des travaux susceptibles de contribuer au développement d’armes biologiques.

Selon le Financial Times, l’entreprise a cité cinq exemples d’utilisateurs ayant tenté de contourner ses contrôles et de dissimuler le véritable objectif de leurs recherches.

Certains utilisateurs provenaient de pays où Anthropic ne propose pas ses modèles, notamment la Russie, la Chine et l’Iran.

IA et biologie, une combinaison à risque

L’inquiétude grandit parmi les chercheurs en IA et les spécialistes de la biosécurité. À mesure que les modèles deviennent plus puissants, ils pourraient faciliter des recherches sur les virus, les agents pathogènes ou les systèmes biologiques. Cela n’est pas nécessairement dangereux en soi, mais abaisse le seuil d’accès pour des acteurs mal intentionnés.

Anthropic indique qu’un chercheur issu d’une région non couverte par ses services a tenté pendant plusieurs semaines de planifier avec Claude des expériences liées à la grippe aviaire. Les filtres de sécurité ont limité son accès à des modèles moins performants, avant que les comptes ne soient finalement bloqués.

C’est tout l’enjeu. L’IA peut accélérer la recherche scientifique, mais aussi rendre certains savoirs plus accessibles à des acteurs qui n’y auraient normalement pas accès aussi facilement.

Le débat sur la sécurité s’intensifie

Cette révélation intervient alors que le débat sur la sécurité de l’IA se durcit. Plus tôt cette semaine, Jacob Coxon a démissionné d’Anthropic. Selon lui, des salariés de l’entreprise croient sincèrement que l’IA pourrait détruire l’humanité avant la fin de la décennie.

La formule peut paraître extrême. Mais, associée à ce type d’incidents, elle alimente de nouveau l’idée que la technologie gagne en puissance plus vite que les dispositifs de sécurité censés l’encadrer.

La cybersécurité demeure également un risque majeur. Dans son rapport, Anthropic mentionne des cas d’abus liés à la fraude, à la surveillance et à des tentatives de suivi de dissidents.

L’entreprise accuse par ailleurs des laboratoires chinois d’IA d’avoir tenté de reproduire sa technologie au moyen d’une technique dite de distillation.

Il est clair que le marché ne reste pas immobile à l’approche de l’introduction en Bourse d’Anthropic en octobre. Presque chaque jour, l’actualité de l’intelligence artificielle apporte désormais une annonce majeure.