Anthropic affirme avoir bloqué cette année plusieurs tentatives de scientifiques qui cherchaient à utiliser ses modèles d’IA pour des travaux susceptibles de contribuer au développement d’armes biologiques.
Selon le Financial Times, l’entreprise a cité cinq exemples d’utilisateurs ayant tenté de contourner ses contrôles et de dissimuler le véritable objectif de leurs recherches.
Certains utilisateurs provenaient de pays où Anthropic ne propose pas ses modèles, notamment la Russie, la Chine et l’Iran.
IA et biologie, une combinaison à risque
L’inquiétude grandit parmi les chercheurs en IA et les spécialistes de la biosécurité. À mesure que les modèles deviennent plus puissants, ils pourraient faciliter des recherches sur les virus, les agents pathogènes ou les systèmes biologiques. Cela n’est pas nécessairement dangereux en soi, mais abaisse le seuil d’accès pour des acteurs mal intentionnés.
Anthropic indique qu’un chercheur issu d’une région non couverte par ses services a tenté pendant plusieurs semaines de planifier avec Claude des expériences liées à la grippe aviaire. Les filtres de sécurité ont limité son accès à des modèles moins performants, avant que les comptes ne soient finalement bloqués.
C’est tout l’enjeu. L’IA peut accélérer la recherche scientifique, mais aussi rendre certains savoirs plus accessibles à des acteurs qui n’y auraient normalement pas accès aussi facilement.
Le débat sur la sécurité s’intensifie
Cette révélation intervient alors que le débat sur la sécurité de l’IA se durcit. Plus tôt cette semaine, Jacob Coxon a démissionné d’Anthropic. Selon lui, des salariés de l’entreprise croient sincèrement que l’IA pourrait détruire l’humanité avant la fin de la décennie.
La formule peut paraître extrême. Mais, associée à ce type d’incidents, elle alimente de nouveau l’idée que la technologie gagne en puissance plus vite que les dispositifs de sécurité censés l’encadrer.
La cybersécurité demeure également un risque majeur. Dans son rapport, Anthropic mentionne des cas d’abus liés à la fraude, à la surveillance et à des tentatives de suivi de dissidents.
L’entreprise accuse par ailleurs des laboratoires chinois d’IA d’avoir tenté de reproduire sa technologie au moyen d’une technique dite de distillation.
Il est clair que le marché ne reste pas immobile à l’approche de l’introduction en Bourse d’Anthropic en octobre. Presque chaque jour, l’actualité de l’intelligence artificielle apporte désormais une annonce majeure.
Après les banques « trop grandes pour faire faillite », l’IA devient trop importante pour échouer
Prix du pétrole élevés, rendements obligataires en hausse et anticipation de plusieurs relèvements de taux. Mauvaise nouvelle pour les valeurs liées à l’IA, ou faut-il relativiser ?
La hausse des taux se précise après une inflation sous-jacente plus forte que prévu
L’inflation américaine ressort à 3,4 %, tandis que l’inflation sous-jacente progresse plus que prévu, renforçant la probabilité d’une hausse des taux.
Iran : Trump dit ne rien regretter, les marchés redoutent un conflit durable
Malgré un pétrole désormais à plus de 100 dollars le baril, Trump affirme ne pas regretter la guerre contre l’Iran. Est-ce vraiment le cas ?
Le plus lu
Analyste : « Le XRP pourrait être la plus grande occasion manquée de notre vie »
Selon un investisseur crypto, le XRP pourrait devenir la plus grande occasion manquée de notre vie. Voici pourquoi les attentes sont aussi élevées.
Le XRP à 60 dollars ? Un analyste pointe un seuil décisif
Un analyste estime que le cours du XRP pourrait grimper à 60 dollars si une résistance cruciale venait à céder. Il faudrait pour cela une hausse de plus de 4 000 %.
Emploi américain : le marché ralentit, que fera la Fed ?
Aux États-Unis, les offres d’emploi progressent légèrement, mais déçoivent. Les investisseurs attendent désormais le rapport sur l’emploi et les prochaines décisions de la Fed sur les taux.