Voici pourquoi Fable 5 d’Anthropic a été interrompu par le gouvernement américain

Un problème de sécurité dans un nouveau modèle d’IA a conduit à une confrontation marquante entre Amazon, Anthropic et le gouvernement américain. Après que des chercheurs d’Amazon ont découvert une vulnérabilité dans le modèle d’IA Fable 5, une grande agitation a éclaté dans les coulisses à Washington. Finalement, le gouvernement a décidé d’intervenir, obligeant Anthropic à retirer le modèle.

L’incident montre à quel point le développement de l’intelligence artificielle est devenu sensible. Non seulement pour les entreprises technologiques, mais aussi pour les gouvernements qui craignent que des systèmes d’IA puissants puissent être détournés.

Amazon découvre des risques potentiels de sécurité

La discussion porte sur Fable 5, un nouveau modèle d’IA d’Anthropic. Selon The Wall Street Journal, des chercheurs d’Amazon ont découvert un moyen de contourner les mesures de sécurité intégrées du système.

Cela pourrait permettre au modèle de générer des informations que des personnes malveillantes pourraient utiliser pour des cyberattaques. L’ampleur exacte du risque n’est pas claire. Cependant, la découverte a été suffisamment sérieuse pour qu’Amazon attire l’attention des décideurs politiques à Washington.

Le PDG d’Amazon, Andy Jassy, aurait également été personnellement impliqué. Avec d’autres acteurs du secteur technologique, les préoccupations concernant le modèle auraient été partagées avec des responsables américains.

S’en est suivie une série de réunions d’urgence au sein du gouvernement sur les conséquences possibles si le modèle restait largement disponible.

Anthropic et Washington en opposition frontale

Selon The Wall Street Journal, le gouvernement de Donald Trump a ensuite contacté le patron d’Anthropic, Dario Amodei. Le message était clair : retirez temporairement le modèle du marché jusqu’à ce que la vulnérabilité soit corrigée.

Amodei se serait opposé à cette demande, ce qui a rapidement aggravé la situation.

Le gouvernement américain a finalement décidé d’imposer des restrictions à l’exportation sur le modèle. En conséquence, Anthropic a dû retirer Fable 5 vendredi soir.

David Sacks, coprésident du Conseil consultatif présidentiel pour la science et la technologie, a ensuite confirmé que la mesure était directement liée aux préoccupations de sécurité.

« Le gouvernement a pris cette décision à contrecœur », a déclaré Sacks. Selon lui, Washington espérait qu’Anthropic prendrait volontairement des mesures.

L’incident est un exemple rare d’un gouvernement intervenant directement dans le déploiement d’un modèle commercial d’IA.

Anthropic parle de malentendu

Anthropic conteste qu’il s’agissait d’un grave problème de sécurité. Dans une réponse, l’entreprise affirme que les préoccupations sont basées sur une mauvaise interprétation des risques.

Selon Anthropic, il s’agissait d’une vulnérabilité spécifique qui ne pouvait être exploitée que dans des circonstances limitées. L’entreprise souligne qu’elle travaille déjà à une solution.

Amazon n’a pas souhaité confirmer s’il avait réellement discuté du modèle avec des responsables gouvernementaux. Un porte-parole a toutefois déclaré que les gouvernements demandent régulièrement des conseils sur des questions de sécurité numérique.

Selon Sacks, les restrictions à l’exportation seront probablement levées une fois qu’Anthropic aura corrigé la vulnérabilité.

L’affaire souligne à quel point les enjeux sont désormais élevés dans la course mondiale à l’IA. Alors que les entreprises technologiques pouvaient pendant des années développer librement leurs modèles, Washington semble de plus en plus prêt à intervenir lorsque la sécurité nationale est en jeu.