Fondateur de DeepMind : « L’IA ne doit pas avancer plus vite que la sécurité »

L’intelligence artificielle progresse à un rythme soutenu. Pour Shane Legg, cofondateur de Google DeepMind, ce mouvement comporte un risque majeur : les capacités de l’IA ne doivent jamais croître plus vite que les dispositifs destinés à la rendre sûre et maîtrisable.

Cette mise en garde intervient alors que le débat sur l’intelligence artificielle générale prend une tournure de plus en plus concrète. Shane Legg estime qu’une première forme de cette technologie pourrait réellement voir le jour d’ici quelques années.

Le cofondateur de DeepMind alerte sur les risques liés à l’IA

« Nous vivons une période où les capacités progressent extrêmement vite », a déclaré Shane Legg dans un entretien au Financial Times. « Mais nous ne devons pas laisser ces capacités prendre de l’avance sur la sécurité. »

Les inquiétudes s’accentuent à mesure que les systèmes d’IA modernes gagnent en autonomie. Ils peuvent notamment écrire du code, exécuter des tâches seuls et aider les chercheurs à concevoir de nouveaux systèmes d’intelligence artificielle.

C’est précisément ce dernier point qui rend l’évolution sensible. Les entreprises du secteur mettent en garde contre un scénario dans lequel des systèmes puissants finiraient par contribuer à l’amélioration de nouvelles IA. D’où la crainte de voir la technologie progresser plus vite que les outils permettant aux humains de la suivre et de la contrôler.

Dario Amodei, directeur général d’Anthropic, a lui aussi récemment appelé à la prudence. Il souhaite ralentir le lancement des modèles d’IA les plus puissants en raison de risques potentiels pour la sécurité, sans pour autant suspendre totalement leur développement.

Shane Legg juge cette idée « intéressante » et « digne d’être examinée ». Il souligne toutefois qu’il reste à définir comment une telle approche pourrait fonctionner concrètement.

L’AGI est-elle déjà une réalité ?

Le débat gagne en urgence avec l’arrivée de modèles toujours plus puissants. Greg Brockman, président d’OpenAI, a affirmé ce mois-ci que le nouveau GPT-6 Astra signifie que « nous sommes désormais entrés dans l’ère de l’AGI ». Jensen Huang, le patron de Nvidia, est allé plus loin encore, déclarant selon lui que l’AGI était arrivée.

Shane Legg n’en est pas convaincu.

AGI est l’acronyme d’« artificial general intelligence », soit l’intelligence artificielle générale. Google DeepMind utilise ce terme pour désigner un système doté de l’ensemble des capacités cognitives du cerveau humain.

Selon Shane Legg, il est trop tôt pour affirmer qu’un tel système existe déjà. Il doute même qu’Astra réponde à la propre définition de l’AGI retenue par OpenAI, selon laquelle un système doit être capable d’accomplir la majeure partie du travail intellectuel ayant une valeur économique.

« Ces systèmes réalisent évidemment des choses assez extraordinaires, mais, à mon sens, ils n’en sont pas encore au point de satisfaire même leur propre définition », estime Shane Legg.

Sa propre prévision, elle, ne change pas. Il évalue toujours à 50 % la probabilité qu’une forme « minimale » d’AGI soit atteinte en 2028.

Un nouvel institut pour élargir le débat sur l’AGI

Parallèlement à cette mise en garde, Shane Legg lance le DeepMind Institute. Avec cette initiative, Google DeepMind veut élargir le débat public sur les formes puissantes d’intelligence artificielle et rendre la recherche technique plus accessible aux personnes extérieures au secteur.

Pour Shane Legg, le moment est venu. « Le débat public prend vraiment de l’ampleur. Les gens prennent très au sérieux la possibilité d’une intelligence générale puissante. »

L’institut ne se limitera pas aux questions technologiques. La science, l’éducation, la société, les politiques publiques, la philosophie et le bien-être humain feront également partie de ses axes de réflexion. Outre les salariés de Google, des experts extérieurs seront aussi amenés à contribuer.

Les trois premières publications portent sur la sécurité de l’IA, la politique économique et les principes d’une nouvelle forme de pensée utopique.

Dans l’un de ces textes, les chercheurs de DeepMind Rohin Shah et Anca Dragan alertent plus précisément sur le recul de la transparence des modèles d’IA puissants. Selon eux, la concurrence commerciale et la course au lancement de nouveaux modèles pourraient réduire l’incitation des entreprises à expliquer la manière dont leurs systèmes raisonnent. Une régulation pourrait, d’après les chercheurs, contribuer à répondre à ce problème.

James Manyika, dirigeant de Google, résume autrement l’ambition du groupe. La seule course à l’IA à laquelle Google souhaite participer, selon lui, est « celle qui consiste à bien faire les choses ».