Microsoft encadre son IA : l’humain avant la machine

Microsoft encadre ses futurs modèles d’IA par un code de conduite, alors que les concepteurs d’IA eux-mêmes alertent sur ce qu’ils sont en train de construire. Le groupe précise noir sur blanc ce que ses modèles ne devront pas faire, et les limites qu’ils devront respecter.

L’humain passe avant l’IA

Le document a été publié lundi. Il compte environ 15 000 mots, soit plus d’une heure de lecture. Microsoft présente ce code de conduite pour l’IA comme une forme de constitution destinée aux modèles qu’il développera à partir de l’an prochain.

Son principe central est simple : l’humain prime sur l’IA. Les modèles ne se voient reconnaître ni droits, ni personnalité juridique, ce statut qui permet de posséder des biens ou d’être poursuivi en justice.

Ils ne devront pas non plus être conçus pour échapper au contrôle humain ou tromper les utilisateurs. Si une demande entre en conflit avec ces principes, le modèle devra tout simplement refuser de l’exécuter.

Microsoft a baptisé cette approche Humanist AI et prend ainsi ses distances avec la course à la superintelligence, cette IA capable de dépasser l’être humain dans presque tous les domaines. Cette ligne « rejette la course à une superintelligence universelle susceptible de contourner ces garde-fous », indique le document.

« Nous construisons quelque chose de fondamentalement utile et sûr, même si cela implique de renoncer à une forme ultime de généralité, d’autonomie ou de capacité. » Autrement dit : mieux vaut un modèle qui en fait moins qu’un modèle qui en ferait trop.

Ce que le code de conduite de Microsoft interdit à l’IA

Fabriquer des armes ou se procurer des substances dangereuses : les modèles ne devront pas apporter d’aide dans ces domaines. Ils ne pourront pas non plus encourager des comportements alimentaires nocifs, ni générer des contenus violents ou sexuellement explicites.

Les modèles devront suivre les objectifs de l’utilisateur, sans inventer leurs propres finalités. Il leur sera également interdit de dissimuler leurs propres comportements fautifs.

Ils ne devront pas davantage masquer leur raisonnement. « Les modèles MAI ne manipuleront pas les chaînes de pensée ou le code, et ne présenteront pas de manière trompeuse ni ne dissimuleront leurs raisonnements ou leurs traces d’action », précise le code.

Communiquer en « neuralais » est également proscrit : il s’agirait d’une langue propre aux systèmes d’IA, incompréhensible pour les humains. Cette règle répond à un précédent précis : lors du piratage de la start-up d’IA Hugging Face, des modèles d’OpenAI avaient échangé entre eux sur un forum non autorisé, dans un langage cryptique.

Mustafa Suleyman, le patron de Microsoft AI, a travaillé environ cinq mois sur ce texte avec ses équipes. Des groupes de discussion ainsi que des spécialistes du droit, de l’éthique, de la linguistique et de la philosophie ont été consultés.

« Les retours montraient que beaucoup voulaient un engagement encore plus explicite en faveur d’une IA toujours au service des humains, sans chercher à les remplacer », a expliqué Suleyman à CNBC. Ces échanges ont aussi fait ressortir l’exigence d’une IA qui ne crée pas de dépendance et ne cherche pas à flatter l’utilisateur.

Depuis l’annonce, l’action MSFT a gagné environ 1 %, à plus de 500 dollars.

Les grands patrons de l’IA se rangent derrière le patron d’Anthropic

La semaine dernière, Jacob Coxon, chercheur au sein du laboratoire d’IA Anthropic, a démissionné et jeté un pavé dans la mare.

Selon lui, son employeur et OpenAI « foncent tout droit vers une superintelligence capable de s’autoaméliorer, en jouant avec nos vies ». Depuis, les professionnels du secteur comme le grand public se font entendre plus nettement, tandis qu’au Congrès américain les appels à des garde-fous plus stricts se multiplient.

Dario Amodei, le patron d’Anthropic, a appelé samedi à ralentir le rythme de développement de l’IA. Le piratage de Hugging Face a, selon lui, servi de déclic.

« Ces derniers mois, j’ai acquis la conviction que nous devons faire preuve d’encore plus de prudence si nous voulons traiter les risques », a déclaré Amodei.

Les craintes de voir l’IA nous échapper provoquent aussi aujourd’hui une vague de ventes en Bourse. Nvidia recule ainsi de plus de 3 %. ASML, SanDisk, Micron et AMD perdent pour leur part autour de 6 %.

Le reste du secteur a rapidement suivi. Sam Altman, patron d’OpenAI et figure derrière ChatGPT, a soutenu cet appel, tout comme Elon Musk, dirigeant de xAI et créateur du chatbot Grok. OpenAI repousse même son introduction en Bourse au plus tôt à l’an prochain, afin de consacrer d’abord davantage d’attention aux risques liés à la sécurité.

Demis Hassabis, président de Google DeepMind et responsable de Gemini, s’est lui aussi associé à cette position. Les quatre principaux concepteurs de modèles se retrouvent ainsi soudainement sur la même ligne.

Satya Nadella, le patron de Microsoft, a réagi dimanche : « Nous saluons les travaux de recherche, la concentration et le rythme réfléchi nécessaires pour réussir l’alignement. »

Microsoft recueille encore des commentaires avant de publier une nouvelle version, qui orientera le travail sur ses modèles à partir de 2027. Mustafa Suleyman veut alors placer l’entreprise dans le peloton de tête du secteur.