Sam Altman prévient : l’IA aura aussi des effets néfastes

Le développement rapide de l’intelligence artificielle s’accompagne inévitablement de conséquences négatives, selon Sam Altman, le patron d’OpenAI. Il estime néanmoins que la société doit être prête à accepter une partie de ces risques, les bénéfices de l’IA pouvant, à ses yeux, être bien plus importants.

Dans un entretien accordé au podcast Decoded de Politico, Sam Altman juge irréaliste d’envisager un monde sans usages abusifs, sans fraudes ni cyberattaques majeures liés à l’IA. Il trace toutefois une limite claire face aux scénarios dans lesquels les humains perdraient réellement le contrôle de l’intelligence artificielle.

Sam Altman assume les risques de l’IA

Sam Altman a tenu ces propos remarqués lors d’un échange sur la manière dont les entreprises d’IA et les pouvoirs publics doivent gérer les risques de cette technologie.

Selon le patron d’OpenAI, le monde doit accepter que l’IA ait des conséquences néfastes. Il estime toutefois que les bénéfices pour la société seront considérables en contrepartie.

Sam Altman a expliqué qu’il ne privilégierait pas une approche visant à empêcher toute cyberattaque majeure, tout usage abusif de cette technologie, toute escroquerie et l’ensemble des autres conséquences néfastes à venir.

Selon lui, les usages bénéfiques de l’IA seront en effet bien plus fréquents que les usages malveillants.

Le patron d’OpenAI estime que les usages bénéfiques dépasseront les usages nuisibles de plusieurs ordres de grandeur.

Sam Altman défend ainsi une réglementation relativement souple. Selon lui, le développement et l’utilisation de l’IA ne doivent pas être encadrés au point de priver la société des bénéfices potentiels de cette technologie.

Cette position occupe une place importante dans le débat sur l’avenir de l’IA. À mesure que les modèles gagnent en puissance, les craintes de les voir utilisés pour des cyberattaques, des fraudes ou d’autres pratiques abusives s’accentuent.

Le patron d’OpenAI fixe une limite à la perte de contrôle

Sam Altman n’est toutefois pas prêt à accepter tous les risques. Au cours du même entretien, il a précisé que les scénarios véritablement catastrophiques constituaient pour lui une limite à ne pas franchir.

Une perte grave de contrôle sur l’IA entre, selon lui, dans cette catégorie. Dans un tel scénario, un système d’IA pourrait se comporter de manière à empêcher les humains d’intervenir efficacement.

L’entretien n’a pas permis de préciser où se situe la frontière entre des dommages acceptables et un risque inacceptable.

Cette distinction devient de plus en plus importante à mesure que les systèmes d’IA gagnent en autonomie dans l’exécution des tâches. Le débat ne porte donc plus uniquement sur les réponses d’un agent conversationnel à un utilisateur. La question des actions que l’IA peut être autorisée à accomplir seule prend elle aussi une place croissante.

OpenAI plaide pour une responsabilité juridique en cas de dommages

Malgré son plaidoyer pour une réglementation relativement souple, Sam Altman ne considère pas que les entreprises d’IA doivent échapper à toute responsabilité lorsque leur technologie cause des dommages.

Il préconise un cadre juridique définissant clairement les responsabilités en cas de problème.

Sam Altman a expliqué que si un problème survenait lors de l’entraînement des modèles d’OpenAI, un mécanisme devrait permettre d’engager la responsabilité de l’entreprise.

Selon lui, les responsables publics américains doivent approfondir ce débat. Il défend ainsi une approche qui laisse place à un développement technologique rapide, tout en engageant la responsabilité des entreprises lorsqu’elles commettent des erreurs.

La recherche de cet équilibre devient plus urgente à mesure que les systèmes d’IA gagnent en puissance. Sam Altman semble poser un principe clair : une sécurité absolue n’est pas, selon lui, une condition réaliste pour poursuivre leur développement, mais certains risques restent trop importants pour être acceptés.