Bill Gates alerte : l’IA pourrait provoquer « un milliard de morts »

Bill Gates alerte sur les risques liés à une intelligence artificielle toujours plus puissante. Selon le cofondateur de Microsoft, l’IA est désormais suffisamment avancée pour provoquer, entre de mauvaises mains, des dégâts à une échelle considérable.

Il estime donc que les entreprises technologiques ne doivent pas décider seules des mesures de sécurité nécessaires. Pour Gates, les pouvoirs publics et les régulateurs doivent intervenir beaucoup plus activement.

Gates redoute surtout un détournement de l’IA

« L’IA est assurément assez puissante pour provoquer des événements entraînant la mort d’un milliard de personnes », déclare Gates dans un entretien accordé à NBC.

Selon lui, le principal danger ne réside pas seulement dans la technologie elle-même, mais surtout dans ce que des acteurs malveillants peuvent en faire.

« Il n’a jamais existé d’arme aussi puissante que la combinaison d’individus mal intentionnés et des outils d’IA les plus récents. »

Gates avait déjà mis en garde contre les cyberattaques, les fraudes et la désinformation rendues possibles par l’IA. Selon lui, les hôpitaux, les banques, les réseaux électriques et les systèmes publics pourraient également devenir des cibles.

Les inquiétudes montent dans la Silicon Valley

L’avertissement de Gates s’inscrit dans un débat plus large au sein du secteur technologique. De plus en plus de voix, dans la Silicon Valley, s’expriment sur les risques liés à une IA extrêmement puissante.

Un employé d’Anthropic a démissionné ce mois-ci, accusant Anthropic et OpenAI de « jouer avec nos vies » en accélérant le développement d’une IA superintelligente.

Le patron d’Anthropic, Dario Amodei, a lui aussi appelé à ralentir le développement de systèmes d’IA très puissants. Cet appel a notamment reçu le soutien du directeur général d’OpenAI, Sam Altman, et d’Elon Musk.

Gates plaide pour des règles obligatoires

Pour Gates, l’autorégulation des entreprises d’IA ne suffit pas.

« Les forces de l’ordre et les responsables politiques doivent participer à la réflexion sur les garde-fous et la surveillance à mettre en place », affirme-t-il. « Et cela doit devenir obligatoire. »

Bill Gates plaide ainsi pour un contrôle plus strict des entreprises d’IA et pour des règles claires encadrant le développement de systèmes toujours plus puissants.