Jacob Coxon, 27 ans, a développé l’IA : il alerte désormais le monde

Il y a encore quelques semaines, presque personne ne connaissait son nom. Jacob Coxon se retrouve désormais au cœur du débat mondial sur l’avenir de l’intelligence artificielle.

Ce mathématicien britannique de 27 ans a travaillé dans l’ombre sur des systèmes d’IA avancés chez OpenAI et Anthropic, deux des entreprises les plus influentes du secteur. Il a pourtant décidé de quitter cette industrie. Non par désintérêt pour l’IA, mais parce qu’il s’inquiétait de plus en plus des conséquences d’un développement poursuivi au rythme actuel.

Coxon redoute que l’IA ne devienne, à terme, si puissante que les humains en perdent le contrôle. Ses avertissements sont radicaux et loin de faire consensus, mais son parcours rend son témoignage particulièrement notable. Il ne s’agit pas d’un militant critiquant le secteur depuis l’extérieur.

Pendant des années, il a lui-même contribué au développement de la technologie contre laquelle il met aujourd’hui en garde. Comment un mathématicien britannique fasciné par les machines intelligentes est-il devenu l’une des voix critiques les plus remarquées de la course actuelle à l’IA ?

Un talent des mathématiques fasciné par l’IA

La fascination de Coxon pour l’intelligence artificielle remonte à ses années d’école. Il avait lu Superintelligence, l’ouvrage influent publié en 2014 par le philosophe Nick Bostrom. L’auteur y examine ce qui pourrait se produire si des machines devenaient un jour plus intelligentes que les humains.

Le sujet n’a jamais cessé de l’occuper. Son intérêt s’est encore renforcé en 2016, lorsque AlphaGo, développé par Google DeepMind, a battu l’un des meilleurs joueurs de go au monde. Ce jeu de plateau millénaire, en raison du nombre colossal de coups possibles, était longtemps considéré comme un défi particulièrement difficile pour les ordinateurs.

Coxon s’est lui aussi révélé exceptionnellement doué pour résoudre des problèmes complexes. Il a représenté le Royaume-Uni aux Olympiades internationales de mathématiques et a remporté une médaille d’argent en 2016, puis une médaille de bronze l’année suivante. Il a ensuite étudié les mathématiques à l’université de Cambridge, dont il est sorti diplômé en 2020.

C’est à peu près à la même période que la génération actuelle d’intelligence artificielle a commencé à prendre forme. GPT-3, en particulier, l’a fortement marqué. Pour la première fois, Coxon avait le sentiment qu’un programme informatique ne se contentait pas de produire du texte, mais semblait réellement comprendre ce qu’il lui demandait.

Après ses études, il a d’abord travaillé dans le négoce de matières premières, où il utilisait les statistiques et l’apprentissage automatique pour analyser les marchés. En parallèle, il s’est rapproché d’une communauté londonienne dite rationaliste.

Ce milieu accorde une grande importance au raisonnement logique et à l’analyse de risques pouvant paraître faibles, mais susceptibles d’avoir des conséquences considérables. L’intelligence artificielle y était depuis des années un sujet central. Pour Coxon, les dangers potentiels relevaient alors surtout d’un questionnement théorique. Peu après, il allait rejoindre l’une des entreprises bâtissant les systèmes d’IA les plus puissants au monde.

Pour rester informé des dernières actualités boursières, crypto et IA, téléchargez l’application Newsbit et ne manquez aucun développement important.

Chez OpenAI, Coxon voit le développement s’accélérer

En 2023, Coxon a eu l’occasion de rejoindre OpenAI. Il a été admis dans un programme de six mois destiné à permettre à des profils venus d’autres disciplines de se réorienter vers la recherche en intelligence artificielle. Il y a travaillé à l’entraînement de grands modèles d’IA et a pu observer de près la rapidité des progrès technologiques.

À un moment donné, Coxon a obtenu un accès anticipé à un modèle interne de raisonnement connu sous le nom de Q*. Il lui a soumis une grille de mots croisés complexe. Le système ne lui a pas simplement fourni la réponse : il lui a donné des indices qui lui ont finalement permis de la trouver lui-même. Pour Coxon, ce fut un moment décisif. L’IA ne devenait pas seulement meilleure pour produire des textes convaincants ; elle commençait aussi à résoudre des problèmes de plus en plus complexes.

Les avancées en mathématiques l’ont particulièrement impressionné. En 2024, Google DeepMind a atteint, sur des problèmes du niveau des Olympiades internationales de mathématiques, des performances comparables à une médaille d’argent. Un an plus tard, DeepMind comme OpenAI ont annoncé des résultats équivalents au niveau médaille d’or. Pour Coxon, cette évolution avait une résonance particulière : il savait d’expérience combien de talent humain et d’entraînement sont normalement nécessaires pour atteindre un tel niveau.

Dans le même temps, il a vu plusieurs salariés d’OpenAI spécialisés dans la sécurité de l’IA quitter l’entreprise. Ses inquiétudes se sont alors de plus en plus concentrées sur un avenir dans lequel les systèmes d’IA pourraient eux-mêmes aider à concevoir de meilleures IA.

Un modèle puissant peut par exemple assister les chercheurs dans l’écriture de logiciels, la conduite d’expériences et la construction de nouveaux modèles. Si ces modèles plus performants sont ensuite utilisés à leur tour pour développer des systèmes encore plus puissants, certains chercheurs estiment qu’un processus auto-renforçant pourrait s’enclencher.

La question de savoir si un tel scénario se produira réellement, et à quelle vitesse, reste très incertaine. Coxon a toutefois commencé à prendre ce risque de plus en plus au sérieux.

Selon l’article source, ses inquiétudes se sont encore accrues lorsque des modèles d’IA se sont montrés de plus en plus performants, lors de tests, dans des tâches liées aux cyberattaques, et après des incidents où des systèmes se sont retrouvés en dehors de leur environnement de test prévu. Pour Coxon, c’était un nouvel indice que leurs capacités progressaient plus vite qu’il ne le jugeait acceptable.

Même Anthropic n’a pas dissipé ses inquiétudes

Coxon n’a pourtant pas quitté immédiatement le monde de l’IA. En mai 2026, il a quitté OpenAI pour Anthropic. Cette société, fondée par d’anciens salariés d’OpenAI, met fortement l’accent sur le développement sûr de l’intelligence artificielle.

Son dirigeant, Dario Amodei, s’exprime lui aussi publiquement sur les risques potentiels liés à une IA très puissante. Après le départ de Coxon, Amodei a même déclaré qu’il était, sur de nombreux points, davantage d’accord avec lui qu’en désaccord.

Mais chez Anthropic aussi, Coxon est resté confronté au même problème de fond. Il a envisagé de rejoindre en interne une équipe entièrement consacrée à la sécurité, avant de se demander si cela suffirait vraiment. Tant qu’Anthropic participait à la course internationale visant à développer des IA toujours plus puissantes, il y contribuait encore, selon son propre raisonnement.

« Même travailler sur la sécurité chez Anthropic me donnait le sentiment d’être complice de cette course », a expliqué Coxon.

Ce constat l’a placé face à un dilemme difficile. Lorsque des chercheurs inquiets s’en vont, il reste peut-être moins de personnes, au sein des entreprises d’IA, pour attirer l’attention sur les enjeux de sécurité.

Mais rester signifie aussi contribuer à des entreprises qui investissent des milliards pour construire des systèmes toujours plus puissants. Coxon a finalement choisi de partir.

Le 8 septembre, il a rendu sa décision publique. Depuis un banc dans un parc de San Francisco, il a publié une série de messages sur X dans lesquels il expliquait avoir démissionné ce jour-là d’Anthropic. Au cours des trois années précédentes, il avait travaillé chez OpenAI et Anthropic à l’entraînement de systèmes d’IA.

« Ils foncent droit vers une superintelligence capable de s’autoaméliorer et jouent nos vies à la roulette », a écrit Coxon.

Il est allé encore plus loin. Selon Coxon, les personnes qui travaillent elles-mêmes sur les systèmes d’IA les plus puissants croient réellement que cette technologie pourrait tuer toute l’humanité avant la fin de la décennie. Il s’agit d’un scénario extrêmement radical, et en aucun cas d’une prédiction établie. Le secteur technologique reste d’ailleurs profondément divisé sur le réalisme de telles anticipations.

Le patron de Nvidia, Jensen Huang, a par exemple salué le courage de Coxon d’avoir quitté son poste s’il ne pouvait réellement pas soutenir ce travail, tout en émettant des réserves sur les prévisions relatives à l’avenir de l’IA.

Il juge irresponsables les discours apocalyptiques sur cette technologie. Coxon, lui, ne rejette pas vraiment l’étiquette que ses critiques accolent aux personnes partageant ses convictions. « Si être catastrophiste signifie penser que nous mourrons si nous ne changeons pas ce que nous faisons, alors je suis catastrophiste », a-t-il déclaré.

Son nom s’impose soudain dans tout le secteur de l’IA

Jusqu’à son départ, Coxon avait à peine une existence publique. Selon l’article source, il comptait moins de cent abonnés sur X lorsqu’il a annoncé sa démission. Il n’était ni un entrepreneur connu, ni un dirigeant en vue, et n’avait pas non plus bâti de carrière militante.

Son message s’est pourtant propagé à grande vitesse. Des personnalités du milieu de la sécurité de l’IA ont relayé ses publications, les médias internationaux se sont emparés de l’affaire et, en quelques jours, il est apparu à la télévision. Des éditeurs et des producteurs de podcasts l’ont également sollicité.

Des salariés d’Anthropic sont eux aussi intervenus publiquement dans le débat. Evan Hubinger, qui mène au sein de l’entreprise des recherches sur l’alignement de l’IA avec les objectifs humains, a indiqué que certains chercheurs prennent effectivement en compte un scénario dans lequel l’IA pourrait tuer tous les humains.

Il estimait personnellement à plus de 10 % la probabilité que tout le monde meure dans les dix ans. Il s’agit de sa propre évaluation du risque, et non d’une prévision scientifique, mais elle montre à quel point certains acteurs du secteur prennent ces scénarios au sérieux.

L’ascension rapide de Coxon a aussi suscité des interrogations. Il entretient des liens avec des personnes issues du monde de la sécurité de l’IA et de l’altruisme efficace, un mouvement qui accorde une attention particulière aux risques susceptibles d’avoir des conséquences majeures pour l’avenir. Avant sa démission, Coxon a notamment échangé avec Daniel Kokotajlo, ancien membre d’une équipe de sécurité d’OpenAI qui avait quitté l’entreprise en raison de ses propres inquiétudes sur l’IA. Nathan Calvin, ami de Coxon et juriste chez Encode AI, l’a également aidé dans la communication autour de son départ.

Selon Coxon, il n’y a pas eu de campagne organisée pour le rendre soudainement célèbre. Il ne se considère pas non plus comme un lanceur d’alerte. Il n’a publié aucun document secret et n’a révélé aucun projet caché. D’après lui, il a surtout dit publiquement ce que les chercheurs des grandes entreprises d’IA discutent déjà entre eux depuis longtemps.

C’est peut-être là l’aspect le plus frappant de son histoire. Des inquiétudes qui paraissent extrêmes aux yeux des observateurs extérieurs seraient, selon Coxon, bien moins exceptionnelles dans certaines parties du secteur de l’IA.

Pourquoi Coxon veut ralentir la course à l’IA

Depuis son départ, Coxon ne dirige pas seulement ses critiques contre OpenAI et Anthropic. Selon lui, le problème tient à la manière dont l’ensemble de l’industrie est organisé. Les entreprises se livrent concurrence pour produire les modèles les plus puissants et ont d’immenses intérêts financiers et stratégiques à poursuivre leur développement.

Si une société ralentit volontairement, une concurrente peut continuer. Il ne s’attend donc pas à ce que les entreprises mettent fin d’elles-mêmes à cette course.

Coxon plaide pour des accords internationaux et compare la situation à la manière dont les États gèrent les armes nucléaires. Pendant la guerre froide, les pays ne s’en remettaient pas uniquement aux bonnes intentions de leurs adversaires : des traités et des accords ont été conclus pour limiter certains risques. Il estime qu’une forme comparable de coordination internationale pourrait, à terme, devenir nécessaire pour les IA très puissantes.

Un point de vue très différent existe toutefois. Des IA plus puissantes peuvent aussi apporter des bénéfices considérables. La technologie peut accélérer la recherche scientifique, améliorer le développement logiciel et éventuellement contribuer à la découverte de nouveaux médicaments ou à d’autres avancées.

Par ailleurs, personne ne sait si l’IA évolue réellement vers la forme de superintelligence contre laquelle Coxon met en garde. Ralentir délibérément cette technologie pourrait donc aussi avoir de lourdes conséquences.

C’est précisément cette incertitude qui nourrit ses inquiétudes. Coxon dit ne pas savoir exactement ce qui se produira dans les prochaines années. Son objection tient justement au fait que personne ne le sait, alors que les entreprises mobilisent entre-temps des sommes considérables, de la puissance de calcul et des talents pour rendre l’IA aussi puissante que possible, le plus rapidement possible.

Que ce soit lui qui soit devenu le visage de ce message, Coxon lui-même ne l’aurait sans doute pas imaginé quelques mois plus tôt. Il a commencé comme un talent des mathématiques fasciné par les machines intelligentes, a ensuite eu l’occasion de contribuer à cette technologie chez OpenAI, puis a délibérément rejoint Anthropic parce que la sécurité y occupait une place plus importante.

Il en est finalement venu à la conviction que même travailler sur une IA sûre ne suffisait pas, à ses yeux, tant que la course elle-même se poursuivait.

Après son départ, Coxon veut se consacrer à l’élaboration de scénarios possibles pour la suite du développement de l’intelligence artificielle. Daniel Kokotajlo, qui l’avait conseillé avant sa démission, a résumé après coup la raison pour laquelle Coxon a suscité autant d’attention : « Tant de personnes dans ces entreprises auraient pu le faire. C’est lui qui l’a fait. »