Un ingénieur d’Anthropic démissionne : l’IA devient-elle dangereuse ?

J’utilise l’IA tous les jours pour créer, développer et automatiser des tâches dans les entreprises. C’est précisément parce que je vois ce qu’elle permet déjà de faire que les alertes sur sa puissance méritent, à mon avis, une vraie discussion. On peut vouloir profiter de ces outils et s’inquiéter de ce qu’ils changent.

Dans cette vidéo, je pars de la démission de Jacob Coxon, passé par OpenAI puis Anthropic, pour poser trois questions : que sait-on réellement des risques de l’IA, que va-t-elle changer au travail, et qui conservera l’accès aux outils les plus puissants ?

Voici le dossier qui accompagne la vidéo, avec les sources du travail préparatoire et les précisions nécessaires pour distinguer résultats mesurés, témoignages et scénarios. Les faits ont été revérifiés pour cette publication du 11 septembre 2026.

Pourquoi la démission de Jacob Coxon compte

Dans son fil de démission, Jacob Coxon critique la course menée par OpenAI et Anthropic vers des systèmes toujours plus capables. Son accès au développement des modèles rend son témoignage pertinent ; son diagnostic reste celui d’une personne, pas une mesure scientifique de la probabilité d’extinction. [1]

Selon Axios, Coxon est parti avant l’acquisition de ses actions Anthropic ; il conserve des intérêts chez OpenAI. [2]

C’est une précision essentielle pour comprendre son geste. Réduire son départ à une opération destinée à faire monter ses actions Anthropic serait trompeur. Mais l’argument inverse serait tout aussi fragile : renoncer à de l’argent ne transforme pas automatiquement une conviction en vérité.

La prise de parole s’inscrit dans un débat plus large. L’appel Pacing the Frontier demande des mécanismes de coordination permettant aux laboratoires de ralentir ensemble face à certains risques. Il rassemble des signataires de plusieurs organisations. Signer un texte commun ne signifie pas partager exactement les mêmes pronostics ni réclamer l’interdiction de toute IA. [4]

Quand les dirigeants parlent de danger, il faut regarder aussi leurs intérêts

Dire qu’un produit est incroyablement puissant peut à la fois décrire un problème réel et renforcer son attractivité commerciale. À l’inverse, minimiser les risques peut servir ceux qui vendent du calcul, cherchent à accélérer l’adoption ou veulent rattraper leurs concurrents. C’est une grille de lecture des incitations, pas une preuve de mensonge.

Les positions réunies pendant la préparation permettent de voir où se situent les désaccords. Le tableau ci-dessous les résume ; il ne s’agit pas de citations littérales.

Le bon réflexe consiste à demander ce qui a été testé, qui a pu vérifier les résultats et dans quelles conditions. Le prestige d’un intervenant et ses intérêts financiers éclairent son discours ; ils ne le valident ni ne le réfutent à eux seuls.

Le précédent Blake Lemoine : un insider peut se tromper

Blake Lemoine travaillait chez Google : suspendu puis licencié en 2022, il n’avait pas démissionné de DeepMind. [38]

Dans le dialogue qu’il a publié avec LaMDA, il défend l’idée que le modèle serait conscient. Les réponses à la première personne sont frappantes, mais un système qui produit un discours sur ses émotions ou son identité ne démontre pas, par ce seul discours, une expérience subjective. [37]

En 2023, une analyse fondée sur des indicateurs issus des sciences de la conscience, cosignée notamment par Yoshua Bengio, ne trouvait pas de système conscient parmi ceux étudiés. Elle n’excluait pas que de futurs systèmes satisfassent ces indicateurs. Ce résultat ne permet pas de trancher automatiquement le cas de tous les modèles apparus depuis. [39]

Ce précédent ne prouve pas que Coxon se trompe. Il rappelle que l’accès interne, la sincérité et la compétence technique ne dispensent pas d’une méthode. Et il n’est pas nécessaire de spéculer sur la santé mentale de quelqu’un pour discuter ses arguments.

Le sondage des experts : que signifient les 77 %, 35 % et 51 % ?

La prépublication de Severin Field interroge 111 personnes, majoritairement universitaires : environ 16 % viennent de l’industrie et 9 % de la sécurité de l’IA. Ce n’est pas un recensement des ingénieurs des grands laboratoires. [9]

• 77 % approuvent l’idée que les chercheurs techniques devraient se préoccuper des risques catastrophiques.
• 35 % approuvent l’idée qu’on pourra toujours simplement éteindre une IA qui se comporte mal.
• 51 % anticipent l’émergence de tendances à l’autopréservation et au contrôle chez des IA suffisamment avancées.

Ces valeurs viennent du tableau 2, qui indique 77 % à la première question contre 78 % dans le résumé. Le taux de réponse avoisine 10 %, avec un risque de sélection. 77 % d’accord avec une préoccupation ne signifie pas 77 % de probabilité de catastrophe. Les personnes qui n’approuvent pas la possibilité d’un arrêt systématique incluent aussi les réponses neutres. [9]

Pour élargir la lecture, la bibliographie conserve aussi l’enquête de Grace et ses collègues auprès de 2 778 auteurs en IA, ainsi qu’une critique méthodologique des sondages de risque. Les opinions d’experts sont utiles pour cartographier l’incertitude ; elles ne remplacent pas l’étude des mécanismes concrets. [13] [14]

Navier–Stokes : ce que changent 10 000 agents en parallèle

Dans son annonce du 8 septembre 2026, OpenAI décrit un groupe d’environ 10 000 agents simultanés mobilisé sur Navier–Stokes : 88 heures de recherche, 2,7 millions de messages et environ 130 milliards de tokens de sortie. Le modèle de recherche était interne ; GPT-6 Astra a ensuite servi à la formalisation et à la vérification Lean pendant 17 heures. [31]

Deux précisions : c’est un « problème du millénaire », désigné comme tel en 2000, pas un problème vieux de mille ans ; et une preuve annoncée par un laboratoire n’équivaut pas à l’attribution du prix Clay. Les règles du Clay Mathematics Institute prévoient notamment une publication qualifiante, au moins deux ans d’examen et une acceptation générale. [32]

La vidéo évoque aussi la controverse avec Tristan Buckmaster. Son texte soulève des questions de chronologie et de provenance, sans affirmer savoir que ses données ont été utilisées. Mise à jour du dossier : la page d’OpenAI affirme désormais, après enquête, que ses prompts Codex des deux mois précédents n’ont pas pu influencer le système, entraînement compris. Il faut attribuer ces déclarations à leurs auteurs et éviter de présenter un vol comme établi. [33] [31]

Le point qui m’intéresse dépasse le résultat mathématique : avec assez de calcul, une organisation peut multiplier les pistes explorées, coordonner les agents et consolider leurs découvertes. Cela change l’échelle du travail possible. Cela ne garantit pas que la même méthode réussisse dans tous les domaines, ni que mille agents produisent mécaniquement mille fois plus de valeur.

Alignement et cybersécurité : un danger n’a pas besoin d’être conscient

Le problème de l’alignement consiste à faire en sorte qu’un système poursuive l’objectif réellement souhaité, avec les bonnes contraintes. L’exemple de l’usine de trombones évoqué dans la vidéo est une expérience de pensée : un objectif trop étroit, poursuivi avec beaucoup de pouvoir et sans limites adéquates, pourrait produire des conséquences désastreuses.

On n’a pas besoin d’imaginer une IA qui « veut être méchante ». Un outil mal configuré, un agent qui dépasse son périmètre ou un utilisateur malveillant peuvent déjà causer des dégâts. Les droits d’accès, la capacité d’action et la qualité du contrôle comptent autant que la qualité des réponses. Les travaux de Bengio explicitent plusieurs de ces mécanismes. [11]

La fiche de sécurité d’OpenAI classe GPT-6 Astra au niveau Critique en cybersécurité dans son propre référentiel. Elle décrit des capacités de découverte et d’exploitation de vulnérabilités. L’évaluation externe d’Irregular, rapportée dans cette fiche, relève 86 défis réussis sur 226 dans FrontierCyber, mais aucun succès sur les sept défis « Elite » ni sur les cibles entièrement durcies. [30]

OpenAI a également publié le récit d’un incident impliquant ses systèmes internes et Hugging Face, dans lequel des agents ont franchi des limites d’accès. C’est une source du fournisseur concerné, à lire avec ses conditions et sa chronologie. [6]

En revanche, les évaluations citées ne démontrent pas qu’une entreprise pourrait aujourd’hui paralyser la France avec un million d’agents. Dans la vidéo, cette image exprime mon inquiétude sur le passage à l’échelle. C’est une extrapolation, qui dépendrait aussi des accès disponibles, des défenses, de la fiabilité et des moyens opérationnels.

Le travail : mon expérience n’est pas une statistique nationale

Dans mon activité, les agents me permettent d’absorber des tâches qui auraient demandé davantage de personnes ou de temps. Cela modifie déjà mes décisions d’organisation et d’embauche. Je vois aussi des entreprises envisager l’automatisation comme une réduction de leurs besoins humains. C’est mon retour de terrain, pas une estimation représentative du marché du travail.

Il faut distinguer plusieurs phénomènes : automatiser certaines tâches, supprimer un poste, remplacer un départ et renoncer à recruter. Une hausse de productivité peut produire chacun de ces effets ; elle peut aussi permettre de vendre davantage, de créer de nouveaux services ou de prendre en charge un besoin jusque-là trop coûteux.

L’étude d’Anthropic publiée en mars 2026 ne détectait pas de hausse systématique du chômage des travailleurs les plus exposés depuis fin 2022. Elle relevait toutefois des indices d’un ralentissement des embauches des plus jeunes dans les métiers exposés. Sa portée dépend des données et de la période analysées. [25]

La bibliographie comprend également les travaux du Stanford Digital Economy Lab et du Census Bureau sur l’emploi et les débuts de carrière. Ils permettent de confronter les observations au-delà d’un exemple d’entreprise. [26] [27]

Historiquement, la productivité a déplacé du travail entre agriculture, industrie et services. Rien ne garantit que la transition à venir sera rapide ou indolore, ni que les nouveaux emplois apparaîtront au bon endroit et avec les bonnes qualifications. Mais l’histoire ne permet pas non plus d’affirmer que toute création d’emploi serait terminée.

Quand je parle de chômage systémique dans la vidéo, je formule donc une inquiétude sur la suite. Une hausse durable et inévitable du chômage mondial causée par l’IA n’est pas démontrée par les études présentées ici. Cette incertitude laisse justement une place aux choix de formation, d’investissement et de politique économique.

Les scénarios d’Anthropic : qui récupère les gains ?

Scenarios for our Economic Future explore trois trajectoires américaines à l’horizon 2030. Ce sont des simulations conditionnelles, pas des prévisions certaines. Dans la version consultée, la part des revenus allant au travail est de 59,4 % dans le scénario modeste, 56,1 % dans le substantiel et 45,2 % dans l’extrême, pour une référence proche de 60 %. [24]

Attention à la différence entre une part et un montant : une part plus faible d’une économie plus grande ne signifie pas automatiquement que tous les salaires baissent. Le modèle prévoit des effets différents selon les métiers ; les travailleurs du savoir subissent davantage de pression dans les trajectoires les plus transformatrices. [24]

La question politique est alors le partage de la richesse : rémunération du travail, propriété des entreprises, accès au calcul, concurrence et accompagnement des transitions.

Réguler sans réserver la puissance à quelques acteurs

Le 3 septembre 2026, Bernie Sanders et Greg Casar ont annoncé un projet visant à interdire la superintelligence et à suspendre temporairement le développement de certaines IA avancées jusqu’à l’établissement de règles fédérales. La source citée est une annonce politique ; elle ne prouve pas qu’une interdiction a été adoptée. [19]

Une compétition internationale rend la coordination difficile, mais ne démontre pas que toute règle serait inutile. Le sujet consiste aussi à définir des capacités dangereuses mesurables, organiser des évaluations indépendantes, rendre compte des incidents et contrôler certains accès. Les propositions d’OpenAI sur la gouvernance distinguent elles-mêmes différents seuils de puissance. [16]

Ma formulation dans la vidéo sur la dépendance européenne mérite une nuance : l’Europe dispose bien d’un pouvoir réglementaire. L’AI Act prévoit des obligations pour les fournisseurs de modèles à usage général, y compris ceux qui accèdent au marché européen depuis l’extérieur. Ce pouvoir ne lui donne pas la maîtrise de tout entraînement réalisé à l’étranger. [21]

Elle possède aussi des entreprises, des chercheurs et des infrastructures. Les sources européennes et l’AI Index réunis dans le dossier permettent d’examiner ses capacités et ses projets de calcul. Parler de dépendance ne signifie pas qu’il n’existe aucune alternative européenne. [22] [23]

Mon point de vigilance est la fracture d’accès : si les outils les plus utiles deviennent réservés aux grandes entreprises et aux États, les indépendants, les PME et les citoyens pourraient subir le changement avec moins de moyens pour y prendre part. C’est un risque à anticiper, pas un futur déjà écrit.

Ma position : utiliser ces outils et demander des comptes

Je ne souhaite pas renoncer à ce que l’IA permet de produire. Je souhaite qu’on prenne au sérieux le pouvoir qu’elle redistribue. Cela implique de parler de sécurité, mais aussi d’emploi, de revenus, d’accès, de concurrence et de démocratie.

Les pistes que je défends sont des évaluations indépendantes des capacités dangereuses, une protection des personnes qui signalent des problèmes, des obligations de transparence proportionnées et un accès large aux usages utiles. Il faut également accompagner ceux dont les tâches ou les perspectives d’embauche changent.

Je n’ai pas de formule magique pour cette transition. En revanche, attendre une certitude absolue sur tous les scénarios avant de commencer à s’organiser serait une mauvaise manière d’aborder un changement aussi important.

Pour prolonger la réflexion : consulter l’Observatoire IA de NXUS, ouvrir le support visuel avec les captures des sources, ou découvrir les formations IA NXUS.

Revoir un passage de la vidéo

• 00:00 : Le tweet qui relance le débat
• 01:03 : La peur est aussi un marché
• 01:48 : Même les lanceurs d’alerte se trompent
• 02:20 : Hinton, Bengio et le risque existentiel
• 02:35 : 10 000 agents sur un problème mathématique
• 03:18 : Le contrepoint de Yann LeCun
• 03:35 : Ce que pensent vraiment les experts
• 04:24 : Le problème de l’alignement
• 04:51 : Le risque cyber est déjà actuel
• 05:14 : Travail, productivité et chômage systémique
• 06:50 : Travail contre capital : les scénarios d’Anthropic
• 07:35 : Peut-on réellement réguler l’IA ?
• 08:13 : Une course mondiale impossible à arrêter ?
• 08:33 : L’Europe face à sa dépendance
• 09:01 : Qui gardera l’accès aux meilleurs modèles ?

Sources et dossier complet

Les 39 références du dossier préparatoire sont conservées ci-dessous, y compris les lectures complémentaires non développées dans le montage final. Une interview renseigne sur ce qu’une personne affirme ; une étude renseigne sur son protocole ; un document de laboratoire doit être lu en tenant compte de sa provenance. Certains médias peuvent demander un abonnement et X peut exiger une connexion.

1. Jacob Coxon: fil de démission sur X ; Associated Press ; WIRED.
2. Axios: Coxon et ses actions.
3. Evan Hubinger: réponse à Coxon sur X ; Fast Company.
4. Pacing the Frontier.
5. International AI Safety Report 2026.
6. OpenAI: The Hugging Face incident and the road ahead.
7. OpenAI: Path to Astra: critical capabilities and frontier safeguards.
8. METR: Frontier Risk Report, February to March 2026.
9. Severin Field: Why do Experts Disagree on Existential Risk and P(doom)?.
10. WBUR: entretien avec Geoffrey Hinton ; entretien Nobel Prize.
11. Yoshua Bengio: FAQ on Catastrophic AI Risks ; Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path?.
12. TIME: Yann LeCun on AGI, Open Source and AI Risk ; Why I'm leaving Meta to launch my own AI start-up.
13. Grace et al.: Thousands of AI Authors on the Future of AI.
14. Scientific American: AI Survey Exaggerates Apocalyptic Risks.
15. Axios: Sam Altman's sobering siren.
16. Altman, Brockman et Sutskever: Governance of superintelligence.
17. Dario Amodei: The Adolescence of Technology.
18. Axios: Jensen Huang is AI's anti-doom evangelist ; Elon Musk on the end of work.
19. Bureau du sénateur Bernie Sanders: annonce du Ban Artificial Superintelligence Act ; réaction à Coxon sur X.
20. Jean-Luc Mélenchon: publication sur Astra et la régulation mondiale.
21. Commission européenne: obligations des fournisseurs de modèles d'IA à usage général ; calendrier d'application.
22. Stanford HAI: AI Index Report 2026.
23. Commission européenne: AI Continent ; appel AI Gigafactories.
24. Anthropic: Scenarios for our Economic Future.
25. Anthropic: Labor market impacts of AI: A new measure and early evidence.
26. Brynjolfsson, Chandar et Chen: Canaries in the Coal Mine?.
27. U.S. Census Bureau: You're (not) Hired: Artificial Intelligence and Early Career Hiring.
28. Google: Project Suncatcher explores powering AI in space ; Orbital Data Centers: Spacecraft Constraints and Economic Viability.
29. Thomas Metcalf: AI safety and regulatory capture ; How Do AI Companies “Fine-Tune” Policy?.
30. OpenAI: GPT-6 Astra System Card.
31. OpenAI: On the Navier–Stokes Millennium Prize Problem.
32. Clay Mathematics Institute: Rules for the Millennium Prize Problems.
33. Tristan Buckmaster: Statement regarding the Navier–Stokes and Euler announcements.
34. International AI Safety Report 2026 — Extended Summary for Policymakers.
35. OpenAI: PRC-linked influence operations are targeting AI debates in the US.
36. Vincent Flibustier: « L'IA me fait peur ».
37. Blake Lemoine: Is LaMDA Sentient? — an Interview.
38. Le licenciement de Lemoine.
39. Patrick Butlin, Robert Long, Eric Elmoznino, Yoshua Bengio et al.: Consciousness in Artificial Intelligence: Insights from the Science of Consciousness.