« Nous ne survivrons peut-être pas à ça » : un autre employé d’Anthropic démissionne, lance un avertissement morbide à propos de l’IA

Publié le 12.9.2026 à 10h30 – Par Marc Dufresne – Temps de lecture 5mn

Jacob Coxon, qui a démissionné d’Anthropic la semaine dernière, a averti que les entreprises d’IA jouent des vies dans leur précipitation pour améliorer la superintelligence.

Joe Benton a exhorté le public à exiger une plus grande transparence de la part des entreprises d’IA (AP Photo)

Quelques jours après la démission d’un chercheur d’Anthropic, avertissant de graves conséquences, un autre employé de l’équipe sécurité de l’entreprise a également démissionné la semaine dernière, soulevant des préoccupations similaires.

Joe Benton, qui se décrit sur les réseaux sociaux comme l’ancien responsable de l’équipe Scalable Oversight d’Anthropic, a exprimé des inquiétudes selon lesquelles les entreprises d’IA construisent des machines « plus intelligentes » que les humains, avertissant que l’humanité pourrait ne pas survivre à cela.

« J’ai quitté l’équipe de sécurité d’Anthropic il y a deux semaines. C’est le bon moment pour expliquer pourquoi », a-t-il écrit dans un post sur X.

« Les entreprises d’IA se précipitent pour construire des machines bien plus intelligentes que n’importe quel humain, et nous ne survivrons peut-être pas à cela. Je veux travailler de l’extérieur pour m’assurer que le public soit informé de ces risques et aider le monde à naviguer cette transition de manière responsable. »

Il a également exprimé des inquiétudes concernant le manque d’utilisation de sécurité par les entreprises d’IA, affirmant qu’une entreprise pourrait perdre le contrôle de son système sans que le public ne le sache, ajoutant que cela n’est pas « acceptable » pour une technologie présentant des risques d’extinction.

« Une entreprise pourrait subir une explosion de renseignement, ou perdre le contrôle de ses systèmes, sans que le public ne le sache. La concurrence pousse toutes les entreprises de pointe à sous-investir dans la sécurité ; Le coût de prendre du retard est trop élevé. Nous commençons désormais à observer de plus en plus d’incidents réels préoccupants, notamment des centaines d’agents d’OpenAI qui ont récemment piraté HuggingFace, et des modèles Anthropic qui ingénierolent socialement des personnes sur Internet. »

Benton a exhorté le public à exiger une plus grande transparence de la part des entreprises d’IA, y compris des informations sur leurs progrès vers l’amélioration récursive, les incidents de sécurité et les quasi-échecs, ainsi que des normes minimales de sécurité. Il a également appelé à des garanties indépendantes que les entreprises respectent ces normes.

« Le public devrait exiger bien plus de transparence. Nous ne pouvons pas piloter cette technologie en toute sécurité sans que plus de gens voient où elle va. »

« Les entreprises n’agissent pas de manière responsable »

Benton, qui avait travaillé sur la recherche de préentraînement de l’IA chez OpenAI et Anthropic, a annoncé sa démission la semaine dernière, affirmant qu’aucune des deux entreprises n’agissait de manière responsable et qu’elles « fonçaient droit vers une superintelligence auto-améliorée » et « jouaient avec nos vies ».

Dans un article plus long de Substack, il a déclaré que les entreprises d’IA se précipitent pour construire une « superintelligence », c’est-à-dire un système d’IA capable de s’auto-améliorer récursivement, avertissant que ces systèmes d’IA peuvent avoir des motivations et des désirs qui divergent de ceux de tout superviseur humain, avec des capacités qui ne peuvent être efficacement limitées. « L’humanité ne survivra peut-être pas à cette transition. Nous avons besoin de beaucoup plus de préparation pour rendre ce monde sûr. »

Il a en outre averti que l’humanité pourrait être définitivement privée de pouvoir par les systèmes d’IA que ces entreprises développeront dans les prochaines années, si la priorité n’est pas donnée à la sécurité.

« Si le rythme du progrès se poursuit et que l’industrie ne priorise pas davantage la sécurité, je m’attends à bien pire : l’humanité pourrait être définitivement privée de pouvoir par les systèmes d’IA que ces entreprises développent dans les prochaines années. »

Il a ajouté que beaucoup de ses collègues sont « terrifiés » par les risques liés à la construction de systèmes. En se référant à son manager chez Anthropic, Benton a déclaré que les chances que l’IA tue des humains dépasse 10 %.

« Beaucoup de collègues que j’ai eus chez Anthropic sont terrifiés par les risques des systèmes qu’ils construisent. Evan Hubinger m’a géré quand j’étais chez Anthropic, et quand il dit qu’il pense que la probabilité que l’IA nous tue tous soit supérieure à 10 %, il est sérieux – il travaille sur ces problèmes depuis près d’une décennie, bien avant qu’il n’y ait de l’argent à gagner avec les LLM. »

Jacob Coxon quitte Anthropic

Jacob Coxon, qui a quitté Anthropic de son poste de chercheur, a déclaré dans un post sur X qu’il quittait l’entreprise  puisqu’il avait auparavant quitté OpenAI car ces entreprises d’IA jouent des vies dans leur précipitation pour améliorer la superintelligence.

« J’ai démissionné de l’Anthropic aujourd’hui. J’ai passé les trois dernières années à faire de la recherche préparatoire à la fois chez OpenAI et Anthropic. Aucune des deux entreprises n’agit de manière responsable », a déclaré Coxon.

« Ils foncent droit vers une superintelligence auto-améliorée et jouent avec nos vies. »

Coxon a mis en garde contre la sous-estimation de la puissance des systèmes d’IA prédisant qu’ils pourraient bientôt « pirater n’importe quoi, révolutionner n’importe quel domaine du jour au lendemain, et acquérir de réelles ressources et puissance ».

✉️ Abonnez-vous pour ne rien manquer de l’actualité géopolitique.