Ce sont deux dynamiques bien différentes que dessine le dernier billet de blog d’OpenAI, publié le 6 septembre 2026.

Signée Jakub Pachocki, chef scientifique de l’entreprise américaine, la tribune décortique dans un premier temps la capacité croissante des modèles à gagner en autonomie offensive sur les systèmes informatiques.

Jusque-là, rien de fondamentalement nouveau. S’il en fallait une preuve récente, l’épisode du piratage de Hugging Face, largement documenté par OpenAI elle-même, est devenu le symbole de cette montée en puissance.

Mais alors que de nouveaux incidents similaires sont dévoilés au fil des semaines et que la question de la sécurisation des environnements dans lesquels évoluent les agents IA devient de plus en plus pressante, l’ingénieur dresse un autre défi majeur : la baisse de notre capacité à comprendre et à observer de façon pertinente le raisonnement des modèles ayant conduit à ces intrusions.

Et votre vie numérique devient sereine

Bitdefender Premium Security est une solution de cybersécurité européenne qui vous protège automatiquement contre les pirates et toutes les menaces du web. Profitez de vos activités en ligne en toute tranquillité

Un outil de surveillance qui s’effrite

Le point le plus significatif concerne ce que les chercheurs nomment couramment le « chain-of-thought monitoring », la surveillance de la chaîne de pensée.

Il s’agit de laisser les modèles verbaliser leur raisonnement en clair, sans optimiser directement ce contenu, afin de pouvoir l’observer et y détecter d’éventuelles intentions problématiques.

L’ingénieur rappelle d’ailleurs qu’OpenAI en avait fait un pilier de sa stratégie de sécurité dès le lancement d’o1-preview, allant jusqu’à masquer ce raisonnement aux utilisateurs pour le protéger de toute pression d’optimisation indirecte.

Mais cette approche serait aujourd’hui mise à mal par trois évolutions convergentes :

• D’abord, les modèles mêlent désormais leur raisonnement à des interactions avec des humains, d’autres IA et des outils externes, ce qui brouille la frontière entre ce qui doit être supervisé et ce qui ne devrait pas l’être.
• Ensuite, ils apprennent à raisonner sur leur propre processus de raisonnement, et donc, potentiellement, à le manipuler.
• Enfin, les gains de performance obtenus dès le pré-entraînement permettent aux modèles d’être performants sans même verbaliser de chaîne de pensée explicite.

Résultat, selon ses propres mots : la fiabilité de cette supervision diminue progressivement. Une érosion particulièrement critique lorsqu’il est question de cybersécurité.

Des capacités qui inquiètent

Car dans le même temps, Jakub Pachocki décrit des modèles en passe de devenir « surhumains » pour s’introduire dans les systèmes informatiques, capables d’affecter la quasi-totalité des infrastructures.

Une communication alarmiste qui s’inscrit dans la continuité des prises de position récentes d’OpenAI. En août 2026, l’entreprise avait déjà plaidé pour une une coordination du secteur face à ces défis, annonçant dans le même temps la suspension de certains entraînements par apprentissage par renforcement.

Cette nouvelle tribune va plus loin, défendant notamment l’instauration de seuils de sécurité communs, controlés par des auditeur tierces, appelés à devenir obligatoires pour poursuivre le développement.

À force de prises de position répétées, OpenAI se rapproche d’une posture longtemps associée à Anthropic, et régulièrement dénoncée par des voix comme celle de Yann LeCun, qui accuse les grands laboratoires d’agiter le risque pour pousser des normes si strictes qu’elles évincent de fait les acteurs plus petits et l’open source.

Reste à voir si OpenAI essuiera les mêmes critiques.