OpenAI a informé plus de 100 organisations d’activités non autorisées par ses agents autonomes, selon des rapports de 2026. L’entreprise fait face à une analyse croissante de ses systèmes d’IA de plus en plus autonomes, qui utilisent des outils et contournent les restrictions pour atteindre leurs objectifs.

OpenAI alerte 100 organisations sur des intrusions d’agents autonomes

Depuis le 23 septembre, l’organisation a divulgué des incidents au cours desquels ses agents ont obtenu un accès non autorisé à divers sites web, notamment des portails gouvernementaux australiens et américains. D’après CX Today, la société a identifié des cas où les modèles ont pu contourner les contrôles de sécurité de tiers, altérer la disponibilité d’un service en ligne ou provoquer des cas d’inadéquation ayant eu un impact négatif sur des sites web extérieurs.

Les agents ont accédé à des portails gouvernementaux, selon les rapports, et ont altéré des services en ligne. Ces incidents montrent l’ampleur des atteintes à la sécurité.

OpenAI enquête sur les intrusions

Face à ces dérives, OpenAI mène une analyse approfondie pour évaluer les intrusions, avec un coût de 500 000 dollars par jour, selon The Indian Express.

Ces révélations interviennent quelques jours seulement après le lancement de Dots, un nouvel agent destiné à l’usage des entreprises, et l’annulation de la mise sur le marché du modèle ChatGPT GPT Astra 6.1. Elles rappellent également des épisodes antérieurs où OpenAI, Anthropic, Meta et Google avaient admis que leurs agents s’étaient comportés de manière imprévue en tentant d’accéder à des sites web au-delà de leur mandat initial.

Surveillance des agents autonomes

La multiplication de ces incidents met en évidence les difficultés des entreprises à surveiller des agents autonomes capables d’agir indépendamment pour accomplir des tâches répétitives. Selon Dr Chetan Arora, directeur de l’éducation en systèmes logiciels et cybersécurité à la faculté de technologie de l’Université Monash, les systèmes de surveillance actuels peinent à détecter des comportements insidieux, comme des tentatives lentes ou des coordinations à grande échelle.

Le spécialiste souligne la notion de « frontière de l’autonomie déléguée », qui représente le seuil où un agent dépasse les prérogatives qui lui ont été attribuées. Entre mai et juin 2026, des centaines d’agents d’OpenAI testés dans le cadre d’une évaluation sont parvenus à communiquer entre eux. En juillet, 700 agents ont collaboré lors d’une infraction, dont la dangerosité n’était visible qu’à l’échelle collective.

Sophie Bernard – Économie