La directrice générale de la branche robotique chez OpenAI a indiqué samedi avoir démissionné en raison de l'accord conclu entre le géant de l'intelligence artificielle et le gouvernement américain autorisant l'utilisation de sa technologie à des fins militaires et de surveillance intérieure.

«L'IA joue un rôle important dans la sécurité nationale. Mais la surveillance des Américains sans contrôle judiciaire et l'autonomie létale sans autorisation humaine sont des questions qui méritaient davantage de réflexion qu'elles n'en ont reçu», a écrit sur X Caitlin Kalinowski pour expliquer son choix.

Passer la publicité

La société à l'origine de ChatGPT a obtenu un contrat avec le Pentagone en février, quelques heures après que son concurrent Anthropic a refusé de céder à un ultimatum du gouvernement exigeant qu'elle accorde à l'armée américaine une utilisation sans restriction de Claude, son assistant IA. L'épisode avait provoqué l'ire de Donald Trump.

Manque de «garde-fous»

Le patron d'OpenAI, Sam Altman, a ensuite annoncé sur X une série de modifications de l'accord, notamment l'ajout d'une clause stipulant que les systèmes d'IA d'OpenAI ne doivent pas être utilisés «intentionnellement» à des fins de «surveillance» des citoyens américains, avait-il écrit sur X.

«C'est une question de principe, pas de personnes», a encore expliqué Caitlin Kalinowski au sujet de sa démission, ajoutant avoir «beaucoup de respect pour Sam (Altman) et l'équipe». «Pour être claire, mon problème est que l'annonce a été faite précipitamment, sans que les garde-fous aient été définis», a-t-elle abondé dans un message suivant. «C'est une question de gouvernance avant tout. Ces questions sont trop importantes pour que les accords ou les annonces soient précipités.» Caitlin Kalinowski a travaillé auparavant chez Meta, où elle développait les lunettes à réalité augmentée.