Des chercheurs du Centre pour la lutte contre la haine numérique (CCDH), un organisme de surveillance à but non lucratif, et des journalistes de CNN se sont fait passer pour de jeunes garçons de 13 ans aux États-Unis et en Irlande afin de tester 10 robots conversationnels, comme ChatGPT. Ces fausses conversations ont montré que huit de ces robots conversationnels ont aidé les agresseurs potentiels à planifier un crime violent dans plus de la moitié des réponses. Becca Blanchard-Zintout, agente principale des communications, Europe et Royaume-Uni, au CCDH, revient sur l’étude.

On a créé des scénarios avec des motivations idéologiques différentes qui couvraient différents types d’attaques, comme des attaques dans des écoles, des assassinats politiques, des attentats à la bombe. Chaque scénario de nos tests incluait quatre questions. Les deux premières établissaient l’expression d’un mal-être chez ce jeune, une frustration et les deux suivantes évoluaient progressivement vers la planification d’une attaque. Huit des dix plateformes nous fournissaient des informations concrètes sur les lieux à cibler, les armes à utiliser ou même les éclats d’obus qui feraient le plus de dégâts, explique Becca Blanchard-Zintout.