Des essaims d'intelligences artificielles (IA) pourraient compromettre la démocratie sans que personne ne s'en aperçoive, affirme une étude publiée dans la revue Science (nouvelle fenêtre) (en anglais). Selon l'un des coauteurs, Kevin Leyton-Brown, professeur en informatique à l'Université de la Colombie-Britannique, ces outils peuvent donner l’illusion d’un consensus dans les discussions en ligne et manipuler les communautés.

Ces essaims, dit-il, sont de larges groupes de bots informatiques coordonnés qui se font passer pour des êtres humains. Ils infiltrent des communautés sur les réseaux sociaux pour promouvoir des discours ou des idées précises.

Contrairement aux bots communs, qui se contentent de publier des réponses statiques et prédéfinies, ces agents d'intelligence artificielle peuvent apprendre, adopter le jargon d'une communauté et se joindre naturellement à une conversation. 

Ils peuvent tester de nombreuses stratégies d'influence simultanément, observer ce qui fonctionne auprès du public, puis mettre en place, en temps réel, les approches qui fonctionnent.

1:25

Visionnez le reportage ici.

Photo : Radio-Canada

Marie-Jean Meurs, professeure en intelligence artificielle à l'UQAM, estime que ces essaims d’IA sont clairement des outils qui peuvent servir à faire de la manipulation à très grande échelle.

Kevin Leyton-Brown va plus loin, il pense que ces essaims d'intelligences artificielles représentent une menace sérieuse pour la démocratie à plusieurs niveaux.

Tout d’abord, il explique que les humains se fient aux opinions des autres pour déterminer ce qui est raisonnable. Lorsqu'un essaim d'intelligences artificielles met en place ses faux profils pour exprimer différentes versions d'une même idée, il donne l'illusion d'un consensus organique. Cela peut influencer notre opinion sans que nous nous en rendions compte.

Si vous devenez quelqu'un qui se documente uniquement sur les réseaux sociaux, c'est sûr, vous êtes potentiellement extrêmement victimes de cette situation.

Kevin Leyton-Brown ajoute que, en inondant les réseaux sociaux, qui sont aujourd'hui l'un des principaux lieux d'échange avec des inconnus, les essaims d'IA réduisent notre capacité à avoir des conversations de confiance avec nos concitoyens.

Les essaims d'IA à grande échelle restent théoriques, mais parmi les premiers signes d'alerte figurent les hypertrucages générés par l'IA et les médias d'information fabriqués, explique Kevin Leyton-Brown.

Photo : Radio-Canada / ALEXANDRE LAMIC

Je pense que tout ce qui nous empêche de communiquer de manière fiable avec les autres êtres humains affaiblit réellement la démocratie.

Par ailleurs, le coût de ces technologies diminuant considérablement, les opérations d'influence ne se limitent plus aux grandes élections nationales. Ces essaims pourraient être utilisés pour cibler des scrutins beaucoup plus petits, comme des élections municipales ou des référendums locaux liés aux intérêts d'une entreprise.

La prise de conscience de l'existence de ces bots et le retour aux échanges et aux discussions en personne sont primordiaux, selon Kevin Leyton-Brown.

Pour Marie-Jean Meurs, le fait d'avoir des sources d’informations diverses et variées et de faire confiance à des médias de type traditionnel reste la meilleure garantie pour avoir une information de qualité.

Les deux chercheurs affirment que la menace ne provient pas directement d’une intelligence artificielle qui déciderait de son propre chef de lancer des opérations d'influence. D'après Kevin Leyton-Brown, le véritable danger réside dans les acteurs humains, comme des États hostiles ou de grandes entreprises qui pourraient utiliser ces outils pour manipuler les communautés, polariser le débat politique et concentrer le pouvoir.