Il ne faut pas se leurrer : les risques de fraudes électorales émanent désormais des dispositifs d’intelligence artificielle (IA), qui facilitent la tromperie dans les environnements connectés. Ils pourraient se manifester lors des prochaines élections prévues en octobre au Québec. Toutefois, les autorités fédérales et québécoises, tétanisées au moindre message du président Trump, choisissent de tergiverser dans la mise en place de règles imposant des exigences aux plateformes en ligne pour protéger les processus démocratiques des usages malveillants de l’IA.

Dans son avis lancé le 4 juin dernier, la Commission de l’éthique en science et en technologie (CEST) constate que la prolifération de la mésinformation électorale et politique menace l’intégrité des processus démocratiques. Elle est de nature à miner la confiance dans les institutions et dans les processus démocratiques.

L’avis recense les principaux risques liés à l’intégrité électorale et aux débats publics. Certaines utilisations des dispositifs d’IA mettent en danger un ensemble de valeurs et de principes inhérents au fonctionnement de nos institutions démocratiques. Le rapport explique que les cyberviolences envers des personnes membres des groupes minoritaires et des femmes, qui sont majoritairement la cible de propos malveillants dans les espaces connectés, sont au nombre des risques que l’IA contribue à accentuer.

La désinformation politique est un autre risque qui menace les processus démocratiques, surtout en période électorale. Elle peut viser des groupes ciblés pour les inciter, à leur insu, à adopter certains comportements.

D’autres risques découlent des capacités accrues de manipulation de l’opinion publique, désormais rendue possible par la disponibilité d’outils permettant à pratiquement toute organisation de se livrer à de la surveillance de masse et ainsi d’optimiser les pratiques de microciblage occulte des communications politiques.

Les espaces en ligne sont aussi vulnérables à la prolifération de la mésinformation électorale et politique. On a vu ces derniers mois circuler en ligne des séquences vidéo, réalisées grâce à des outils d’IA qui représentaient l’image et la voix de personnalités connues, y compris le premier ministre du Canada, prononçant de faux discours ayant toutes les apparences de discours authentiques.

Or, à ce jour, aucune loi électorale, pas plus que les autres, ne prévoit que les instances chargées de surveiller le déroulement des processus électoraux puissent intervenir rapidement pour faire cesser des pratiques frauduleuses sévissant en ligne.

Au nombre des mesures que la CEST recommande de prendre, il y a la clarification des responsabilités des plateformes numériques et d’IA de même que la mise en place d’obligations de faciliter le retrait rapide des hypertrucages frauduleux en période électorale, de protéger l’intégrité des renseignements électoraux, de faciliter l’accès à une information politique fiable et d’interdire les pratiques trompeuses. Voilà autant de mesures qui ne seront pas prises, car, ces temps-ci, nos gouvernants se mettent à la merci des moindres sautes d’humeur pouvant se manifester sur Truth Social.

Dans l’univers communicationnel engendré par l’IA, les ressources fondamentales comme les moteurs de recherche sont de plus en plus supplantées par des « moteurs de réponse » générant des réponses sur mesure aux questions que l’on formule ou que la plateforme prévoit que nous nous poserons.

La diffusion de masse, caractéristique des médias tels que nous les avons connus, est de plus en plus supplantée par un mode de consommation individualisé fondé sur les questions que se pose chacun des individus. L’utilisateur de médias ne navigue plus ; il questionne et reçoit une réponse sans avoir à se rendre directement à la source. C’est comme si une « boîte noire » s’interposait entre la personne qui cherche à s’informer et les gisements d’information alimentés aussi bien par des médias dignes de ce nom que par des outils de production de mensonges au service d’intérêts non identifiés.

Les individus ne « lisent » ni ne « regardent » les médias comme ils le faisaient il n’y a pas si longtemps. Désormais, on « interagit » avec les environnements d’information. Ceux-ci sont désormais configurés de manière à refléter les interrogations des individus, ou à y répondre, en fonction de multiples facteurs relatifs à leur situation. Des calculs algorithmiques déduisent ce qui intéresse tel ou tel individu connecté, le tout en fonction de critères déterminés selon les intérêts du commanditaire ou de l’entreprise qui exerce la maîtrise du système d’IA.

Lorsque les informations ne circulent plus en fonction de critères qui accordent de l’importance aux procédés de vérification et de validation, le risque est grand qu’elles circulent dans les systèmes d’IA en fonction de critères occultes connus des seuls gestionnaires des systèmes aux mains des géants du Web et de l’IA. Dans un tel environnement, il n’y a plus de « vérité » communément partagée, ou il y en a très peu. Il devient donc essentiel de garantir la circulation transparente et loyale de l’information.

La démocratie ne peut survivre dans un univers où les informations rendues disponibles aux individus sont structurées et aiguillées en fonction de procédés occultes protégés par les secrets commerciaux et, surtout, inconnus du public.

Si on continue à reporter la mise en place de règles pour assurer le développement de l’IA avec des exigences de loyauté et de transparence, l’ensemble des conditions permettant le fonctionnement de la démocratie est à risque de démembrement. L’avis de la CEST est un avertissement. Si des dérapages entachent les processus électoraux, le grand public et les décideurs n’auront plus la faculté de se faire croire qu’ils n’en savaient rien.