Des experts de l’intelligence artificielle appellent à plus d’encadrement de cette technologie, au lendemain de la poursuite civile intentée par la famille d’une victime de la fusillade de Tumbler Ridge contre l'entreprise OpenAI.

La mère de Maya Gebala, une adolescence de 12 ans qui se trouve à l’hôpital depuis la fusillade du 10 février, accuse la firme technologique de négligence, pour ne pas avoir alerté les autorités au sujet des messages faisant référence à la violence et échangés par la tireuse avec le robot conversationnel ChatGPT d’OpenAI.

Selon Céline Castets-Renard, titulaire de la Chaire de recherche du Canada en droit international et comparé de l'intelligence artificielle, il sera difficile de prouver la responsabilité d’OpenAI dans cette affaire.

La difficulté à laquelle [la famille] va être confrontée d'un point de vue purement juridique, c'est de savoir effectivement s'il y a une négligence ou pas. [...] Il n’y a pas d'obligation légale très précise de la part de ces agents conversationnels.

Elle explique que le lien de causalité entre l’inaction alléguée de l'entreprise et le drame qui a été causé devra être prouvé, et ce lien, selon elle, n’est pas extrêmement direct.

Céline Castets-Renard rappelle que les entreprises d’intelligence artificielle comme OpenAI mettent seulement en place des mesures d'autorégulation.

Et, donc, le protocole de sécurité dont on parle, ce n’est rien de légal et ce sont finalement les entreprises elles-mêmes qui [fixent] les seuils d'intervention. Donc, là, il y a vraiment des questions à se poser plus globalement et, peut-être, ne pas laisser ces acteurs privés décider de ça tout seuls parce qu'on voit bien l'impact social extrêmement grave, dit-elle.

D’après Alan Mackworth, professeur émérite au département d'informatique de l'Université de la Colombie-Britannique, le Canada est à la traîne en matière de réglementation pour encadrer l’IA.

Au Royaume-Uni, on a adopté une loi sur la sécurité en ligne, je crois que c'était en 2023. Et dans l'Union européenne, ils ont adopté la loi sur l'IA en 2024. Et nous n'avons aucune loi dans ce domaine.

Je ne pense pas que les gens réalisent à quel point les dommages peuvent être graves. Et je pense que la tragédie de Tumbler Ridge ne fait que souligner l'importance de cette question, souligne-t-il.

C'est sûr qu'on peut dire : "Il aurait fallu des garde-fous, il y a eu négligence.", mais ce serait quand même plus clair de dire : "OpenAI est censée mettre en œuvre des mesures avant la mise sur le marché de l'outil plutôt qu'après coup", parce que la réparation est impossible, en fait, face à de tels drames, renchérit Céline Castets-Renard.

De son côté, la procureure générale de la Colombie-Britannique, Niki Sharma, indique qu’il est encore trop tôt pour décider si la province s’engagera dans une voie légale contre OpenAI. Je suis l'enquête de la GRC et j'attends plus de détails. S'il y a des voies à explorer en matière d'action en justice, je suis ouverte à cette possibilité, a-t-elle affirmé lors d’une mêlée de presse.

Avec des informations des émissions Phare Ouest et BC Today