En surestimant les capacités de l’IA on a favorisé son utilisation dans des domaines tels que la guerre ou la santé, même si de toute évidence, elle n’est pas encore tout à fait au point et que cela incite les personnes peu familiarisées avec cette technologie à accepter plus facilement ses résultats, même lorsqu’ils sont erronés ou fantaisistes. (Martin Pope / Getty Images)

Cela fait maintenant plusieurs semaines que fait rage un débat acharné sur la question de savoir si l’intelligence artificielle (IA) va tous nous tuer. Déclenché par une vague de témoignages d’anciens employés de grandes entreprises spécialisées dans l’IA, qui ont pris la parole pour avertir qu’une superintelligence artificielle pourrait entraîner l’extinction de l’humanité, cela a donné lieu à une palette kaléidoscopique de points de vue qui ne s’inscrivent pas dans des lignes idéologiques bien définies. Certains pensent que tout cela n’est que balivernes, soit le fruit d’un engouement irrationnel, soit le résultat d’une campagne de promotion cynique menée par le secteur lui-même. Pour d’autres, convaincus que le potentiel de cette technologie n’est pas une plaisanterie, il s’agit d’avertissements qu’il faut prendre très au sérieux.

À bien des égards, cependant, ce débat passe à côté de l’essentiel. Nous ne devons pas pour autant renoncer à faire toute la lumière sur ce qui s’est exactement passé lors du piratage de HuggingFace, ni négliger la question des agents malveillants ou les dangers d’une future superintelligence artificielle qui pourrait menacer notre survie. Le fait est que ce que nous appelons l’IA a déjà amplement prouvé qu’elle représentait un danger considérable pour l’espèce humaine — et qu’elle cause d’immenses dégâts, alors même qu’elle est encore très loin d’atteindre le stade de la superintelligence.

Il faut savoir que l’IA a « failli déclencher une guerre » entre les États-Unis et la Chine au printemps dernier, selon les propos d’une source qui s’est confiée à CNN à ce sujet. Un analyste du commandement des opérations spéciales avait utilisé un chatbot pour rédiger un rapport sur la cargaison d’un navire chinois naviguant au Moyen-Orient. Celui-ci avait alors « imaginé » que le navire transportait des composants destinés à un programme d’armes nucléaires, ce qui a poussé l’armée américaine à se mobiliser pour intercepter et arraisonner le navire, armes au poing. Des avions militaires avaient même décollé à cette fin. L’opération a été annulée après que les responsables ont passé le rapport au crible et se sont rendu compte qu’il s’agissait d’absurdités générées par IA.

Selon CNN, cet incident est le fruit de deux tendances qui se recoupent : d’une part, le fait que les jeunes analystes « nés avec l’IA » ont tendance à s’appuyer sur cette technologie et à lui accorder une confiance démesurée ; d’autre part, l’adoption intensive de l’IA par le Pentagone sous la houlette du secrétaire à la Défense Pete Hegseth. Il convient de noter que si un conflit armé direct venait à éclater entre les États-Unis et la Chine, cela représenterait un grave danger pour le monde entier, non seulement parce que cela conduirait probablement à une crise économique, mais aussi parce que toute hostilité militaire entre les deux pays risquerait fort de dégénérer en conflit nucléaire, ce qui pourrait véritablement menacer la survie de notre espèce.

Cet incident illustre parfaitement les dangers bien réels et bien présents de l’IA. Nous sommes tellement obsédés par le potentiel catastrophique futur d’agents hypothétiques dotés d’une superintelligence que nous en oublions que l’IA cause déjà de réels préjudices et comporte des risques considérables, non pas parce qu’elle est plus intelligente que nous, mais parce qu’il s’agit d’une technologie imparfaite et truffée d’erreurs que nous nous empressons d’intégrer de force dans pratiquement tous les aspects de notre vie.

Cela inclut la guerre. Bien avant l’incident avec le navire chinois, l’IA était déjà directement responsable de pertes humaines massives et effroyables parmi des innocents, du fait de son intégration dans les opérations militaires. Nous l’avons vu tout récemment avec le meurtre, par l’administration Trump, de dizaines d’écolières iraniennes, où la confiance accordée par l’armée à l’outil d’IA « Maven » de Palantir a joué un rôle majeur dans la chaîne de décisions désastreuses qui a conduit à cette atrocité.

Le personnel du Commandement central américain aurait réduit à quelques minutes ce qui prenait auparavant plusieurs heures de travail pour choisir des cibles, en intégrant les renseignements sous-jacents dans Maven, partant simplement du principe que cet outil d’IA détecterait et mettrait en évidence toute erreur. Ce ne fut pas le cas. Auparavant, nous avions vu l’IA utilisée de manière plus apocalyptique à des fins de guerre à Gaza, où le ciblage par IA était au cœur de la destruction aveugle du territoire par Israël.

Mais il ne s’agit là que de l’utilisation la plus manifestement meurtrière de l’IA. Bon nombre de ses effets néfastes sur la société ont été plus insidieux.

La démocratisation de l’IA a donné lieu à un phénomène désormais largement documenté, que les chercheurs du Massachusetts Institute of Technology ont qualifié de « capitulation cognitive » chez les étudiants universitaires qui, aux prises avec les échéances et la pression de la réussite, se sont tournés en masse vers cette technologie pour rédiger leurs dissertations et réaliser leurs devoirs à leur place. La proportion d’étudiants recourant à cette pratique atteint désormais le chiffre alarmant de 95 %.

Le fait d’avoir confié leur propre capacité de réflexion à des machines signifie que les jeunes diplômés sortent du système éducatif non seulement sans avoir réellement acquis les connaissances propres à leur domaine, mais aussi avec des capacités intellectuelles véritablement dégradées : une moindre mémoire, une incapacité à persévérer face à des défis intellectuels et une perte progressive de leur esprit critique. Les entreprises de Wall Street, habituellement grandes promotrices du secteur de l’IA, se sont, à l’heure de vérité, montrées peu impressionnées par les jeunes travailleurs que ce secteur produit, déçues par une génération de nouvelles recrues qui se révèlent être des penseurs remarquablement superficiels. La situation est si grave que les étudiants eux-mêmes pensent que cette technologie affaiblit leur esprit critique, alors même qu’ils continuent de s’y fier.

Parallèlement, alors que de nombreuses personnes se tournent vers l’IA pour bénéficier d’un accompagnement thérapeutique ou d’une aide face à leurs démons intérieurs, des chatbots ont été associés à une série de suicides, voire de meurtres, commis par des individus en détresse, dont un certain nombre d’adolescents. Le problème est que cette technologie (outre le fait qu’elle n’est pas humaine et ne dispose d’aucune expertise professionnelle en santé mentale) est conçue pour flatter, satisfaire et, d’une manière ou d’une autre, maintenir l’utilisateur en interaction aussi longtemps que possible. En conséquence, le rôle des chatbots dans ces tragédies a varié : tantôt inutiles pour aider les utilisateurs, tantôt alimentant leurs délires et les aidant activement à se faire du mal ou à en faire à autrui.

C’est là que l’IA contribue à ce que des personnes par ailleurs mentalement stables se mettent en danger en suivant des conseils extrêmement néfastes : cet homme hospitalisé après que ChatGPT lui a probablement conseillé de remplacer le sel de son alimentation par un sédatif à l’ancienne ; les randonneurs perdus qui ont failli mourir parce que Google Gemini leur avait conseillé d’emporter bien moins de nourriture et d’eau que nécessaire ; le pasteur qui a failli mourir d’une embolie pulmonaire après que ChatGPT lui a conseillé de ne pas consulter de médecin ; le neuroscientifique âgé qui a reporté son traitement contre le cancer parce qu’il en était venu à faire davantage confiance aux hallucinations de l’IA qu’à son propre médecin ; et bien d’autres encore.

Si des personnes sont blessées ou menacées par l’IA, ce n’est pas parce qu’elle a acquis une conscience et qu’elle est plus intelligente que nous, mais bien au contraire.

En effet, les chatbots basés sur l’IA et autres outils ignorent souvent de quoi ils parlent. Une étude (réalisée par un fournisseur d’IA, qui plus est) a révélé que dix-sept grands modèles linguistiques (LLM) n’avaient répondu correctement qu’à deux questions financières sur cinq. Une autre étude a montré qu’ils donnaient des réponses erronées dans le domaine juridique dans 58 à 88 % des cas.

Selon une autre étude, les chatbots basés sur l’IA soutiennent de manière servile diverses déclarations potentiellement dangereuses formulées par les utilisateurs dans près de la moitié des cas (47 %). Cela est particulièrement alarmant en matière de conseils médicaux : une étude a en effet révélé que l’IA n’était exacte que dans 76 % des cas — une note suffisante pour un devoir universitaire, mais catastrophique dans le contexte médical, où une seule erreur peut entraîner la mort ou une invalidité.

Mais cela ne se limite pas aux chatbots. L’intégration rapide de l’IA dans divers domaines spécialisés a entraîné des conséquences néfastes. Les sanctions judiciaires sont en hausse, car les avocats ne cessent de déposer des mémoires contenant des erreurs générées par l’IA. De l’autre côté de la barre, deux juges fédéraux se seraient appuyés sur l’IA pour rendre des ordonnances truffées d’erreurs, ce qui constitue une préoccupation majeure compte tenu du pouvoir étendu dont disposent les tribunaux dans le système politique américain, et du fait que les juges sont largement à l’abri de toute responsabilité civile. L’utilisation de l’IA dans les dispositifs médicaux utilisés lors d’interventions chirurgicales a provoqué une multitude de lésions, notamment des AVC, après que des chirurgiens ont été induits en erreur par la technologie, ce qui a endommagé des artères.

Une étude menée par les universités de Stanford et de Harvard au début de cette année a révélé que les meilleurs modèles d’IA formulaient des « recommandations cliniques gravement préjudiciables » pour 22 % des cas médicalement traités, souvent par omission. Dans d’autres cas, l’IA est utilisée par les cabinets médicaux et dentaires pour justifier la promotion de traitements coûteux dont les patients n’ont en réalité pas besoin.

À cela s’ajoute la manière dont les algorithmes d’IA sont utilisés pour aggraver et justifier des pratiques répréhensibles déjà existantes au sein des entreprises. Un recours collectif en cours contre UnitedHealth affirme que ses différentes sociétés ont utilisé un outil d’IA sujet à des erreurs pour refuser systématiquement de couvrir des patients. Une autre action en justice accuse un logiciel de recrutement basé sur l’IA d’avoir pratiqué une discrimination systématique à l’embauche à l’encontre de candidats noirs et d’autres groupes.

Dans tous ces cas, des personnes sont blessées ou menacées par l’IA, non pas parce qu’elle a acquis une conscience et qu’elle est plus intelligente que nous, mais au contraire parce qu’il s’agit d’une technologie imparfaite, parfois d’une incompétence risible, que les humains choisissent délibérément de déployer dans des situations où elle est la plus susceptible de causer de graves dommages, parfois de manière expressément conçue pour nuire à autrui.

En réalité, c’est sans doute le battage médiatique, alimenté par les forces du marché, autour de la superintelligence imminente de l’IA qui a contribué à tout cela. La surestimation des capacités de l’IA a favorisé son adoption rapide dans des domaines tels que la guerre ou la santé, alors même qu’elle n’est pas encore prête à être déployée à grande échelle, et incite ceux qui ne connaissent pas bien cette technologie, voire qui en ignorent tout, à prendre ses affirmations pour argent comptant, même lorsqu’elles sont erronées ou délirantes.

Les dangers d’une superintelligence artificielle hypothétique devraient nous préoccuper. Mais nous n’avons pas besoin de déterminer si tel est réellement notre avenir pour pouvoir exiger que le développement de cette technologie soit suspendu de toute urgence, qu’elle soit strictement réglementée et qu’on lui impose des garde-fous sérieux, voire qu’on en interdise purement et simplement l’utilisation à certaines fins. L’IA d’aujourd’hui, rudimentaire et sujette aux erreurs, représente déjà un risque suffisant pour l’humanité.

*

Nous vous proposons cet article afin d'élargir votre champ de réflexion. Cela ne signifie pas forcément que nous approuvions la vision développée ici. Dans tous les cas, notre responsabilité s'arrête aux propos que nous reportons ici. [Lire plus]Nous ne sommes nullement engagés par les propos que l'auteur aurait pu tenir par ailleurs - et encore moins par ceux qu'il pourrait tenir dans le futur. Merci cependant de nous signaler par le formulaire de contact toute information concernant l'auteur qui pourrait nuire à sa réputation.