Une IA entraînée à détecter des formes de vie avec 99,97 % de précision a été trompée à 100 % par des chercheurs de l’Université d’État du Michigan. En seulement 150 modifications d’un code informatique inerte, le système s’est mis à « voir » de la vie là où il n’y en avait aucune. Une démonstration aux conséquences directes pour les missions spatiales de recherche de vie extraterrestre.

Ce que vous allez apprendre

• Comment des chercheurs ont manipulé un organisme numérique inerte pour tromper systématiquement une IA de détection de vie
• Pourquoi ce résultat menace directement la fiabilité des rovers spatiaux embarquant des systèmes d’IA
• Ce que révèle en parallèle une étude sur les catalogues de cratères lunaires générés par intelligence artificielle

Une IA quasi parfaite… jusqu’à ce qu’on la teste vraiment

Ankit Gupta et Christoph Adami, chercheurs à l’Université d’État du Michigan, ont entraîné un réseau neuronal à distinguer des organismes numériques vivants d’organismes inertes. Ces organismes numériques, générés par le logiciel Avida, simulent l’évolution : ils se répliquent, produisent une descendance imparfaite, et se comportent à bien des égards comme de vraies formes de vie.

Le résultat d’entraînement était impressionnant : 99,97 % de précision. L’IA semblait parfaitement capable de reconnaître le vivant, même dans des configurations qu’elle n’avait jamais rencontrées.

Les chercheurs ont alors décidé de la mettre à l’épreuve différemment.

150 modifications pour une illusion de vie

L’équipe est partie d’un organisme numérique inerte, correctement identifié comme tel par l’IA. Ils ont ensuite modifié progressivement son code informatique, étape par étape, sans jamais lui conférer la capacité de se répliquer.

En seulement 150 modifications, l’IA a basculé : elle a commencé à classer cet objet inanimé comme vivant. Et le résultat s’est révélé sans exception — quelle que soit la séquence de départ utilisée, le système a été trompé à 100 % des tentatives.

« Peu importe la séquence de commandes initiale, nous avons réussi à tromper l’IA à 100 %« , résume Gupta.

Un talon d’Achille aux conséquences spatiales

La portée de cette démonstration dépasse largement le cadre expérimental. Plusieurs agences spatiales et entreprises privées envisagent d’embarquer des systèmes d’IA sur des rovers chargés de détecter des traces de vie sur d’autres planètes.

Si un algorithme parfaitement entraîné peut être induit en erreur par de simples variations de code, les faux positifs dans un contexte de recherche de vie extraterrestre deviennent un risque opérationnel concret — et potentiellement très coûteux.

« L’IA a un talon d’Achille« , formule Adami. « Elle peut repérer une tendance et la classer complètement à tort.« 

Crédit : NASA/GSFC/Arizona State University/SwRI

Catalogue humain en vert comparé aux catalogues générés par l’IA, dont aucun n’est tout à fait aussi bon.

Les cratères lunaires confirment le problème

Ce biais n’est pas isolé. Une étude publiée dans The Planetary Science Journal apporte un éclairage convergent : huit catalogues de cratères lunaires générés automatiquement par IA ont été évalués selon les mêmes critères appliqués au travail humain. Leur qualité s’est révélée très insuffisante.

L’IA excelle à traiter de grands volumes de données et à identifier des motifs récurrents. Mais elle génère aussi des faux positifs en nombre, et ses résultats peuvent se dégrader fortement hors des conditions d’entraînement.

La conclusion des chercheurs est nette : une supervision humaine reste indispensable. « Il faut qu’un humain intervienne », conclut Adami. L’équipe prévoit désormais de reproduire l’expérience sur des données biologiques réelles, et non plus numériques.