Avant de demander conseil à une intelligence artificielle sur un sujet technique, mieux vaut garder son esprit critique en éveil, car les conséquences peuvent parfois être bien plus concrètes qu’une simple réponse maladroite. C’est justement ce qu’a découvert à ses dépens un agriculteur chinois qui pensait avoir trouvé, en l’IA, un assistant fiable pour gérer ses cultures au quotidien. Son histoire, aussi surprenante que révélatrice, met en lumière un phénomène que l’on connaît de mieux en mieux : la capacité des chatbots à formuler des réponses avec un aplomb total, même lorsqu’elles sont totalement erronées. Et quand ces réponses concernent des produits chimiques agricoles, l’addition peut se chiffrer en hectares détruits.

Le jour où l’IA a tué un champ de sésame entier

L’histoire se déroule à Chuzhou, en Chine, où un agriculteur de 67 ans utilisait depuis plusieurs mois un chatbot d’intelligence artificielle pour organiser ses travaux agricoles et obtenir des conseils sur les engrais. D’abord méfiant face à cette technologie, l’homme avait fini par lui accorder une confiance presque totale, un basculement que l’on retrouve chez de nombreux utilisateurs séduits par la rapidité et l’apparente pertinence des réponses fournies.

C’est en interrogeant l’IA sur la lutte contre les ravageurs de sa culture de sésame que les choses ont mal tourné. Le chatbot lui a recommandé un mélange composé de flupyriméthaline, de fomesafen, de thiaméthoxazine et de sel de méthyle. Sans consulter le moindre professionnel, l’agriculteur a pulvérisé ce cocktail sur l’ensemble de ses parcelles. Dès le lendemain, le constat était sans appel : environ 10 hectares, soit 100 000 mètres carrés de récolte, avaient été anéantis en une seule nuit.

Pris de panique, l’homme s’est de nouveau tourné vers le même chatbot pour comprendre ce qui s’était produit. Cette fois, la machine s’est montrée plus éclairante, expliquant que le fomesafen est un herbicide conçu pour lutter contre les dicotylédones, ces plantes à feuilles larges, notamment utilisé dans les cultures de soja. Or, le sésame est lui aussi une espèce à feuilles larges. Résultat : l’herbicide n’a fait aucune distinction entre les mauvaises herbes et les jeunes pousses. « Si vous pulvérisez le produit, les jeunes pousses ne survivront pas le lendemain », a résumé l’agriculteur, amer, auprès du média taïwanais CTWant.

Pourquoi les chatbots inventent des réponses avec autant d’assurance que d’erreurs

Ce fiasco agricole illustre parfaitement un défaut structurel des chatbots actuels. Ces outils ne sont pas des bases de données infaillibles, mais des systèmes entraînés sur d’immenses quantités de textes produits par des humains. Leur fonctionnement consiste à repérer des schémas dans l’agencement des mots, puis à générer la suite la plus statistiquement plausible, sans réelle compréhension du sens ni vérification factuelle. Autrement dit, l’IA ne sait pas ce qu’elle dit : elle prédit ce qui sonne juste.

Une étude internationale récente a d’ailleurs révélé que 45 % des réponses fournies par l’IA présentaient au moins un problème significatif, dont 20 % relevaient carrément d’hallucinations, ce terme un peu pudique employé pour désigner des affirmations totalement inventées mais formulées avec la plus grande assurance. Ce chiffre prend une tout autre dimension lorsque l’on sait qu’une personne sur sept a déjà utilisé l’IA pour obtenir des conseils de santé, et que les utilisateurs les moins familiers avec certaines langues ou les moins instruits reçoivent souvent des réponses de moindre qualité, sans toujours pouvoir s’en rendre compte.

Quand l’agriculture de précision se transforme en pari risqué

L’agriculture moderne s’appuie de plus en plus sur des outils numériques pour optimiser les rendements, ajuster les doses d’engrais ou anticiper les périodes de traitement. Sur le papier, l’idée séduit : gagner du temps, réduire les coûts, affiner chaque décision grâce à des recommandations personnalisées. Mais l’exemple de Chuzhou rappelle une évidence trop souvent oubliée : un chatbot généraliste n’a aucune expertise agronomique certifiée, et ses suggestions, aussi précises qu’elles puissent paraître, ne remplacent pas l’avis d’un professionnel du secteur.

Dans ce cas précis, la confusion entre une culture de soja et une culture de sésame, deux plantes à feuilles larges, a suffi à transformer un traitement censé protéger la récolte en véritable désastre. Ce genre d’erreur, presque anecdotique dans un cadre théorique, devient catastrophique lorsqu’elle est appliquée sans filtre sur des hectares entiers de terres cultivées.

Ce que cette catastrophe agricole nous apprend sur nos usages de l’IA au quotidien

Cette mésaventure n’est malheureusement pas isolée. Un rapport de cas soumis à l’évaluation par les pairs a par exemple rapporté l’histoire d’un homme à qui l’on avait recommandé de remplacer le chlorure de sodium, autrement dit le sel de table, par du bromure de sodium, avec des conséquences tout aussi désastreuses sur sa santé. D’un champ de sésame à une simple recommandation alimentaire, le point commun reste le même : une confiance excessive accordée à une machine qui ne fait que générer du texte plausible, sans garantie d’exactitude.

À l’heure où l’intelligence artificielle s’invite dans de plus en plus de foyers et de métiers, cette histoire venue de Chine agit comme un rappel salutaire. Un chatbot peut être un excellent point de départ pour se renseigner, mais il ne doit jamais devenir la seule source de vérité, en particulier lorsque les enjeux, financiers, agricoles ou sanitaires, sont aussi élevés.

Cette affaire de sésame détruit en une seule nuit résume à elle seule les limites actuelles des chatbots : brillants pour reformuler, résumer ou vulgariser, mais parfaitement incapables de garantir l’exactitude de leurs recommandations techniques. Reste une question qui mérite d’être posée à chaque nouvelle conversation avec une IA : et si, cette fois encore, la réponse la plus convaincante n’était pas la bonne ?