Que diriez-vous si votre enfant, à la sortie de l’école, vous montrait une photo de lui générée par intelligence artificielle et qui imagine sa version adulte (et idéalisée) ? C’est la question à laquelle s’est récemment retrouvée confrontée Nikki Anderson.

Cette mère de famille de 32 ans, qui réside en Caroline du Sud, a eu la désagréable surprise de découvrir que l’école primaire où est scolarisée Harper, 6 ans, avait généré sans son consentement une « version adulte » de sa fille.

Dans un message posté sur Instagram le 18 octobre et depuis devenu viral, elle raconte s’être retrouvée totalement désarçonnée face à l’image factice de sa fille vieillie et habillée en infirmière, le métier qu’elle souhaite exercer plus tard.

Face à cette version de Harper à 25 ans, dont les traits correspondent aux standards de beauté définis par les algorithmes, Nikki rapporte auprès du magazine People s’être demandée si elle avait le droit d’être dégoûtée. « Un professeur a-t-il vraiment téléchargé la photo de ma fille quelque part pour faire ça, sachant ce que l’on sait de l’IA ? », questionne-t-elle, avant d’ajouter : « J’étais sincèrement incrédule ».

L’IA bride la créativité enfantine

Car pour Nikki Anderson, cette photo montrant à sa fille à quoi elle pourrait ressembler à l’âge de 25 ans représente l’un des problèmes que pose l’IA : elle bride l’imagination des enfants.

Pour appuyer son propos, la mère de famille joint à cette photo factice un collage fait par sa fille. Avec quelques morceaux de papier, des ciseaux et de la colle, Harper avait réussi à se représenter en infirmière. « Tout dans ce dessin relevait d’une décision qu’elle avait prise, écrit Nikki Anderson. À quoi ressemble une infirmière ? Dans quel hôpital exerce-t-elle ? C’est de la créativité enfantine, de l’imagination, du développement cognitif. »

Bref, tout ce que l’IA ne peut apporter aux enfants, pointe Nikki Anderson, qui estime que son utilisation ne peut être que néfaste à leur âge. « Les enfants de 6 ans sont déjà créatifs. Ils sont déjà innovants. Ils sont déjà capables d’imaginer des avenirs que les adultes ne pourraient pas prévoir. Pourquoi externaliser cela ?, demande-t-elle. Harper a 6 ans, et elle est à cet âge incroyable où le monde regorge encore de possibilités. Elle n’a pas besoin d’un ordinateur pour lui dire ce qu’elle pourrait devenir. »

Nikki Anderson craint aussi que cette image donne à sa fille une image erronée d’elle-même, et fausse ses attentes. « Elle a dit qu’elle adorait la photo parce qu’elle avait les cheveux raides et ondulés, et que c’est ce qu’elle avait toujours voulu, et qu’elle espérait être aussi belle en grandissant. Je lui ai dit que ce n’était qu’une supposition, qu’il se peut qu’elle ne lui ressemble pas… Elle espère que si », rapporte-t-elle.

« Les enfants méritent d’être protégés »

L’autre inquiétude de Nikki Anderson est que cette utilisation de l’IA à l’école s’est faite sans le consentement des élèves, mais aussi des parents, ce qui pose une question quant au respect de la vie privée des enfants.

« Quel logiciel a été utilisé ? Était-ce une plateforme externe ? Qu’advient-il de ces photos ensuite ? Ce sont des questions auxquelles chaque parent mérite des réponses », insiste Nikki, qui ajoute que les enfants « ne peuvent pas consentir de manière éclairée à ce genre d’utilisation ». « Je pense que nos enfants méritent d’être protégés, non seulement de leur image, mais aussi de leur esprit. »

En plus de son post Instagram, Nikki Anderson rapporte à People avoir posé ces questions à l’administration de l’école de sa fille pour avoir des réponses. Si pour l’heure, elle n’a pas eu de retour, ses réflexions ont trouvé un écho certain chez d’autres parents, qui ont eux aussi exprimé leur inquiétude quant à l’utilisation de l’IA dans un cadre scolaire.

« L’imagination de votre enfant est merveilleuse et votre désir de la protéger est admirable et nécessaire », écrit une internaute, tandis qu’une autre assure qu’elle serait « absolument furieuse » si l’école générait des photos de son enfant avec l’IA. « C’est au-delà de l’irresponsable, sans parler des coûts éthiques et environnementaux », estime-t-elle.

De nombreuses enseignantes ont aussi commenté la publication en apportant leur soutien à Nikki Anderson dans sa démarche et en rappelant que l’école de sa fille n’avait aucun droit légal à utiliser l’IA. Si la mère de famille les remercie, elle rappelle que sa démarche n’est en rien une attaque contre les enseignants, mais un moyen de mettre en place des garanties de l’usage de cette technologie.

« On demande déjà aux enseignants d’en faire énormément avec des ressources limitées, et je ne pense pas que la responsabilité de s’orienter dans un environnement technologique entièrement nouveau doive reposer exclusivement sur eux », conclut-elle.