La gouverneure de l’État de New York a promulgué mercredi une loi interdisant de laisser des mineurs dialoguer avec des compagnons IA. La définition adoptée s’applique à la plupart des robots conversationnels d’intelligence artificielle générative sur le marché.

Des lois encadrant l’utilisation d’un compagnon IA par un mineur ont déjà été adoptées dans plusieurs États, notamment la Californie, mais aucune n’avait défini un spectre aussi large.

L’organe de représentation du secteur technologique à New York, Tech: NYC, a dénoncé le texte signé par Kathy Hochul, notamment «son langage vague» qui «pose sérieusement question» quant à une possible violation du premier amendement de la constitution américaine sur la liberté d’expression.

Concrètement, la loi oblige les opérateurs de robots conversationnels à vérifier l’âge des utilisateurs et à empêcher certains traits de l’interface IA de se manifester s’il est établi que l’internaute est mineur.

Aide aux devoirs

Le robot conversationnel ne peut ainsi pas produire du contenu laissant penser qu’il est «humain, vivant, ou qu’il ressent des sentiments humains», précise la loi. Il ne doit pas non plus présenter ses interactions avec le jeune usager comme «une relation personnelle» ou «professionnelle», mais aussi prendre «un rôle de référent».

Le texte qu’il produit ne doit pas être présenté comme une «opinion personnelle». Le robot n’est pas non plus autorisé à poser des questions sur les sentiments et l’état psychologique de l’utilisateur.

«Assurer la sécurité des enfants en ligne ne devrait pas impliquer de les couper d’outils d’apprentissage et de préparation à une carrière professionnelle», a fait valoir Tech: NYC.

Selon l’organisation, le texte «pourrait restreindre l’accès au tutorat, à l’aide aux devoirs, aux assistants de programmation et à des plateformes essentielles dans l’optique d’une carrière professionnelle, tout en augmentant les risques d’exploitation des données liées à des enfants».