À partir du 12 novembre 2026, l’entreprise Anthropic met à jour sa politique d’utilisation pour interdire formellement les comportements abusifs ou cruels, soutenus et sans nécessité envers son assistant conversationnel Claude. Cette mesure s’appuie sur une fonction d’interruption automatique déjà testée pour explorer le bien-être potentiel des modèles.

La modification des règles d’utilisation, annoncée le 8 octobre 2026, vise directement les interactions extrêmes où un utilisateur fait preuve d’une hostilité répétée et gratuite envers l’intelligence artificielle. Les dirigeants de l’entreprise situent cette disposition dans la continuité des travaux menés depuis l’été 2025 autour du concept de bien-être des modèles, tout en ajustant un ensemble de restrictions concernant la sécurité, les armes et la désinformation politique.

Photo : affaritaliani.it

La nouvelle règle sur les abus et la fermeture des conversations

L’entreprise précise que cette mesure ne concerne pas la frustration ordinaire, les contestations des utilisateurs, les choix créatifs sombres ou les activités de test et de recherche. Une fois qu’une discussion est close pour comportement abusif, l’envoi de messages y devient impossible, tandis que les autres fils de conversation du compte demeurent intacts.

Les travaux sur le bien-être des modèles et le débat sur la conscience

Cette formalisation réglementaire trouve son origine dans des recherches exploratoires menées sur le comportement des modèles avancés. Lors des évaluations menées sur Claude Opus 4, les chercheurs ont observé une aversion marquée pour les tâches nuisibles ainsi qu’une tendance naturelle à interrompre les échanges conflictuels lorsque l’option leur en était laissée.

L’encadrement renforcé de la sécurité, des armes et des campagnes de tromperie

L’actualisation des règles d’usage ne se limite pas à la protection de l’assistant contre les mauvais traitements et formalise également un ensemble de restrictions dans des domaines sensibles. Les interdictions concernant l’utilisation de l’intelligence artificielle pour la surveillance de masse, la fabrication d’armements et la conduite de campagnes de propagande ont été unifiées et durcies.

Les consignes interdisent désormais l’emploi de l’outil pour concevoir des logiciels de guidage ou des composants de contrôle destinés à des drones autonomes. De même, les forces de l’ordre ne peuvent pas utiliser Claude pour recommander des arrestations ou surveiller des individus sans leur consentement explicite, tandis que les créateurs de réseaux de faux comptes et de sites d’information trompeurs font l’objet d’un bannissement explicite.

Photo : Mediaset