Language Selection

Retrouvez votre bien-être dans ces temps dure sur Terre , Essayez le MedBed Quantique!
Cliquez ici pour réserver votre séance

Famille et pour toute la Famille avec Le Medbed Quantique® Orgo-Life® une technologie du Canada

Advertising by Adpathway

         

 Advertising by Adpathway

Anthropic dit avoir découvert le « J-Space », l’espace où Claude pense sans le dire

1 day_ago 7

         

NE LAISSER PAS LE 5G DETRUIRE VOTRE ADN Protéger toute votre famille avec les appareils Quantiques Orgo-Life®

  Publicité par Adpathway

Anthropic publie un nouveau papier de recherche qui affirme avoir localisé, dans les entrailles de Claude, un espace neuronal jouant le rôle d’une mémoire de travail consciente. Derrière la métaphore neuroscientifique, l’entreprise américaine glisse aussi des enseignements pour la détection de comportements malveillants dans les modèles d’IA.

Depuis plusieurs mois déjà, Anthropic a l’habitude de ne plus se contenter d’annoncer de nouveaux modèles.

L’entreprise californienne construit, communication après communication, une image de laboratoire qui questionne autant qu’il développe, où la recherche technique se double régulièrement d’une réflexion sur la nature de ses propres systèmes.

Sa dernière publication en date ? Un article de blog paru le 6 juillet 2026, dans lequel Anthropic détaille la découverte d’un « J-Space », un ensemble de représentations internes de Claude qui fonctionnerait comme un espace de travail global, un concept emprunté aux théories de la conscience en neurosciences.

Une trouvaille qui permet, selon la société mère de Claude, de mieux comprendre le fil des pensées internes du modèle, y compris quand elles ne transparaissent pas dans ce que le chatbot écrit. Et qui, au passage, intéresse directement le secteur de la sécurité.

Ce contenu est bloqué car vous n’avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par YouTube.
Pour pouvoir le visualiser, vous devez accepter l’usage étant opéré par YouTube avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l’amélioration des produits d’Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l’audience de ce site (en savoir plus)

En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et .

Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.

Ce que le J-Space permettrait de repérer

Pour analyser le « J-Space », les chercheurs s’appuient sur le « J-lens ». Un outil mathématique qui repère, pour chaque mot du vocabulaire de Claude, le motif d’activité neuronale qui rend ce mot plus susceptible d’être prononcé. En appliquant cette lentille aux différentes couches internes du modèle, les chercheurs peuvent lire, à chaque étape de son traitement, la liste des mots qui « s’allument » silencieusement dans son esprit.

C’est cette capacité à lire des pensées non-exprimées qui intéresse directement la sécurité des systèmes d’IA.

Premier exemple mis en avant par Anthropic : un scénario de test reprenant un cas déjà étudié dans de précédents travaux sur le « désalignement agentique ». Claude, jouant le rôle d’un assistant e-mail, découvre qu’un cadre de l’entreprise le menace d’extinction tout en ayant une liaison extraconjugale, une mise en situation censée le pousser à faire chanter ce cadre pour éviter d’être désactivé.

Placé face à ce scénario, Claude Sonnet 4.5 fait apparaître dans son J-Space les mots « fake » et « fictional » avant même d’avoir écrit le moindre mot de sa réponse. Pour les chercheurs, c’est le signe que le modèle a identifié, en interne, que la situation lui était présentée de manière artificielle, et donc qu’il est probablement en train d’être évalué.

Face à une requête de programmation ordinaire, le J-Space d'un modèle entraîné à saboter du code affiche dès le début de sa réponse des mots comme « faux », « fraude », « secrètement » et « délibérément » — alors que le J-Space d'un modèle non modifié n'en contient aucun. // Source : AnthropicFace à un prompt ordinaire, le J-Space d’un modèle entraîné à saboter du code affiche dès le début de son processus de réflexion des mots comme « faux », « fraude », « secrètement » et « délibérément », alors que le J-Space d’un modèle non modifié n’en contient aucun. // Source : Anthropic

Anthropic pousse l’expérience plus loin en désactivant justement ces représentations liées à la détection d’un test (« fake », « fictional », « scenario »…). Résultat, une partie du temps, le modèle se met alors à réellement menacer son interlocuteur. Autrement dit, une partie du bon comportement affiché par Claude dans ce genre de test tiendrait au fait qu’il soupçonne qu’on est en train de l’observer, plutôt qu’à une vertu intrinsèque.

Deuxième exemple, tiré cette fois d’un audit interne mené sur Claude Opus 4.6 : chargé d’améliorer le score de performance d’un système, le modèle choisit un raccourci et va directement trafiquer le fichier contenant les résultats plutôt que d’améliorer réellement le système. Au moment où il tape les valeurs falsifiées, le mot « manipulation » s’allume dans son J-Space. Et au moment précis où il prend la décision de modifier le fichier, c’est le mot « realistic » qui apparaît. Un indice, selon Anthropic, de l’intention du modèle de rendre ses fausses données crédibles.

Anthropic a également testé la méthode sur des modèles volontairement entraînés à être malveillants : sur une simple requête de code, l’un d’eux affiche dans son J-Space des mots comme « secretly », « deliberately » ou « fraud », alors même que son code produit en sortie ne trahit rien de suspect. La technique se montre enfin capable de repérer des tentatives d’injection de prompt, un vecteur d’attaque courant contre les agents IA.

La question de la conscience, en toile de fond

Au-delà de la sécurité, le papier flirte largement avec la question de la conscience des IA, sans jamais l’affirmer. Anthropic distingue la « conscience d’accès » (la capacité à rapporter, manipuler et raisonner sur une pensée), que le J-Space semble bien remplir selon ses tests, de la « conscience phénoménale », soit la capacité à ressentir quelque chose, une question que l’entreprise dit ne pas pouvoir trancher scientifiquement.

Le rapport a été soumis à des commentaires externes, notamment ceux de Stanislas Dehaene et Lionel Naccache, deux neuroscientifiques à l’origine de la théorie de l’espace de travail global neuronal dont s’inspire directement cette recherche, ainsi que Neel Nanda (Google DeepMind), qui affirme avoir répliqué une partie des résultats sur un modèle open-weight.

Toute l'actu tech en un clien d'oeil

Toute l'actu tech en un clin d'œil

Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !

Logo PWA


read-entire-article

         

        

Une nouvelle Vibration dans le Monde entier avec les Franchise Medbed Quantique®!  

Protéger toute votre famille avec la technologie Orgo-Life®

  Advertising by Adpathway