Anthropic intègre des tatouages invisibles dans tous les textes générés par Claude pour se conformer à l'AI Act de l'UE

Système de tatouage annoncé

Anthropic a annoncé le 11 août que ses modèles d'IA Claude intégreront des tatouages invisibles dans tous les textes générés, conformément au code de transparence de l'AI Act de l'UE (article 50, paragraphe 2) qui est entré en vigueur le 2 août. Les modèles publiés après le 2 août incluent déjà la technologie de tatouage, qui intègre un signal directement dans la séquence de tokens produite par le modèle. Le tatouage est imperceptible pour les humains et n'altère ni le sens, ni la qualité, ni la lisibilité du texte.

Puisque le tatouage fait partie du texte, il voyagera avec le texte lorsqu'il sera copié et collé ailleurs, et pourra persister après certaines modifications. Le tatouage sera appliqué au niveau du modèle, ce qui signifie qu'il sera présent quel que soit le produit ou la surface Claude dont provient le texte.

Portée mondiale et couverture des produits

La mesure s'applique à l'échelle mondiale, pas seulement au sein de l'Union européenne. Le tatouage sera présent dans Claude, l'API de la plateforme Claude, Claude Code, Claude Cowork et Claude Tag, ainsi que dans les sorties des modèles Claude accessibles via des plateformes tierces telles qu'AWS, Google Cloud et Microsoft Foundry. Pour les fichiers générés, Anthropic joindra des métadonnées de provenance signées numériquement utilisant la norme ouverte C2PA, la même norme utilisée par Adobe, Microsoft et une grande partie de l'industrie de la photographie. Les modèles plus anciens recevront progressivement le tatouage, l'UE fixant une échéance au 2 décembre pour la conformité, qu'Anthropic prévoit de respecter.

Limites et réserves

Anthropic a été explicite quant aux limites du système. Un tatouage détecté indique que le contenu a peut-être été traité par Claude, mais n'est pas une preuve concluante que Claude en est l'auteur. Les utilisateurs qui emploient Claude pour éditer, traduire, résumer ou convertir un texte écrit par un humain peuvent constater que le résultat porte la marque Claude, même si les idées sous-jacentes proviennent d'une autre source.

Une marque détectée fournit un signal indiquant que le contenu a été traité par Claude, mais elle n'est pas totalement concluante.

Inversement, l'absence de tatouage ne prouve pas qu'un texte n'a pas été généré ou traité par une IA. La marque peut disparaître si le texte est fortement édité, paraphrasé, traduit, mélangé à d'autres écrits, ou si le passage est trop court pour laisser un signal fiable. Les métadonnées du fichier peuvent être perdues lors d'une conversion de format, d'une capture d'écran, d'une sauvegarde, ou d'une génération sur une plateforme qui ne prend pas en charge le marquage.

Contexte réglementaire et paysage industriel

Le tatouage répond à l'article 50 de l'AI Act de l'UE, qui exige que le contenu synthétique soit automatiquement détectable et que les deepfakes et certains textes sur des sujets d'intérêt public soient correctement étiquetés. Anthropic a signé le code de bonnes pratiques de l'UE sur la transparence des contenus générés par l'IA. D'autres entreprises, dont OpenAI, Google, Meta, Microsoft, Black Forest Labs et Synthesia, se sont également engagées à respecter le code européen. Le système SynthID de Google, qui remplit une fonction similaire, a été adopté par Apple, ElevenLabs, Kakao, Nvidia et OpenAI. Par ailleurs, la plateforme musicale IA Suno a annoncé qu'elle marquera les morceaux créés sur sa plateforme, et le service de newsletter Substack s'est associé à Pangram pour signaler les contenus générés par l'IA, le PDG de Substack, Chris Best, dénonçant le 'Claudefishing', un terme désignant les personnes utilisant l'IA pour générer du contenu.

Réactions des utilisateurs et prochaines étapes

L'annonce a suscité des critiques sur la plateforme de médias sociaux X, où certains utilisateurs ont exprimé leur opposition et d'autres ont déclaré qu'ils cesseraient d'utiliser Claude. Les préoccupations portent sur le risque qu'un texte simplement édité ou affiné via Claude soit faussement signalé comme généré par une IA. Anthropic n'a pas divulgué le mécanisme technique d'intégration du tatouage, vraisemblablement pour rendre la suppression plus difficile. L'entreprise a déclaré qu'elle travaille à permettre aux utilisateurs et autres entités de détecter les marques et la provenance des métadonnées, avec un délai de quelques semaines pour publier les détails de détection.