Depuis le début du mois d'août, les textes produits par les nouveaux modèles Claude portent un filigrane invisible. Anthropic applique cette mesure partout dans le monde et pas seulement en Europe, alors que l'obligation découle de l'article 50 du règlement européen sur l'intelligence artificielle, qui impose de rendre identifiables les contenus générés par une machine.
L'entreprise s'appuie sur SynthID-Text, une méthode mise au point par Google DeepMind. Les fichiers image générés reçoivent de leur côté des informations de provenance signées au standard C2PA, sur les formats .png, .jpg et .svg.
Le filigrane est caché dans le choix des mots
Le procédé n'ajoute aucun caractère et ne retouche rien après coup. Il modifie la source de hasard utilisée pendant la génération du texte.
Quand un modèle écrit mot à mot, il arbitre en permanence entre des options équivalentes. Après « le temps était froid et », il peut écrire « couvert » ou « gris » sans que cela change quoi que ce soit au sens. Ce tirage, normalement aléatoire, est désormais dérivé d'une clé cryptographique et des mots qui précèdent. « Les mots que Claude choisit restent aléatoires, mais on peut vérifier si la séquence est cohérente avec les choix que Claude ferait en utilisant la clé », explique Anthropic.
Le texte reste donc parfaitement normal à la lecture. Seul quelqu'un disposant de la clé peut repérer le motif.
Anthropic admet certaines limites
C'est la partie la plus intéressante de la documentation, elle est inhabituellement franche. L'entreprise énumère les cas où son propre filigrane ne fonctionne pas, ou presque pas :
- Les passages factuels, où les alternatives entre les mots sont rares, et beaucoup moins marqués
- La détection fonctionne mal sur les textes courts, faute de matière suffisante
- Quand le modèle relit un texte humain, la quasi-totalité des mots restent ceux de la personne et le filigrane n'a presque rien à quoi s'accrocher
- Le code n'est quasiment pas marqué, puisqu'une variation y serait tout simplement fausse ou casserait le programme
Surtout, Anthropic précise qu'un filigrane détecté indique seulement que « Claude a probablement été impliqué dans le contenu à un moment donné ». Il ne permet pas de distinguer un texte écrit par le modèle d'un texte fortement retravaillé par lui, a contrario son absence ne prouve rien non plus.
L'outil documente donc une trace, pour les enseignants, les rédactions et les recruteurs qui attendent de la détection d'IA qu'elle sépare proprement l'humain de la machine, la maj est de taille.
La mesure ne concerne pour l'instant que les nouveaux modèles, les précédents devant être couverts dans les mois à venir. Nous avions détaillé les différences entre Opus 5 et les modèles qui l'ont précédé en juillet, et dressé l'état du marché des IA génératives début août.