La società applicherà una filigrana statistica alle scelte lessicali dei propri modelli, in modo da rendere riconoscibili i contenuti prodotti dall’intelligenza artificiale. Il sistema non sarà un’etichetta esterna, ma un’impronta incorporata nella sequenza delle parole.
Anthropic introdurrà un watermark nei testi generati dai propri modelli di intelligenza artificiale per adeguarsi alle nuove disposizioni europee previste dall’AI Act. La misura risponde in particolare all’articolo 50 del regolamento, attivato il 2 agosto, che chiede ai fornitori di sistemi di IA di rendere identificabili i contenuti generati o modificati artificialmente.
La novità riguarda uno dei punti più delicati del rapporto tra intelligenza artificiale, informazione e trasparenza. Il watermark annunciato da Anthropic non sarà un metadato nascosto nel file né una semplice etichetta aggiunta al testo. La filigrana verrà invece inserita direttamente nel processo con cui il modello sceglie le parole, intervenendo sulle probabilità di selezione dei token e creando una piccola impronta statistica riconoscibile. In pratica, quando un modello linguistico genera una frase, valuta passo dopo passo quali termini usare. Il watermark agisce su questa fase, favorendo alcune scelte lessicali secondo uno schema prestabilito. Il risultato è un segnale invisibile al lettore comune, ma potenzialmente rilevabile da strumenti dedicati. Il vantaggio principale è che la filigrana può sopravvivere al copia-incolla, perché non dipende dal formato del documento ma dalla struttura stessa del testo prodotto.
La rilevazione, tuttavia, non è automatica né universale. Per riconoscere il watermark servono strumenti in grado di conoscere o ricostruire la chiave e l’algoritmo utilizzati. Il sistema si basa infatti sul confronto tra le frequenze dei token favoriti e quelle attese statisticamente. Solo così un rilevatore può stabilire se un testo sia verosimilmente generato da un modello di IA. La scelta di Anthropic si inserisce in un quadro più ampio. Soluzioni simili sono già state sviluppate da altri operatori, come Google con SynthID-Text, che utilizza un meccanismo basato su punteggi pseudocasuali legati a una chiave e al contesto, una sorta di confronto tra token candidati prima della scelta finale.
Il punto centrale sarà ora l’efficacia pratica. Un watermark statistico può rendere meno invisibile il riuso anonimo di contenuti generati dall’IA e può aiutare editori, aziende e piattaforme a rispettare gli obblighi di trasparenza. Ma perché funzioni davvero servono standard condivisi, strumenti di verifica accessibili e garanzie contro false attribuzioni, manipolazioni o tentativi di elusione. Per il mondo dell’informazione, la novità può incidere sulle pratiche editoriali. Sapere se un testo è stato prodotto o modificato da un sistema artificiale può diventare rilevante per la responsabilità verso i lettori, per la verifica delle fonti e per la definizione di regole interne sull’uso dell’IA. Per le imprese, invece, la filigrana potrebbe diventare uno strumento di conformità normativa, soprattutto nei prodotti e nei servizi che integrano contenuti generati automaticamente.
Resta aperto il tema della fiducia. La trasparenza non dipenderà solo dalla presenza del watermark, ma dalla possibilità per utenti, autorità e operatori di verificarlo in modo affidabile. Se gli strumenti resteranno chiusi, frammentati o accessibili solo ai produttori, il rischio è che la filigrana diventi un adempimento tecnico poco utile al pubblico. Se invece emergeranno standard interoperabili, il watermark potrà diventare una componente importante dell’ecosistema di controllo dei contenuti generati dall’IA. La decisione di Anthropic rappresenta quindi un passaggio concreto nell’attuazione dell’AI Act e potrebbe spingere altri fornitori di modelli a muoversi nella stessa direzione. Nei prossimi mesi la sfida sarà capire se la marcatura dei testi diventerà una pratica condivisa e verificabile o se resterà un mosaico di soluzioni proprietarie. In gioco non c’è soltanto la conformità normativa, ma la possibilità di costruire un rapporto più chiaro tra contenuti umani, contenuti sintetici e diritto dei cittadini a sapere con che cosa stanno interagendo.
Commenti recenti