OpenAI ha annunciato l’introduzione di un watermark invisibile per i testi generati da ChatGPT e Codex in Europa, ma la firma non rivela chi abbia scritto. L’innovazione, chiamata textGrain, è parte di un obbligo di trasparenza previsto dall’AI Act, che richiede ai fornitori di intelligenza artificiale generativa di rendere i testi prodotti riconoscibili da una macchina. L’obbligo si applica dal 2 agosto 2026, con una scadenza tecnica per i sistemi già sul mercato il 2 dicembre, come ricorda The Next Web.
Un watermark invisibile, ma non identificativo
textGrain non aggiunge caratteri nascosti né metadati, ma inserisce un segnale statistico invisibile alle scelte di parole del modello. Quando, durante la generazione, più parole sono quasi equivalenti, una chiave segreta orienta la scelta verso alcune di esse. La singola frase resta normale alla lettura, mentre su alcuni token la somma di quelle preferenze diventa un’impronta riconoscibile solo da un rilevatore con la stessa chiave. La firma non è cancellabile con il copia-incolla, poiché viaggia con le parole ovunque vengano incollate.
La firma non misura il contributo umano, non stabilisce proprietà o responsabilità del testo. La sua assenza non prova che a scrivere sia stata una persona, perché il testo può essere troppo breve, rivisto, tradotto, precedente all’attivazione o prodotto da un altro fornitore. La firma registra il passaggio di un testo dentro un modello, ma non sa nulla della paternità. Un testo scritto da un analista e poi rivisto da ChatGPT può uscirne marcato, mentre un testo generato da zero e poi parafrasato può risultarne privo.
Limiti e ambiguità della tecnologia
OpenAI ha rivelato i limiti del proprio strumento, indicando che con una soglia di falsi positivi fissata all’1%, il rilevatore ha riconosciuto la firma in circa l’80% dei passaggi da 200 token e in circa il 95% di quelli da 400, su contenuti come la psicologia. Sulla matematica, dove la scelta delle parole è più vincolata, i tassi sono stati sostanzialmente più bassi. Le modifiche pesano più della lunghezza: sostituire il 10% delle parole con sinonimi riduce la rilevazione da circa il 92% al 66%, mentre sostituirne un quarto la porta al 17%.
La qualità delle risposte non cambia in modo significativo con la firma attiva. Secondo i benchmark pubblicati su GPT-6 Astra, i punteggi oscillano tra 49,76 e 49,57 sull’Artificial Analysis Intelligence Index, con variazioni minime in entrambe le direzioni sugli altri test. Chi vuole cancellarla ha già a disposizione la parafrasi automatica, e il caso di Claude insegna che gli strumenti per rimuovere i watermark compaiono nel giro di poche settimane.
Per ora quasi nessuno può leggere la firma. OpenAI ha aperto le candidature per accedere al rilevatore, riservandolo in una prima fase a ricercatori e organizzazioni approvate caso per caso, in linea con il Codice di condotta europeo sulla trasparenza dei contenuti generati. Lo strumento indica soltanto se trova una firma OpenAI, senza identificare l’utente né rivelare prompt o conversazioni. La motivazione dichiarata è proprio i falsi positivi e le firme mancate, che renderebbero rischioso un uso pubblico. La scelta ha una conseguenza pratica per scuole, redazioni, uffici del personale e studi legali: oggi nessuno di loro può verificare da sé un testo sospetto con la chiave di OpenAI, e chi proporrà un rilevatore di ChatGPT nelle prossime settimane starà vendendo un’altra tecnologia. La tecnologia è stata in casa di OpenAI fin dal 2022, quando era stata inizialmente messa a punto, ma non era mai stata attivata.
