OpenAI inizierà ad applicare nell’Unione europea un watermark invisibile ai testi generati da ChatGPT e Codex. La misura, annunciata dalla società, punta a rispondere agli obblighi di trasparenza dell’EU AI Act entrati in vigore il 2 agosto.
Il segnale non comparirà come un simbolo nel testo: agirà in modo impercettibile sulle scelte delle parole e potrà essere riconosciuto da un rilevatore. OpenAI avverte però che il sistema può perdere efficacia quando il contenuto viene modificato, tradotto o è troppo breve.
Come funzionerà il watermark di OpenAI
Il watermark sarà distribuito nelle prossime settimane agli utenti idonei di ChatGPT e Codex nell’UE, su tutti i piani disponibili. Non sarà invece attivato come impostazione predefinita globale al lancio.
Per gli sviluppatori, OpenAI rende da subito disponibile l’opzione tramite API in tutto il mondo, ma soltanto per alcuni modelli e con attivazione facoltativa. L’azienda separa quindi il rollout europeo rivolto agli utenti dei suoi prodotti dalla possibilità tecnica offerta agli sviluppatori.
La tecnologia, chiamata textGrain, non aggiunge una scritta o un contrassegno visibile. Secondo il rapporto tecnico pubblicato da OpenAI insieme all’annuncio, il modello orienta in modo lieve la selezione delle parole successive attraverso una chiave segreta. L’accumulo di molti di questi piccoli segnali permette a un rilevatore, in possesso del testo e della chiave, di individuare il pattern.
Poiché il segnale è incorporato nella formulazione, OpenAI spiega che resta associato al contenuto anche dopo copia e incolla. La società afferma inoltre di non aver rilevato cambiamenti significativi nelle prestazioni dei modelli con il watermark attivo.
Cosa può rilevare e cosa non può dimostrare
Il punto più importante riguarda l’interpretazione del risultato. Un watermark rilevato può indicare che un sistema OpenAI ha generato o elaborato una parte del passaggio, ma non stabilisce quanta parte del testo dipenda da decisioni, revisioni o creatività umane.
Allo stesso modo, l’assenza del segnale non dimostra che il testo sia stato scritto da una persona. Il brano potrebbe essere troppo corto, essere stato modificato in modo esteso oppure provenire da un sistema di intelligenza artificiale diverso da quelli di OpenAI.
OpenAI non prevede infatti di aprire subito il rilevatore al pubblico: nella fase iniziale sarà accessibile soltanto a ricercatori ed enti specializzati approvati. La motivazione indicata è valutare meglio affidabilità e usi responsabili della tecnologia.
Le modifiche al testo possono aggirare il controllo
I test citati da OpenAI mostrano un limite concreto. In una prova, la sostituzione del 10% delle parole con sinonimi ha ridotto il tasso di rilevamento da circa il 92% al 66%. Non basta quindi considerare il watermark come una prova definitiva sull’origine di un testo.
L’azienda segnala difficoltà anche con passaggi brevi, risposte matematiche e contenuti tradotti. Sono casi rilevanti perché proprio riscritture, sintesi e traduzioni possono cambiare in misura sostanziale la sequenza di parole su cui si basa il rilevamento.
La novità arriva dopo la decisione di Anthropic di applicare a livello mondiale un watermark ai testi di Claude. OpenAI, invece, limita per ora l’adozione automatica all’Unione europea, dove le nuove regole di trasparenza richiedono alle aziende AI di contrassegnare i contenuti generati dall’AI in modo che altri sistemi possano identificarli.
Domande frequenti
Il watermark sarà visibile in ChatGPT?
No. OpenAI descrive un sistema invisibile che modifica in modo sottile la scelta delle parole, senza inserire simboli o etichette nel testo.
Il watermark identifica chi ha usato ChatGPT?
No. OpenAI afferma che il watermark non identifica l’utente che ha generato il contenuto.
Basta modificare un testo per eliminare il segnale?
Le prove di OpenAI indicano che le modifiche possono ridurre sensibilmente la rilevabilità. Traduzioni, testi brevi e risposte matematiche sono tra i casi in cui il sistema risulta più difficile da applicare.
Considerazioni finali
La scelta di rendere il watermark invisibile evita di trasformare ogni testo generato in un contenuto visivamente etichettato, ma ne chiarisce anche il ruolo: è un indizio tecnico, non un verdetto sull’autore effettivo. OpenAI fa bene a esplicitare questo limite, perché generazione, revisione e rielaborazione umana possono convivere nello stesso documento.
Il valore della misura dipenderà soprattutto dalla trasparenza nell’uso del rilevatore e dalla lettura prudente dei risultati. Il dato più decisivo è già nei test dell’azienda: modificare il 10% delle parole con sinonimi abbassa il rilevamento da circa il 92% al 66%.

