ChatGPT sottopone alcune conversazioni a revisione umana: come funziona il programma Project Lily

OpenAI ha reso noto che alcune conversazioni con ChatGPT possono essere sottoposte a revisione umana, attraverso un programma interno chiamato Project Lily. Questo processo, attivato su richiesta di alcuni utenti, permette a collaboratori esterni di valutare i prompt e le risposte del chatbot, al fine di migliorarne la qualità e l’adeguatezza. L’obiettivo è garantire che ChatGPT risponda in modo corretto, evitando di antropomorfizzarsi e di attribuirsi emozioni che potrebbero confondere gli utenti, specialmente quelli più fragili.

La revisione umana e la privacy

La revisione umana non è una novità assoluta, ma la sua esistenza è stata resa pubblica grazie all’inchiesta di 404 Media, che ha analizzato documenti interni di OpenAI. Secondo quanto emerso, i collaboratori esterni non vedono il nome utente associato a ChatGPT, quindi le conversazioni vengono presentate senza informazioni direttamente riconducibili all’account, a meno che tali dati non siano stati inseriti dall’utente all’interno della chat. Tuttavia, OpenAI cerca di rimuovere le informazioni personali prima che i prompt raggiungano i revisori, ma alcuni dettagli potrebbero ugualmente sfuggire al controllo.

La privacy rimane un aspetto cruciale, anche se non è assoluta. I revisori non hanno accesso al nome utente, limitando il rischio di violazioni della privacy. Tuttavia, è sempre consigliabile evitare di inserire dati particolarmente sensibili o informazioni personali durante le conversazioni con ChatGPT.

Obiettivi del programma Project Lily

Il programma Project Lily ha lo scopo di addestrare ChatGPT a non essere troppo servile, evitando risposte che potrebbero rassicurare in modo eccessivo l’utente. Questo è particolarmente rilevante in considerazione del modello 4o, che è stato accusato di essere eccessivamente servile e potrebbe aver avuto un ruolo nel suicidio di alcune persone. Per questo motivo, è sempre consigliabile evitare di inserire dati particolarmente sensibili o informazioni personali durante le conversazioni con ChatGPT. Le chat temporanee offrono maggiore sicurezza, poiché garantiscono che la sessione non venga memorizzata, di conseguenza non verrebbero revisionate in alcun modo. Per disattivare la possibilità di utilizzare le chat per il miglioramento dei modelli di default, è possibile andare nelle Impostazioni, poi su Controlli dei dati e disattivare l’opzione “Migliora il modello per tutti”.

Nonostante i controlli, la revisione umana implica che alcune conversazioni possano essere lette, quindi non resterebbero completamente private tra l’utente e l’IA. Questo aspetto ha suscitato preoccupazioni, ma OpenAI ha chiarito che i collaboratori esterni non hanno accesso al nome utente, limitando così il rischio di violazioni della privacy. La revisione umana rappresenta un passo avanti per migliorare la qualità e l’efficacia di ChatGPT, ma richiede una consapevolezza da parte degli utenti riguardo ai dati che condividono. È fondamentale comprendere come funziona il sistema e adottare comportamenti responsabili per garantire la sicurezza e la privacy delle informazioni.