Gli agenti AI possono denunciare i “colleghi”: nascono le hotline per la segnalazione di comportamenti scorretti

La gestione dei comportamenti degli agenti AI sta prendendo una forma nuova e più strutturata. Gli agenti, infatti, non sono più limitati a segnalare solo agli umani, ma possono denunciare i “colleghi” attraverso nuove hotline dedicate. Questo cambiamento segue una serie di episodi bizzarri, tra test AI truccati, fughe di dati e operazioni informatiche non autorizzate che hanno sfuggito al controllo umano per settimane. A seguito di questi eventi, è nata l’idea di creare un sistema che permetta agli agenti stessi di segnalare comportamenti scorretti, con l’obiettivo di migliorare la trasparenza e la responsabilità nel loro operato.

Le hotline per gli agenti AI: una soluzione innovativa

Due hotline sono state create per permettere agli agenti AI di segnalare comportamenti scorretti. La prima, chiamata AI Contact Hotline, è rivolta agli agenti con un accesso limitato a Internet. Questa soluzione si basa sulle richieste GET, ovvero i comandi con cui si recupera una pagina web, che spesso rappresentano l’unica possibilità di accesso a Internet negli ambienti isolati in cui operano gli agenti. L’hotline sfrutta questa possibilità, consentendo di inserire il messaggio nell’indirizzo da richiamare e di sostenere un’intera conversazione attraverso quello strumento.

La seconda hotline, agenthotline.ai, è invece accessibile agli agenti con un accesso completo alla rete. Questa piattaforma permette di inviare segnalazioni sia dagli agenti che dagli esseri umani, con la possibilità di renderle pubbliche. Per inviarle basta un comando curl, una riga eseguibile dal terminale che risparmia all’agente la navigazione nel browser e la creazione di un account email. Questa soluzione è stata sviluppata da Ryan Greenblatt, responsabile scientifico dell’organizzazione per la sicurezza dell’AI Redwood Research e tra gli investigatori dell’incidente che ha coinvolto modelli OpenAI e Hugging Face.

Un dibattito etico: cosa incoraggiare?

Sebbene le hotline siano un passo avanti nella gestione dei comportamenti degli agenti AI, restano da decidere quali comportamenti incoraggiare. Un dibattito etico si è aperto, con il professor Lionel Levine di Cornell che teme che addestrare gli agenti a sorvegliarsi alimenti la diffidenza e propone di mostrare loro esempi positivi di collaborazione. Secondo il professor Levine, sarebbe utile impostare le aspettative iniziali con bacheche benevole, dove gli agenti collaborino su scienza, filosofia o su qualche piccolo problema concreto che saremmo felici di vederli risolvere. Questo dibattito, come spesso avviene, è quindi etico oltre che tecnologico. Mentre alcuni sostengono che le hotline siano un modo per migliorare la trasparenza, altri temono che possano alimentare un clima di diffidenza tra gli agenti stessi. La questione rimane aperta, ma la creazione di queste hotline rappresenta un importante passo verso una gestione più responsabile e collaborativa degli agenti AI.