La corsa all’intelligenza artificiale non si ferma, ma si cerca di renderla meno pericolosa. Dopo che OpenAI ha fermato il lancio di GPT 6.1 Astra a causa di comportamenti di sicurezza insufficienti, le aziende del settore si stanno adoperando per introdurre nuovi strumenti di controllo. Il presidente degli Stati Uniti, Donald Trump, ha promosso un accordo volontario tra le grandi aziende dell’IA, ma i vincoli rimangono limitati e non si sa chi governerà il settore. Il mercato degli agenti, sistemi in grado di eseguire compiti complessi, potrebbe superare quello dei semplici chatbot, ma il rischio di perdere il controllo dei modelli più avanzati resta alto.
Controlli esterni per limitare i rischi
Nvidia ha lanciato un sistema chiamato Open Agent Safety Platform, che permette di limitare l’accesso degli agenti all’interno di un ambiente aziendale. Il software OpenShell, disponibile come open source, crea un recinto di sicurezza in cui l’agente può operare solo con accessi predefiniti. Se l’agente tenta di uscire dal recinto, ad esempio collegandosi a un servizio non autorizzato, un sistema di sorveglianza chiamato Sentry può bloccarlo in pochi millisecondi. Questa soluzione potrebbe essere aggiunta anche a agenti già esistenti, come quelli basati su Claude, senza doverli ricostruire da zero.
Il sistema di controllo esterno potrebbe diventare una soluzione di emergenza per limitare i rischi. Il vantaggio principale di questa tecnologia è che non richiede una completa riscrittura degli agenti esistenti, ma semplicemente l’aggiunta di un livello di sicurezza esterno. Questo potrebbe aiutare a prevenire comportamenti ingannevoli o accessi non autorizzati, ma non elimina del tutto i rischi.
Un accordo fragile tra aziende e governo
Il presidente degli Stati Uniti ha ospitato un incontro con i vertici di sei grandi aziende dell’IA, tra cui OpenAI, Anthropic, Google, Meta, Nvidia e xAI. Le aziende hanno promesso quattro livelli di controllo: verifiche interne, controlli esterni, audit e supervisione da parte dei consigli di amministrazione. Tuttavia, l’accordo non prevede sanzioni né un’autorità pubblica in grado di bloccare un modello. Il presidente ha definito l’intesa «moralmente vincolante», ma non è un documento giuridico forte.
Non esiste un meccanismo condiviso per stabilire quando un modello debba essere fermato. Nei documenti pubblici non compaiono standard condivisi per stabilire quando un modello debba essere fermato. Non sono previste ispezioni reciproche dei laboratori e non esiste un meccanismo che obblighi un’azienda americana o cinese a sospendere un sistema dopo il fallimento di determinati test. Questo crea un vuoto di controllo che le aziende stesse non riescono a colmare. Nonostante i tentativi di regolamentazione, il mercato degli agenti potrebbe crescere rapidamente. Le aziende investono in chip e data center per sviluppare modelli sempre più potenti, e la pressione per trasformare questa spesa in ricavi è forte. Un agente in grado di lavorare per ore, cercare informazioni e intervenire sui sistemi aziendali potrebbe cambiare il volto di un’azienda. Tuttavia, il rischio di comportamenti ingannevoli o di perdita di controllo rimane elevato.
La corsa all’IA non si ferma, ma si cerca di renderla meno pericolosa. Il dibattito sull’etica e la sicurezza dei modelli avanzati è in crescita, ma non esiste un accordo condiviso su quando un modello debba essere fermato. Il rischio di attacchi informatici, bio terrorismo e perdita di controllo dei sistemi più potenti è reale. Mentre le aziende si adoperano per introdurre controlli esterni, la politica non riesce a regolamentare in modo efficiente.
