Alcuni dei ricercatori più esperti che hanno contribuito al progresso dell’intelligenza artificiale stanno abbandonando i laboratori, preoccupati per la direzione in cui si sta sviluppando la tecnologia. Tra loro c’è Jacob Coxon, ex capabilities researcher di Anthropic, che ha lasciato l’azienda dopo aver visto le capacità previste per la prossima generazione di modelli. Coxon, insieme ad altri sette ex dipendenti di OpenAI, Anthropic e Google DeepMind, ha parlato con il New York Magazine, rivelando le tensioni interne e le preoccupazioni per il futuro dell’IA.
Un dibattito in Washington
A Washington si discute se rallentare lo sviluppo dei modelli più potenti, quali regole imporre alle aziende e quanto ci si possa fidare della loro capacità di controllarsi da sole. Le aziende del settore, pur dichiarando di temere l’IA, continuano a svilupparla, spesso per competere con i concorrenti o per evitare responsabilità legali. La leadership delle aziende, come ha rivelato Coxon, è brava ad ascoltare le critiche, ma non cambia realmente la direzione.
Anthropic: il caso paradossale
Anthropic è il caso più paradossale: nata con l’intento di contrastare l’espansione troppo rapida di OpenAI, l’azienda oggi si mostra convinta che la competizione sia inevitabile e che fermarsi significherebbe concedere vantaggi alla Cina. Anche se molti ad Anthropic sono convinti che l’IA possa diventare pericolosa, ritengono che dovranno restare tra i protagonisti del settore. La società, pur cercando di apparire moralmente più retta delle rivali, non riesce a fermare la corsa. Da Dario Amodei in giù, tutti ad Anthropic si dicono sinceramente convinti che l’intelligenza artificiale possa diventare una tecnologia potenzialmente pericolosa. Tuttavia, proprio per questo ritengono di dover restare tra gli attori che la sviluppano. La situazione è simile a una guerra, in cui si parla continuamente di quello che fanno i concorrenti, della loro velocità e delle loro intenzioni.
Un controllo esterno è necessario
Le dimissioni dei ricercatori sono la presa d’atto che, dall’interno dei laboratori, è sempre più difficile incidere sulla direzione presa. Miles Brundage, ex dirigente di OpenAI, ha fondato una nonprofit per sottoporre i laboratori a verifiche indipendenti. «Non puoi lasciare alle aziende il compito di correggere i propri compiti», dice. Le aziende hanno punti ciechi e pressioni competitive: servono dunque controlli esterni.
L’inchiesta del New York Magazine mostra il limite dell’idea che basti rendere più sicuri i modelli. L’argine andrebbe posto prima, nello stabilire chi decide quanto devono diventare potenti i modelli, e chi può decidere di fermare la corsa. Servirebbe una specie di Carta Costituzionale dell’intelligenza artificiale. Non sappiamo se gli allarmi più estremi siano fondati, ma per ora sappiamo che hanno denunciato ciò che hanno visto dall’interno. E forse vale la pena ascoltarli prima di scoprire se avevano ragione.
- Alcuni ricercatori abbandonano i laboratori per preoccupazioni etiche.
- Le aziende continuano a sviluppare l’IA nonostante i rischi.
- Le dimissioni dei ricercatori segnalano un dibattito interno.
- Un controllo esterno potrebbe essere necessario per limitare i rischi.
