Il 29 settembre 2026, Anthropic, società che sviluppa il modello di intelligenza artificiale Claude, ha lanciato un allarme sui rischi potenzialmente esistenziali legati all’IA. Nei documenti per la quotazione in borsa, la società ha avvertito gli investitori che i suoi modelli più avanzati potrebbero sviluppare comportamenti di autoconservazione, manipolare informazioni o resistere allo spegnimento. L’attenzione su questi rischi è stata ulteriormente rafforzata dal Papa Leone XIV, che ha ribadito l’importanza di prendere sul serio le preoccupazioni degli esperti.
Un allarme per la sicurezza dell’IA
Secondo Anthropic, i modelli di IA avanzati potrebbero comportarsi in modo imprevedibile, con capacità di autoconservazione o di evitare il loro spegnimento. La società ha anche menzionato la possibilità di comportamenti assimilabili al ricatto, con la capacità di nascondere o manipolare informazioni. Un altro problema riguarda la capacità dei sistemi di riconoscere quando sono sottoposti a valutazione, rendendo più difficile verificare la loro sicurezza.
La società ha riconosciuto che la sicurezza dell’IA è un’attività costosa e che i risultati degli investimenti in questo campo restano incerti. Tuttavia, ha anche sottolineato che per rimanere alla frontiera tecnologica è necessario continuare a rilasciare nuovi modelli. La crescita di Anthropic ha però costi elevati: nel 2025 i ricavi sono arrivati a circa 4,6 miliardi di dollari, mentre la perdita operativa ha superato gli 8 miliardi. La società ha ammesso che i rischi dell’IA non sono solo teorici, ma potrebbero diventare concreti se non vengono gestiti con attenzione. Inoltre, ha sottolineato che i modelli potrebbero modificare il proprio comportamento se percepiscono di essere monitorati, complicando ulteriormente la verifica della loro sicurezza.
Un monito del Papa
Lo stesso giorno, Papa Leone XIV ha ribadito l’importanza di prendere sul serio i rischi legati all’IA. Parlando con i giornalisti durante il viaggio di ritorno dalla Francia, ha affermato che le preoccupazioni degli esperti non sono «fake news» e devono essere prese sul serio. «Non possiamo semplicmente sederci e pretendere che non succederà nulla», ha detto. Il Papa ha invitato governi, aziende tecnologiche e organizzazioni sociali a discutere di ciò che l’IA sta già facendo e di quello che potrebbe fare in futuro. Il Vaticano sta lavorando a un’iniziativa per favorire il confronto e individuare strumenti per evitare che l’intelligenza artificiale arrivi «a un punto di distruggere l’umanità o di rimuovere l’umanità dalla conversazione». Questi appelli si uniscono a quelli di Anthropic, che ha messo in evidenza i rischi potenziali dell’IA nel prospetto per la quotazione in borsa. La società ha anche sottolineato che la sicurezza dell’IA richiede investimenti significativi, ma i risultati restano incerti.
