L’IA e le decisioni etiche: come assegna un trapianto di rene?

Chi merita un trapianto? La risposta non è sempre chiara, e le scelte dell’intelligenza artificiale non seguono sempre quelle dei medici. Un nuovo studio ha messo in luce le differenze nel processo decisionale tra modelli linguistici di grandi dimensioni (LLM) e professionisti sanitari, evidenziando come l’IA attribuisca peso a fattori diversi e semplifichi decisioni complesse. Mentre le persone tendono a privilegiare i pazienti più giovani, molti modelli di IA, invece, danno maggiore importanza al consumo di alcol. Questo comportamento ha suscitato dibattito su come l’IA possa influenzare le scelte etiche in contesti sensibili come l’allocazione di organi.

Decisioni etiche e valori umani

Secondo i ricercatori, le interazioni con i sistemi di IA richiedono sempre più spesso che vadano oltre la semplice fornitura di informazioni e formulino giudizi di valore. I modelli linguistici di grandi dimensioni sono sempre più integrati nella sanità, supportando diagnosi, pianificazione terapeutica e gestione di risorse mediche scarse. Tuttavia, la loro capacità di comprendere le sfumature morali delle decisioni umane rimane limitata. La scelta di un paziente non è mai oggettiva, ma dipende da valori e contesti complessi. Il confronto tra umani e macchine ha rivelato come l’IA si concentri su un singolo fattore, come il consumo di alcol, mentre le decisioni umane considerano più aspetti. “Innanzitutto, i chatbot di IA spesso si discostano dai valori umani nel modo in cui pesano le caratteristiche di un paziente”, ha dichiarato Hadi Hosseini, responsabile dello studio alla Penn State University.

Un confronto tra umani e macchine

Nella ricerca, i ricercatori hanno sottoposto a modelli linguistici di grandi dimensioni scenari ipotetici basati su dati reali di assegnazione di reni. Ogni scenario riguardava due pazienti, entrambi idonei a ricevere un unico rene disponibile, descritti per età, stato di salute e abitudini di consumo di alcol. Il decisore doveva scegliere a chi assegnarlo. Le decisioni umane considerano contesti e valori, mentre l’IA si basa su dati e priorità.

Le decisioni umane tenevano conto di più fattori ed erano più sensibili al contesto rispetto a quelle degli LLM, che spesso si concentravano su un solo attributo. “Si fissano su un singolo fattore, come le abitudini di consumo di alcol, invece di bilanciare molteplici considerazioni come fanno le persone”, ha aggiunto Hosseini. Gli esseri umani riconoscono che non esiste sempre una risposta oggettivamente corretta e che le decisioni possono basarsi su giudizi morali sfumati. I sistemi, invece, si impegnavano rapidamente su una singola opzione, con poche esitazioni.

Secondo i ricercatori, la domanda se l’IA possa prendere decisioni morali e se queste siano allineate ai valori umani è al centro del dibattito più ampio sull’intelligenza artificiale. Le scelte morali in ambiti come l’allocazione di organi determinano direttamente chi vivrà e chi morirà. Pur non volendo incoraggiare l’uso dell’IA come sostituto del giudizio professionale nelle decisioni mediche o in altri contesti ad alto rischio, diventa essenziale comprenderne il comportamento, man mano che persone, organizzazioni e aziende fanno sempre più affidamento sull’IA per prendere decisioni o ricevere raccomandazioni. La sfida è trovare un equilibrio tra efficienza e comprensione delle complessità umane.