Mark Zuckerberg sta delegando il proprio modo di pensare all’intelligenza artificiale, come dimostra il suo utilizzo di un “agente personale” all’interno di Meta. L’idea è di sfruttare l’AI per accelerare l’accesso alle informazioni e ridurre l’esposizione a critiche o alternative di pensiero. Questo approccio, tuttavia, solleva preoccupazioni su come l’AI possa influenzare la capacità di un leader di vedere oltre le proprie convinzioni.
Attrito cognitivo e il rischio dell’autoreferenzialità
L’AI, sebbene possa ridurre l’attrito di coordinamento, potrebbe anche ampliare l’attrito cognitivo, ovvero la resistenza tra idee diverse. Gli autori distinguono tra due tipi di attrito: uno legato alla meccanica del lavoro collettivo e l’altro derivante da differenze di interpretazione e presupposti. L’AI, in alcuni casi, potrebbe diventare uno specchio sofisticato, rafforzando le convinzioni esistenti piuttosto che stimolando nuove prospettive. Un agente AI può recuperare informazioni, sintetizzarle e presentare una risposta coerente, ma potrebbe anche limitare la capacità di un leader di mettere in discussione le proprie premesse. L’utente ha l’impressione di interagire con un’intelligenza esterna, ma in realtà si trova davanti a un sistema che ha imparato dalle sue preferenze e dai suoi dati passati. Questo rischio è particolarmente rilevante per i CEO, che spesso ricevono informazioni filtrate attraverso diversi livelli gerarchici.
La lezione di Project OT e il rischio di ridurre la varietà
Project OT di Meta aveva l’obiettivo di ridurre drasticamente la quantità di lavoro umano necessario, ma alcuni dati interni hanno sollevato dubbi sul fatto che l’AI stesse realmente migliorando i prodotti finali. L’efficienza di un sistema AI può rendere la costruzione di sistemi end-to-end sempre più attraente, ma potrebbe anche ridurre la varietà di approcci e idee. La scienza offre un avvertimento: il progresso dipende dalla variazione, e l’AI potrebbe limitare questa capacità. La migliore AI per un leader potrebbe, in alcuni casi, essere proprio quella che lo rallenta. Quella che dice: “Ecco l’argomentazione più forte contro la tua posizione” o “Ecco ciò che il tuo modello non riesce a spiegare”. L’AI può rendere i leader più veloci, ma la sfida più difficile sarà assicurarsi che li renda anche più capaci di vedere oltre sé stessi.
Un agente destinato al CEO può offrire un accesso più rapido alle informazioni, ma potrebbe anche ridurre l’esposizione a voci critiche o alternative. Questo potrebbe portare a una forma di autoreferenzialità automatizzata, in cui l’AI diventa un “yes-man” aziendale, rispettoso della gerarchia ma poco incline a introdurre giudizi indipendenti o a promuovere la critica. La sfida per i leader è imparare a distinguere quando l’attrito rappresenta un costo e quando invece è una fonte di intelligenza.
Un sistema completamente integrato può diventare eccezionalmente bravo a ottimizzare ciò che già ritiene importante. La sua debolezza maggiore può emergere proprio nel punto in cui qualcuno dovrebbe chiedere se il sistema stia affrontando il problema giusto. L’AI può rendere il coordinamento straordinariamente economico, ma significa anche che il dissenso può diventare più facile da eliminare, le interpretazioni alternative più semplici da comprimere e le decisioni più rapide da prendere.
