La direttrice HR di Lumana, Meidan Keidar, ha addestrato otto agenti AI in una sola settimana, dimostrando come la velocità di implementazione possa superare il controllo strutturale. Tuttavia, il confine tra automazione e decisioni umane rimane spesso in mano a singoli dirigenti, senza regole scritte o processi condivisi. Questo scenario, purtroppo, è comune in molte aziende, dove la governance per gli agenti AI è ancora inesistente o incompleta. La velocità di attivazione di un agente, che richiede solo un pomeriggio di configurazione, contrasta con la lentezza necessaria per definire policy, responsabilità e sicurezza. La mancanza di una governance chiara rischia di portare a dinamiche simili a quelle della “shadow AI”, dove strumenti vengono utilizzati senza il consenso o la conoscenza dell’azienda nel suo complesso.
La governance mancante in HR
Keidar ha costruito i suoi agenti quasi come collaboratori diretti, assegnando compiti precisi e responsabilità umane. Tuttavia, il rischio è che, senza una governance chiara, le decisioni siano lasciate al giudizio di singoli dirigenti. Deloitte ha rilevato che solo il 21% delle aziende ha una governance matura per gli agenti AI autonomi, mentre il resto procede senza regole scritte. Questo vuoto si manifesta soprattutto in ambiti sensibili come l’HR, dove i dati personali dei dipendenti e le decisioni che li riguardano sono particolarmente delicati. La mancanza di un processo condiviso tra HR e IT peggiora il rischio di errori o decisioni non verificate.
La governance, se non scritta, non sopravvive quando la persona che la ha creata cambia lavoro. Per questo, Keidar propone un ruolo nuovo: l'”AI Workforce Architect”, una figura che decide cosa si automatizza e cosa resta umano. Questo mestiere, purtroppo, non esiste ancora in molte aziende, anche se il quadro normativo italiano cerca di rispondere con criteri di GDPR e AI Act.
Un modello di governance inesistente
La differenza tra il caso di Keidar e la media misurata da Deloitte non è di tecnologia, ma di metodo. Keidar ha adottato un approccio informale, basato su una persona sola, senza un processo aziendale verificabile. Questo metodo, pur utile per la velocità, non è sostenibile a lungo termine. La governance, se non scritta, non sopravvive quando la persona che la ha creata cambia lavoro. Per questo, Keidar propone un ruolo nuovo: l'”AI Workforce Architect”, una figura che decide cosa si automatizza e cosa resta umano. Questo mestiere, purtroppo, non esiste ancora in molte aziende, anche se il quadro normativo italiano cerca di rispondere con criteri di GDPR e AI Act.
La velocità di adozione degli agenti AI in HR ha creato un problema di governance, che rischia di ripetersi come con il cloud. Quando la velocità di attivazione supera la capacità di controllo, nascono nuovi ruoli, come i responsabili FinOps. Con gli agenti AI, il rischio è che le decisioni siano prese da sistemi al posto di persone, con conseguenze dirette sulle vite dei dipendenti. La mancanza di una governance chiara non solo crea rischi, ma anche una scarsa tracciabilità, che può portare a errori non corretti o a una mancanza di responsabilità.
Per evitare questa dinamica, è necessario che le aziende affrontino la governance degli agenti AI come un tema prioritario. Non basta rallentare l’adozione: il criterio per tracciare il confine tra automazione e giudizio umano deve essere scritto e tracciabile da un’altra persona. Solo in questo modo, il controllo umano non sarà più una scelta personale, ma un processo condiviso e verificabile. La velocità di adozione non deve mai superare la capacità di controllo, altrimenti il rischio di errori e mancanza di responsabilità crescerà in modo incontrollabile.
