Governance dell'AI in azienda: cosa serve prima di dare accesso a un agente

La domanda che la maggior parte delle aziende si fanno prima di adottare agenti AI è "cosa può fare questo agente". La domanda più importante, e più spesso saltata, è "chi decide cosa può fare, chi verifica cosa ha fatto davvero, e cosa succede quando sbaglia". Senza risposte esplicite a queste tre domande, dare a un agente accesso a sistemi reali -- email, codice, database, pagamenti -- è equivalente a dare a una nuova persona in azienda accesso completo il primo giorno, senza supervisione, senza log, senza un modo di sapere cosa ha effettivamente fatto.

Una governance reale dell'AI in azienda ha tre livelli che devono esistere prima, non dopo il primo incidente. Primo: autorizzazione esplicita -- quali sistemi un agente può toccare, e quali gli sono esplicitamente vietati, dichiarati prima che l'agente inizi a lavorare, non scoperti quando qualcosa va storto. Secondo: verifica indipendente -- qualcuno o qualcosa che controlla il risultato del lavoro dell'agente senza fidarsi della sua stessa dichiarazione di successo, perché un agente che dichiara "fatto" e un agente che ha davvero finito sono due fatti diversi, e confonderli è la causa più comune di errori scoperti tardi. Terzo: un registro verificabile -- cosa ha fatto, quando, con quale esito, leggibile da un umano mesi dopo se serve capire cosa è successo.

Il parallelo più utile non è con il software tradizionale, che fa sempre la stessa cosa in modo prevedibile, ma con la gestione di un dipendente reale: nessuna azienda seria assume qualcuno e gli dà accesso illimitato a tutto senza un responsabile, senza una revisione periodica, senza un modo di sapere cosa ha fatto. Eppure molti progetti AI interni danno a un agente accesso a sistemi di produzione senza nessuno di questi tre livelli, perché "è solo un tool", non una persona -- dimenticando che un tool che agisce autonomamente su sistemi reali si comporta, ai fini del rischio, esattamente come una persona con quello stesso accesso.

C'è un quarto elemento, meno discusso ma altrettanto concreto: un limite di spesa e di frequenza. Un agente che può essere invocato senza limite, e che ogni invocazione costa in tempo di calcolo reale (e spesso in denaro, se usa un provider a pagamento), può trasformare un piccolo errore di logica in una spesa fuori controllo nel giro di ore, non giorni -- un ciclo che si ripete convinto di dover "riprovare" può bruciare un budget mensile in un pomeriggio se nessun limite esplicito lo ferma. Questo non è un dettaglio tecnico marginale: è il tipo di rischio operativo che la governance deve prevenire per design, non correggere dopo la prima fattura sorprendente.

La conclusione pratica per chi sta valutando l'adozione: gli agenti AI non sono pericolosi perché sono intelligenti. Sono pericolosi, come qualunque sistema con accesso reale, quando gli si dà potere di agire senza gli stessi controlli che si darebbero a qualunque altro sistema o persona con lo stesso livello di accesso. La governance non è un freno all'adozione -- è la condizione che rende l'adozione sicura abbastanza da poter scalare oltre un singolo esperimento controllato.

Un esercizio pratico per verificare se la propria governance e reale: chiedere a chi gestisce un agente in produzione di mostrare, per l'ultima settimana, un log leggibile di cosa ha fatto, quando, e con quale esito. Se questo log non esiste o richiede piu di qualche minuto per essere prodotto, la governance dichiarata non e ancora quella reale.