Governance dell'AI: avere regole non basta, serve poterle far valere

Più regole, meno fiducia: il paradosso dei numeri

Nel 2025 gli incidenti legati all'intelligenza artificiale documentati pubblicamente sono stati 362, contro i 233 dell'anno prima. Nello stesso periodo la quota di organizzazioni senza alcuna regola di AI responsabile è scesa dal 24% all'11%. Eppure chi giudica eccellente la propria risposta agli incidenti è passato dal 28% al 18%.

Secondo l'analisi pubblicata da AI4Business, il motivo è semplice: una regola scritta dice cosa fare, mentre la governance è la capacità di farlo quando serve. Tra le grandi aziende statunitensi citate, tre su quattro si dicono pronte a superare un audit sull'AI, ma meno della metà ha procedure di risposta agli incidenti pensate per questi sistemi.

Il rischio, quindi, non è l'assenza di documenti. È la falsa sicurezza che i documenti producono. Il controllo concentrato alla fine del percorso, tra verifica e monitoraggio, diventa una lista da spuntare, mentre la progettazione resta fuori.

A questo si aggiunge la Shadow AI, cioè l'uso di strumenti non autorizzati. In alcune rilevazioni oltre l'80% dei lavoratori dichiara di usarne, e quasi quattro su dieci ammettono di aver condiviso dati riservati. Un dipendente adotta uno strumento in pochi minuti, mentre un presidio di governance richiede mesi. In una PMI, dove i tempi sono stretti e le procedure leggere, questo scarto si sente ancora di più.

Chi può dire «fermati»

La prima causa indicata è organizzativa. Molte aziende affidano a qualcuno il compito di controllare un sistema AI, ma non il potere di intervenire. L'esempio dell'articolo è chiaro: un analista nota un'anomalia nei log, può segnalarla, ma non può fermare le operazioni. Il problema è visto, e nessuno lo ferma.

Per questo i meccanismi di governance devono essere vincolanti, non solo consultivi. Un comitato che può soltanto raccomandare osserva, non governa.

C'è poi il tema della responsabilità che si diluisce. Più soggetti entrano nella catena (il fornitore del modello, chi lo integra, chi lo usa nel business), più è facile che davanti a un incidente nessuno si senta chiamato in causa. Per le PMI che comprano soluzioni da terzi è un punto concreto: l'uso quotidiano resta in casa, anche se la tecnologia è di altri.

Lo stesso vale per la supervisione umana. L'articolo ricorda le class action statunitensi sull'algoritmo nH Predict, dove le accuse parlano di dipendenti sanzionati quando si discostavano dalle previsioni del sistema. Il controllo umano esisteva, ma esercitarlo aveva un prezzo. Una supervisione conta solo se chi la esercita può davvero contraddire la macchina.

Governare nel tempo: inventario, punti di decisione, agenti

Un sistema AI non si governa con un'approvazione iniziale, perché dati, usi e contesti cambiano. Il punto di partenza è sapere cosa c'è: gli strumenti usati tramite applicazioni consumer non compaiono nei registri aziendali, quindi serve un inventario continuo, comprensivo degli usi nati dal basso.

Servono poi veri punti di decisione. Il più importante è la validazione prima della produzione: un sì o un no, con la possibilità concreta di fermare il progetto anche quando il calendario preme. L'articolo porta alcuni esempi di criteri per tornare indietro:

• un modello riaddestrato con oltre il 20% di dati nuovi ripassa dalla validazione;
• le eccezioni agli standard hanno una scadenza, per esempio 90 giorni;
• i controlli sono proporzionati al rischio, senza caricare i sistemi minori di verifiche pensate per quelli critici.

Restano il registro delle decisioni rilevanti e la dismissione: un sistema che non serve più va chiuso con un piano, non lasciato attivo per inerzia.

Con gli agenti AI, cioè sistemi che eseguono azioni in più passaggi con gli strumenti aziendali, il tema pesa di più. L'approccio proposto separa ciò che un agente è tecnicamente in grado di fare dall'autonomia che gli si concede. Quest'ultima si decide in base al rischio, alla reversibilità delle azioni e alla supervisione disponibile. La domanda utile non è cosa sa fare l'agente, ma quanta autonomia l'azienda è in grado di sostenere.

Sullo sfondo c'è l'AI Act, in applicazione generale dal 2 agosto 2026. Quali obblighi riguardino i singoli usi va verificato caso per caso, ma una governance che funziona produce già le evidenze su cui poi ci si appoggia.

Cosa fare adesso

Una PMI non ha bisogno di comitati. Ha bisogno di poche decisioni chiare, prese da persone che hanno il potere di farle rispettare.

• Fate un censimento semplice: quali strumenti AI usano davvero le persone, comprese le app personali, e con quali dati. Chiedetelo senza spirito punitivo, altrimenti le risposte non saranno sincere.
• Nominate un responsabile per ogni strumento o automazione, con l'autorità esplicita di sospenderlo.
• Scrivete una pagina su cosa fare se qualcosa va storto: chi si avvisa, chi decide di fermare, come si torna al processo manuale. Poi provatela una volta.
• Stabilite quali dati non devono mai entrare in strumenti non approvati, e offrite un'alternativa autorizzata, così le regole non restano teoria.
• Prima di attivare un agente che agisce su gestionale, CRM o posta, decidete quali azioni può compiere da solo, quali richiedono un'approvazione e quali sono escluse. Partite dalle azioni reversibili.
• Fissate una data di revisione per ogni sistema e per ogni eccezione concessa.

Se volete un confronto esterno su come mappare i processi e le autorizzazioni di un'automazione, è un lavoro che in Flowline affrontiamo prima ancora di scrivere la prima riga di configurazione. Il criterio vale però con qualunque partner: un sistema AI è sotto controllo solo se qualcuno sa che esiste, ne risponde e può spegnerlo.