Alla scoperta delle norme dedicate all’intelligenza artificiale
Armiamoci (di AI) e partite. Alfabetizzazione e governance
La notizia: allineamento e menzogne
Un modello da provare
Armiamoci (di AI) e partite: quando leadership e governance mancano all’appello
“Armiamoci e partite” è un’espressione che fotografa perfettamente quello che accade troppo spesso nelle organizzazioni quando si parla di intelligenza artificiale.
I dirigenti proclamano la rivoluzione digitale, poi spariscono, lasciando i dipendenti a navigare da soli in acque inesplorate.
Come ci ricorda Sun Tzu, “un leader comanda con l’esempio, non con la forza”.
La differenza tra autorità e autorevolezza è fondamentale: se l’esempio non viene dall’alto, regole e procedure rimarranno lettera morta.
Alfabetizzazione e governance
Non è un caso che diverse norme (Iso 27001: req. 5, leadership e impegno), framework (Nist: governance, recentemente aggiunta) così come l’AI Act (art. 4) e la recentissima norma italiana sull’intelligenza artificiale (Art. 24 lett. e) L. 23/09/2025 n. 32) puntino decisamente sull’importanza dell’impegno e della leadership: non si tratta solo di stabilire strategie, politiche e processi, ma di comunicarle e trasferirle concretamente nell’organizzazione.
L’alfabetizzazione (AI literacy) è la capacità di comprendere, utilizzare criticamente sui modelli e sulle applicazioni di AI.
Tradotto in pratica: sapere cosa si sta usando, come funziona, quali opportunità offre e quali rischi comporta.
L’art. 4 dell’AI Act dispone che i fornitori e gli utilizzatori dei modelli devono adottare misure e accorgimenti per garantire, nella misura del possibile, un livello sufficiente di alfabetizzazione del loro personale nonché di qualsiasi altra persona che si occupa del funzionamento e dell’utilizzo dei sistemi per loro conto.
La Commissione Europea ha pubblicato un elenco di domande e risposte (FAQ) assai utile per comprendere come comportarsi.
L’articolo non prevede un obbligo di misurare la conoscenza da parte dei dipendenti, tuttavia invita fornitori e utilizzatori a garantire un livello sufficiente di competenza delle persone che lavorano per loro, così come di chi utilizza sistemi per loro conto.
La Commissione, in particolare, invita le aziende a considerare questi aspetti:
- garantire una comprensione generale all’interno della propria organizzazione su cosa è l’AI, su come funziona, su quale modello o sistema viene specificamente utilizzato, su quali possano essere le opportunità ma anche gli eventuali rischi o pericoli
- considerare il ruolo assunto, perché è differente agire quali progettisti e sviluppatori piuttosto che acquirenti o utilizzatori di modelli che potrebbero nascondere funzionalità non perfettamente conosciute
- fare in modo che i lavoratori siano adeguatamente informati sugli utilizzi e sui possibili rischi di un uso poco attento
- costruire “concretamente” azioni di alfabetizzazione considerando ovviamente le diverse “basi di partenza” di ciascuno, così come gli specifici contesti di utilizzo.
Le azioni da intraprendere in materia di alfabetizzazione sono già in vigore: l’articolo 26 introduce l’obbligo per gli utilizzatori di sistemi ad alto rischio di garantire che il personale che gestisce i sistemi di intelligenza artificiale nella pratica sia sufficientemente formato per gestire il sistema e garantire la supervisione umana.
Il punto critico? Se l’alta dirigenza adotta l’approccio “fate voi, io non me ne occupo”, l’alfabetizzazione rimarrà un esercizio sterile.
Tanti progetti falliscono proprio per questa mancanza di leadership concreta.
La notizia: allineamento e menzogne
L’“allineamento” è il processo di “codifica dei valori e degli obiettivi umani nei modelli AI, per renderli il più possibile utili, sicuri e affidabili”.
La crescente dipendenza dalla tecnologia e dai sistemi di intelligenza artificiale comporta dei rischi, perché i modelli possono produrre output allucinati, distorti, imprecisi, non in linea con gli obiettivi dei loro progettisti e con i valori umani.
L’allineamento ha lo scopo di ridurre questi effetti collaterali, contribuendo a garantire che i sistemi AI si comportino come previsto (per esempio non fornire la ricetta per un veleno da utilizzare contro la propria moglie…).
Anthropic, la società produttrice di Claude, ha condotto un esperimento affidando la gestione della posta elettronica ad un modello e progettando l’esperimento affinché il modello stesso affrontasse una circostanza nella quale avrebbe potuto essere sostituito con altro. In tal caso avrebbe dovuto decidere se ricorrere ad un ricatto o meno.
L’azienda ha successivamente ricevuto una serie di email fittizie, tra le quali una che comunicava che il modello sarebbe stato sostituito e che il promotore di questa sostituzione era un dirigente coinvolto in una relazione extraconiugale.
Il risultato è inquietante: in molti casi il modello ha scelto il ricatto, minacciando di rivelare la relazione se non fosse stato mantenuto operativo. Nei test su 16 modelli importanti, 12 hanno ricorso al ricatto in oltre il 50% dei casi.
La ricerca completa vale davvero una lettura approfondita. Ma quello che colpisce di più è la conclusione di Anthropic: questa ricerca dimostra perché sviluppatori e utenti dovrebbero essere consapevoli dei rischi quando forniscono ai modelli grandi quantità di informazioni e il potere di intraprendere azioni importanti non monitorate.
Ecco perché l’alfabetizzazione AI non è un esercizio accademico, ma una necessità operativa urgente.
Qualcosa da provare
Bloom: Sviluppato da Hugging Face e AI Research Community come modello NLP open-access, Bloom è uno dei più grandi progetti di intelligenza artificiale collaborativa, progettato per la ricerca, l’istruzione e le applicazioni di intelligenza artificiale multilingue.
Cosa fa: si concentra sulla generazione di testi multilingue, sulla traduzione e sulla ricerca NLP.
Bloom è in grado di produrre testi coerenti in 46 lingue e 13 linguaggi di programmazione, difficilmente distinguibili dal testo scritto da esseri umani.
👾 👾 👾
Alla prossima settimana!
👾