Alla scoperta delle norme dedicate all’intelligenza artificiale

 

L’IA in azienda: istruzioni per l’uso

 

La newsletter torna dopo una lunga pausa.

Pensavamo di scrivere del Digital Omnibus e delle modifiche all’AI Act, ma lo faremo più avanti.

In questa uscita utilizziamo le Linee Guida di AgID sull’adozione dell’intelligenza artificiale nella PA per trasformare le indicazioni in consigli per le aziende. 

 

Dall’inizio del 2025 le cose sono cambiate. Non parliamo più di “quando arriveranno le regole sull’IA”, ma di “come applicare le regole che ci sono già”. Il 2 febbraio scorso sono entrati in vigore i primi obblighi dell’AI Act, quelli sui sistemi vietati. Le scadenze successive sono ravvicinate e riguardano tutti, anche chi pensava di essere troppo piccolo per essere interessato.

AgID ha pubblicato a febbraio 2025 le Linee Guida per l’adozione dell’intelligenza artificiale nella Pubblica Amministrazione. Documento corposo, pensato per il settore pubblico, ma costruito su un’architettura che vale per qualsiasi organizzazione: il framework normativo sottostante (AI Act, GDPR, NIS2, standard ISO) è lo stesso per tutti. Cambia l’interlocutore, non la sostanza degli obblighi.

Ho tradotto quella struttura in chiave aziendale. Non un semplice adattamento, ma una rielaborazione che tiene conto delle specificità delle PMI italiane e dei professionisti che devono muoversi in questo nuovo scenario. Il risultato? Una guida operativa che parte dai principi dell’AI Act e arriva fino alla gestione pratica: conformità, governance, cybersecurity, dati, competenze.

Proviamo a vedere i punti chiave.

 

Cosa conta davvero come “sistema di IA”

L’AI Act, all’articolo 3, definisce il sistema di IA come un sistema automatizzato progettato per funzionare con livelli di autonomia variabili, che può presentare adattabilità dopo la diffusione e che deduce dall’input ricevuto come generare output (previsioni, contenuti, raccomandazioni o decisioni) capaci di influenzare ambienti fisici o virtuali.

Tradotto: non serve avere un supercomputer in cantina. Un chatbot aziendale per l’assistenza clienti è un sistema IA. Un algoritmo di scoring creditizio è un sistema IA. Un sistema predittivo per la manutenzione industriale è un sistema IA. Anche quello strumento SaaS che avete adottato sei mesi fa “perché fa tutto lui” probabilmente integra un sistema IA, e questo vi rende deployer con responsabilità precise.

La definizione è volutamente ampia. Abbraccia i modelli linguistici di grandi dimensioni (ChatGPT, Claude, Gemini), i sistemi di raccomandazione per l’e-commerce, gli strumenti di analisi documentale, i sistemi di classificazione automatica. Se c’è capacità inferenziale, se c’è apprendimento, ragionamento o deduzione, siete dentro il perimetro.

 

La piramide del rischio (e cosa cambia per voi)

L’AI Act classifica i sistemi in quattro livelli di rischio. Ogni livello ha conseguenze operative diverse.

Sistemi vietati: rischio inaccettabile. Tecniche subliminali che agiscono senza consapevolezza della persona, manipolazione, sfruttamento delle vulnerabilità, scoring sociale. Obblighi in vigore dal 2 febbraio 2025. Se avete sistemi attivi, verificate subito.

Sistemi ad alto rischio: quelli che, in caso di malfunzionamento, possono causare danni rilevanti a diritti fondamentali. Pensate a sistemi usati in ambito credito, risorse umane, assicurazioni, sanità, sicurezza, istruzione. Gli obblighi sono pesanti: documentazione tecnica completa, sistema di gestione della qualità, log automatici, testing rigoroso, valutazione di conformità, in certi casi marcatura CE.

Un esempio concreto: avete adottato un sistema che analizza i CV e preseleziona i candidati per i colloqui. State usando un sistema ad alto rischio. Dovete dimostrare che non discrimina, che i dati di addestramento sono bilanciati, che c’è supervisione umana effettiva, che avete fatto una valutazione d’impatto. E dovete documentare tutto.

Sistemi a rischio limitato: chatbot generici, assistenti virtuali. Obblighi principalmente di trasparenza. L’utente deve sapere che sta interagendo con una macchina.

Sistemi a rischio minimo o nullo: nessun obbligo specifico dell’AI Act, ma restano applicabili GDPR, codice civile, normativa di settore.

 

I principi non sono filosofia, sono checklist operative

Il documento individua principi fondamentali. Non si tratta di dichiarazioni etiche da appendere in bacheca, ma di criteri operativi che, se disattesi, espongono a rischi concreti.

Conformità e legalità: ogni sistema va verificato rispetto ad AI Act, GDPR, NIS2. Puntualmente, con documentazione. Non basta dire “siamo a posto”, bisogna dimostrarlo.

Centralità della persona: i processi decisionali basati su IA devono essere comprensibili, le decisioni critiche non possono essere delegate esclusivamente agli algoritmi, deve esserci supervisione umana. Tre modalità previste: human on the loop (monitoraggio con possibilità di intervento), human in the loop (approvazione necessaria prima dell’implementazione), human in command (controllo completo). La scelta dipende dal rischio.

Non discriminazione: tema cruciale. I bias non sono un problema etico astratto, sono un rischio legale concreto che si traduce in trattamenti discriminatori, decisioni impugnabili, responsabilità risarcitorie. I bias hanno tre origini: dati di addestramento viziati, scelte algoritmiche distorte, pregiudizi umani dei progettisti. Vanno identificati e mitigati in ogni fase.

Sicurezza e accountability: responsabilità formali assegnate, decisioni documentate, evidenze di conformità mantenute. Per i sistemi ad alto rischio, la documentazione va conservata per almeno dieci anni dopo l’ultima messa in servizio.

 

Il modello PDCA applicato all’IA: pianificare, fare, verificare, agire

Le linee guida propongono il ciclo PDCA della norma ISO/IEC 42001:2023, lo standard internazionale per i sistemi di gestione dell’intelligenza artificiale. La logica è simile a ISO 9001 e 27001: pianificare, implementare, verificare, migliorare. Ma i contenuti sono specifici per l’IA.

Si parte dalla strategia aziendale per l’IA, allineata con gli obiettivi strategici dell’organizzazione. Non un documento formale fine a sé stesso, ma un esercizio di pianificazione che deve produrre risultati concreti: visione chiara, identificazione dei casi d’uso prioritari, stima delle risorse (umane, tecnologiche, finanziarie), modello di governance, piano di gestione dei rischi, indicatori di performance.

Prima di adottare qualsiasi sistema IA, serve un’analisi del contesto per valutare la maturità dell’organizzazione. Cinque dimensioni: disponibilità e qualità dei dati, competenze tecniche, risorse umane e struttura organizzativa, cultura aziendale (apertura all’innovazione, capacità di gestire il cambiamento), relazioni con stakeholder esterni.

Ogni caso d’uso va documentato in modo strutturato. Dodici aree obbligatorie: dominio applicativo, obiettivi, descrizione del sistema, classificazione del rischio, dati utilizzati, modelli e algoritmi, stakeholder coinvolti, requisiti normativi, misure di sicurezza, supervisione umana, indicatori di performance, rischi identificati e misure di mitigazione, opportunità di standardizzazione. Questa documentazione non è burocrazia: è la prima linea di difesa in caso di audit, contestazione o incidente.

 

Gestione del rischio: tre fasi, nessuna facoltativa

La valutazione ex-ante, condotta prima dell’adozione, identifica i potenziali rischi per diritti fondamentali, sicurezza e conformità normativa, ne valuta probabilità e impatto, definisce le misure di mitigazione.

Il testing verifica l’efficacia delle misure implementate, testa il sistema in condizioni realistiche, documenta i risultati.

Il monitoraggio continuo, durante l’operatività, rileva rischi emergenti, aggiorna le valutazioni, implementa azioni correttive.

Per i sistemi ad alto rischio servono valutazioni d’impatto specifiche. La FRIA (Fundamental Rights Impact Assessment), prevista dall’AI Act, analizza i diritti fondamentali potenzialmente impattati. La DPIA (Data Protection Impact Assessment), richiesta dal GDPR quando il trattamento presenta rischi elevati, segue una struttura complementare.

Un esempio pratico: adottate un sistema che analizza le telefonate del call center per valutare la performance degli operatori. Serve DPIA (trattate dati personali, inclusa la voce), serve FRIA (potrebbero esserci impatti su dignità e condizioni di lavoro), servono misure di mitigazione documentate (quali dati raccogliete, come li proteggete, come garantite che la valutazione sia equa, come coinvolgete i lavoratori).

 

Governance: chi fa cosa, come e quando

L’adozione dell’IA non è un progetto IT delegabile al reparto tecnico. Richiede un modello di governance dedicato, con ruoli, responsabilità e processi chiaramente definiti.

Serve designare una figura o una funzione responsabile del coordinamento dell’adozione dell’IA. Nelle imprese più strutturate può essere utile istituire un comitato multidisciplinare: IT, legale, DPO, responsabili di processo, esperti di etica e compliance. Il comitato supervisiona l’intero ciclo, dalla selezione dei casi d’uso alla valutazione dei risultati.

L’articolo 95 dell’AI Act prevede che i deployer possano adottare codici di condotta volontari per promuovere un uso responsabile dell’IA. Volontari sulla carta, ma nella pratica un codice etico strutturato (o una policy aziendale dedicata) è un investimento: dimostra diligenza, orienta il comportamento del personale, fornisce un riferimento in caso di controversia.

La policy dovrebbe coprire: disposizioni generali (ambito, finalità, destinatari), principi etici fondamentali (centralità della persona, trasparenza, equità, responsabilità, privacy, sicurezza), doveri del personale (formazione continua, segnalazione delle criticità), relazioni esterne (rapporti con clienti, fornitori, partner), governance e controllo (comitato etico, audit periodici, gestione delle segnalazioni), disposizioni su violazioni e aggiornamenti periodici.

 

Dati: il carburante che determina tutto

Se l’intelligenza artificiale è una macchina, i dati sono il suo carburante. La qualità dei dati determina direttamente l’affidabilità, l’accuratezza e l’equità dei sistemi IA. Un modello addestrato su dati di scarsa qualità produrrà risultati di scarsa qualità, indipendentemente dalla sofisticazione dell’algoritmo.

Il ciclo di vita dei dati si articola in dieci fasi: concezione, raccolta, analisi e profilazione, pulizia, trasformazione, archiviazione, utilizzo, condivisione, archiviazione di lungo periodo, dismissione. Ciascuna fase comporta obblighi specifici e richiede processi documentati.

I dati devono soddisfare cinque caratteristiche fondamentali: rappresentatività (copertura adeguata di tutte le casistiche rilevanti), bilanciamento (proporzione corretta tra le classi, applicando se necessario tecniche di oversampling o undersampling), tracciabilità (provenienza documentata, trasformazioni registrate, versionamento, metadati completi), disponibilità (accessibilità quando necessario, infrastruttura affidabile, backup, performance), credibilità (fonti autorevoli, controlli di qualità, verifiche di accuratezza, documentazione delle limitazioni).

La governance dei dati richiede ruoli chiari (data owner, data steward, DPO), politiche documentate, catalogazione sistematica con metadati secondo standard riconosciuti, sistema di monitoraggio continuo della qualità.

 

Privacy: GDPR e IA, un’integrazione necessaria

Quando i sistemi IA trattano dati personali, agli obblighi dell’AI Act si sommano quelli del GDPR. L’IA amplifica i rischi in modi che i trattamenti tradizionali non contemplano: inferenze su dati non esplicitamente forniti, decisioni automatizzate opache, profilazione su larga scala, possibilità di ricostruire informazioni sensibili a partire da dati apparentemente anonimi.

Il Garante per la protezione dei dati personali ha individuato tre principi algoritmici fondamentali. Trasparenza: informare le persone dell’utilizzo di sistemi IA, fornire informazioni comprensibili sul funzionamento, chiarire le logiche delle decisioni, spiegare significato e conseguenze del trattamento. Non esclusività della decisione algoritmica: le decisioni con effetti giuridici o significativi non devono basarsi unicamente su trattamento automatizzato, deve esserci sempre intervento umano sostanziale, le persone devono poter richiedere revisione umana, devono esistere canali per contestare le decisioni. Non discriminazione: garantire che i sistemi non producano discriminazioni, implementare misure per rilevare e mitigare i bias, utilizzare dataset bilanciati, condurre test di fairness, monitorare continuamente gli output.

Per i sistemi IA ad alto rischio che trattano dati personali, la DPIA è obbligatoria. Il DPO deve essere coinvolto in tutte le fasi del ciclo di vita: pianificazione (consulenza sulla conformità GDPR, supporto nella definizione della base giuridica, valutazione preliminare dei rischi), progettazione (verifica dell’applicazione dei principi di privacy by design e by default, revisione delle misure di sicurezza, supporto nelle informative), valutazione d’impatto (verifica della necessità della DPIA, supporto nella conduzione, parere prima della messa in servizio), fase operativa (monitoraggio della conformità, gestione delle richieste di esercizio dei diritti, supporto in caso di data breach).

 

Cybersecurity: minacce specifiche che richiedono difese specifiche

I sistemi IA presentano vulnerabilità che i framework di cybersecurity tradizionali non coprono adeguatamente. La superficie di attacco è diversa e spesso più ampia.

Quattro categorie di attacco da conoscere. Attacchi di evasione: input leggermente modificati, impercettibili per l’uomo, che causano errate classificazioni. Difese: adversarial training, validazione degli input, ensemble methods, monitoraggio delle predizioni anomale. Attacchi di avvelenamento: compromissione dei dati di addestramento per influenzare il comportamento del modello. Inserimento di dati malevoli, manipolazione delle label, inserimento di trigger nascosti (backdoor attacks). Difese: validazione rigorosa dei dati di addestramento, controllo dell’integrità delle fonti, tecniche di data sanitization, monitoraggio delle performance. Attacchi alla privacy: tecniche di model inversion per ricostruire dati di addestramento dalle predizioni, membership inference per determinare se un dato specifico è stato usato, modelli di linguaggio indotti a rivelare informazioni personali. Difese: differential privacy, federated learning, limitazione delle informazioni esposte dalle API, anonimizzazione. Attacchi di abuso: sfruttamento di sistemi legittimi per scopi dannosi (generazione di disinformazione, automazione di attacchi, scraping eccessivo). Difese: rate limiting, controlli di accesso, monitoraggio dei pattern di utilizzo, watermarking, filtri anti-abuso.

Il framework di sicurezza si articola in nove azioni: adozione responsabile (valutare i rischi prima di adottare qualsiasi sistema), gestione della supply chain (verificare la sicurezza dei fornitori), protezione dei dati di addestramento (controlli su qualità, integrità, provenienza), monitoraggio continuo del comportamento (rilevare anomalie e derive), gestione delle vulnerabilità, incident response, formazione del personale, testing di sicurezza specifico per l’IA, protezione degli accessi (controlli IAM robusti).

Le misure devono essere allineate con la Direttiva NIS2 e le linee guida dell’Agenzia per la Cybersicurezza Nazionale. Serve designare un responsabile della sicurezza IA o integrare queste responsabilità nel CISO, condurre assessment specifici, implementare controlli lungo tutto il ciclo di vita, mantenere aggiornato il personale sulle minacce emergenti.

 

Competenze e formazione: non solo per i tecnici

L’adozione efficace dell’IA richiede competenze adeguate a tutti i livelli dell’organizzazione. Non si tratta solo di formare i tecnici: l’AI literacy è una competenza di base che riguarda tutto il personale. Comprende la conoscenza dei concetti fondamentali dell’IA e del machine learning, la comprensione delle potenzialità e dei limiti, la consapevolezza delle implicazioni etiche e sociali, la percezione dei rischi associati (bias, sicurezza, privacy), la conoscenza dei diritti e doveri nell’interazione con i sistemi IA.

L’azienda deve mappare le competenze esistenti e identificare i gap, definire piani formativi che specifichino obiettivi, destinatari, modalità, tempistiche e indicatori di successo, creare comunità di pratica interne, sviluppare partnership con università e centri di ricerca, garantire formazione continua con aggiornamento periodico.

La rapidità dell’evoluzione tecnologica rende questo punto non negoziabile: un piano formativo che non preveda aggiornamento continuo è destinato a diventare obsoleto nel giro di pochi mesi.

 

Strumenti operativi: dal framework alla pratica

Il documento mette a disposizione nove allegati che costituiscono un toolkit operativo adattabile al contesto aziendale. Strumento di valutazione della maturità, modello di valutazione del rischio, checklist per la FRIA e DPIA, modello di codice etico (o template per policy aziendale), elenco degli standard tecnici, modello di documentazione dei casi d’uso, classificazione delle funzionalità IA, procedure di governance, framework degli indicatori di performance.

Sul sito dello Studio Legale (www.studiolegalebroglia.com) saranno disponibili materiali di approfondimento, template personalizzabili e aggiornamenti normativi.

 

Scadenze e prossimi passi

Gli obblighi sui sistemi vietati sono già in vigore dal 2 febbraio 2025. Le scadenze successive riguardano i sistemi ad alto rischio e arriveranno progressivamente nei prossimi mesi. Il mercato, prima ancora della legge, sta già iniziando a premiare le organizzazioni che dimostrano di saper governare l’IA in modo responsabile, trasparente e sicuro.

Chi pensa di poter rimandare sbaglia i tempi. La conformità normativa, quando è costruita con intelligenza, diventa un acceleratore di innovazione, non un freno. Le aziende che affronteranno questo percorso con metodo, partendo da una strategia definita, costruendo una governance solida, investendo in competenze, curando la qualità dei dati, proteggendo i sistemi e documentando ogni scelta, non solo si metteranno al riparo da rischi sanzionatori e reputazionali, ma si troveranno in una posizione di vantaggio competitivo reale.

Il percorso va costruito sulle specificità di ciascuna organizzazione, con il supporto di competenze interne e, dove necessario, di consulenti che conoscano a fondo sia il diritto sia la tecnologia.

 

👾 👾 👾

Alla prossima settimana!

 

Alla scoperta delle norme dedicate all’intelligenza artificiale

 

L’IA in azienda: istruzioni per l’uso

 

La newsletter torna dopo una lunga pausa.

Pensavamo di scrivere del Digital Omnibus e delle modifiche all’AI Act, ma lo faremo più avanti.

In questa uscita utilizziamo le Linee Guida di AgID sull’adozione dell’intelligenza artificiale nella PA per trasformare le indicazioni in consigli per le aziende. 

 

Dall’inizio del 2025 le cose sono cambiate. Non parliamo più di “quando arriveranno le regole sull’IA”, ma di “come applicare le regole che ci sono già”. Il 2 febbraio scorso sono entrati in vigore i primi obblighi dell’AI Act, quelli sui sistemi vietati. Le scadenze successive sono ravvicinate e riguardano tutti, anche chi pensava di essere troppo piccolo per essere interessato.

AgID ha pubblicato a febbraio 2025 le Linee Guida per l’adozione dell’intelligenza artificiale nella Pubblica Amministrazione. Documento corposo, pensato per il settore pubblico, ma costruito su un’architettura che vale per qualsiasi organizzazione: il framework normativo sottostante (AI Act, GDPR, NIS2, standard ISO) è lo stesso per tutti. Cambia l’interlocutore, non la sostanza degli obblighi.

Ho tradotto quella struttura in chiave aziendale. Non un semplice adattamento, ma una rielaborazione che tiene conto delle specificità delle PMI italiane e dei professionisti che devono muoversi in questo nuovo scenario. Il risultato? Una guida operativa che parte dai principi dell’AI Act e arriva fino alla gestione pratica: conformità, governance, cybersecurity, dati, competenze.

Proviamo a vedere i punti chiave.

Cosa conta davvero come “sistema di IA”

L’AI Act, all’articolo 3, definisce il sistema di IA come un sistema automatizzato progettato per funzionare con livelli di autonomia variabili, che può presentare adattabilità dopo la diffusione e che deduce dall’input ricevuto come generare output (previsioni, contenuti, raccomandazioni o decisioni) capaci di influenzare ambienti fisici o virtuali.

Tradotto: non serve avere un supercomputer in cantina. Un chatbot aziendale per l’assistenza clienti è un sistema IA. Un algoritmo di scoring creditizio è un sistema IA. Un sistema predittivo per la manutenzione industriale è un sistema IA. Anche quello strumento SaaS che avete adottato sei mesi fa “perché fa tutto lui” probabilmente integra un sistema IA, e questo vi rende deployer con responsabilità precise.

La definizione è volutamente ampia. Abbraccia i modelli linguistici di grandi dimensioni (ChatGPT, Claude, Gemini), i sistemi di raccomandazione per l’e-commerce, gli strumenti di analisi documentale, i sistemi di classificazione automatica. Se c’è capacità inferenziale, se c’è apprendimento, ragionamento o deduzione, siete dentro il perimetro.

La piramide del rischio (e cosa cambia per voi)

L’AI Act classifica i sistemi in quattro livelli di rischio. Ogni livello ha conseguenze operative diverse.

Sistemi vietati: rischio inaccettabile. Tecniche subliminali che agiscono senza consapevolezza della persona, manipolazione, sfruttamento delle vulnerabilità, scoring sociale. Obblighi in vigore dal 2 febbraio 2025. Se avete sistemi attivi, verificate subito.

Sistemi ad alto rischio: quelli che, in caso di malfunzionamento, possono causare danni rilevanti a diritti fondamentali. Pensate a sistemi usati in ambito credito, risorse umane, assicurazioni, sanità, sicurezza, istruzione. Gli obblighi sono pesanti: documentazione tecnica completa, sistema di gestione della qualità, log automatici, testing rigoroso, valutazione di conformità, in certi casi marcatura CE.

Un esempio concreto: avete adottato un sistema che analizza i CV e preseleziona i candidati per i colloqui. State usando un sistema ad alto rischio. Dovete dimostrare che non discrimina, che i dati di addestramento sono bilanciati, che c’è supervisione umana effettiva, che avete fatto una valutazione d’impatto. E dovete documentare tutto.

Sistemi a rischio limitato: chatbot generici, assistenti virtuali. Obblighi principalmente di trasparenza. L’utente deve sapere che sta interagendo con una macchina.

Sistemi a rischio minimo o nullo: nessun obbligo specifico dell’AI Act, ma restano applicabili GDPR, codice civile, normativa di settore.

I principi non sono filosofia, sono checklist operative

Il documento individua principi fondamentali. Non si tratta di dichiarazioni etiche da appendere in bacheca, ma di criteri operativi che, se disattesi, espongono a rischi concreti.

Conformità e legalità: ogni sistema va verificato rispetto ad AI Act, GDPR, NIS2. Puntualmente, con documentazione. Non basta dire “siamo a posto”, bisogna dimostrarlo.

Centralità della persona: i processi decisionali basati su IA devono essere comprensibili, le decisioni critiche non possono essere delegate esclusivamente agli algoritmi, deve esserci supervisione umana. Tre modalità previste: human on the loop (monitoraggio con possibilità di intervento), human in the loop (approvazione necessaria prima dell’implementazione), human in command (controllo completo). La scelta dipende dal rischio.

Non discriminazione: tema cruciale. I bias non sono un problema etico astratto, sono un rischio legale concreto che si traduce in trattamenti discriminatori, decisioni impugnabili, responsabilità risarcitorie. I bias hanno tre origini: dati di addestramento viziati, scelte algoritmiche distorte, pregiudizi umani dei progettisti. Vanno identificati e mitigati in ogni fase.

Sicurezza e accountability: responsabilità formali assegnate, decisioni documentate, evidenze di conformità mantenute. Per i sistemi ad alto rischio, la documentazione va conservata per almeno dieci anni dopo l’ultima messa in servizio.

Il modello PDCA applicato all’IA: pianificare, fare, verificare, agire

Le linee guida propongono il ciclo PDCA della norma ISO/IEC 42001:2023, lo standard internazionale per i sistemi di gestione dell’intelligenza artificiale. La logica è simile a ISO 9001 e 27001: pianificare, implementare, verificare, migliorare. Ma i contenuti sono specifici per l’IA.

Si parte dalla strategia aziendale per l’IA, allineata con gli obiettivi strategici dell’organizzazione. Non un documento formale fine a sé stesso, ma un esercizio di pianificazione che deve produrre risultati concreti: visione chiara, identificazione dei casi d’uso prioritari, stima delle risorse (umane, tecnologiche, finanziarie), modello di governance, piano di gestione dei rischi, indicatori di performance.

Prima di adottare qualsiasi sistema IA, serve un’analisi del contesto per valutare la maturità dell’organizzazione. Cinque dimensioni: disponibilità e qualità dei dati, competenze tecniche, risorse umane e struttura organizzativa, cultura aziendale (apertura all’innovazione, capacità di gestire il cambiamento), relazioni con stakeholder esterni.

Ogni caso d’uso va documentato in modo strutturato. Dodici aree obbligatorie: dominio applicativo, obiettivi, descrizione del sistema, classificazione del rischio, dati utilizzati, modelli e algoritmi, stakeholder coinvolti, requisiti normativi, misure di sicurezza, supervisione umana, indicatori di performance, rischi identificati e misure di mitigazione, opportunità di standardizzazione. Questa documentazione non è burocrazia: è la prima linea di difesa in caso di audit, contestazione o incidente.

Gestione del rischio: tre fasi, nessuna facoltativa

La valutazione ex-ante, condotta prima dell’adozione, identifica i potenziali rischi per diritti fondamentali, sicurezza e conformità normativa, ne valuta probabilità e impatto, definisce le misure di mitigazione.

Il testing verifica l’efficacia delle misure implementate, testa il sistema in condizioni realistiche, documenta i risultati.

Il monitoraggio continuo, durante l’operatività, rileva rischi emergenti, aggiorna le valutazioni, implementa azioni correttive.

Per i sistemi ad alto rischio servono valutazioni d’impatto specifiche. La FRIA (Fundamental Rights Impact Assessment), prevista dall’AI Act, analizza i diritti fondamentali potenzialmente impattati. La DPIA (Data Protection Impact Assessment), richiesta dal GDPR quando il trattamento presenta rischi elevati, segue una struttura complementare.

Un esempio pratico: adottate un sistema che analizza le telefonate del call center per valutare la performance degli operatori. Serve DPIA (trattate dati personali, inclusa la voce), serve FRIA (potrebbero esserci impatti su dignità e condizioni di lavoro), servono misure di mitigazione documentate (quali dati raccogliete, come li proteggete, come garantite che la valutazione sia equa, come coinvolgete i lavoratori).

Governance: chi fa cosa, come e quando

L’adozione dell’IA non è un progetto IT delegabile al reparto tecnico. Richiede un modello di governance dedicato, con ruoli, responsabilità e processi chiaramente definiti.

Serve designare una figura o una funzione responsabile del coordinamento dell’adozione dell’IA. Nelle imprese più strutturate può essere utile istituire un comitato multidisciplinare: IT, legale, DPO, responsabili di processo, esperti di etica e compliance. Il comitato supervisiona l’intero ciclo, dalla selezione dei casi d’uso alla valutazione dei risultati.

L’articolo 95 dell’AI Act prevede che i deployer possano adottare codici di condotta volontari per promuovere un uso responsabile dell’IA. Volontari sulla carta, ma nella pratica un codice etico strutturato (o una policy aziendale dedicata) è un investimento: dimostra diligenza, orienta il comportamento del personale, fornisce un riferimento in caso di controversia.

La policy dovrebbe coprire: disposizioni generali (ambito, finalità, destinatari), principi etici fondamentali (centralità della persona, trasparenza, equità, responsabilità, privacy, sicurezza), doveri del personale (formazione continua, segnalazione delle criticità), relazioni esterne (rapporti con clienti, fornitori, partner), governance e controllo (comitato etico, audit periodici, gestione delle segnalazioni), disposizioni su violazioni e aggiornamenti periodici.

Dati: il carburante che determina tutto

Se l’intelligenza artificiale è una macchina, i dati sono il suo carburante. La qualità dei dati determina direttamente l’affidabilità, l’accuratezza e l’equità dei sistemi IA. Un modello addestrato su dati di scarsa qualità produrrà risultati di scarsa qualità, indipendentemente dalla sofisticazione dell’algoritmo.

Il ciclo di vita dei dati si articola in dieci fasi: concezione, raccolta, analisi e profilazione, pulizia, trasformazione, archiviazione, utilizzo, condivisione, archiviazione di lungo periodo, dismissione. Ciascuna fase comporta obblighi specifici e richiede processi documentati.

I dati devono soddisfare cinque caratteristiche fondamentali: rappresentatività (copertura adeguata di tutte le casistiche rilevanti), bilanciamento (proporzione corretta tra le classi, applicando se necessario tecniche di oversampling o undersampling), tracciabilità (provenienza documentata, trasformazioni registrate, versionamento, metadati completi), disponibilità (accessibilità quando necessario, infrastruttura affidabile, backup, performance), credibilità (fonti autorevoli, controlli di qualità, verifiche di accuratezza, documentazione delle limitazioni).

La governance dei dati richiede ruoli chiari (data owner, data steward, DPO), politiche documentate, catalogazione sistematica con metadati secondo standard riconosciuti, sistema di monitoraggio continuo della qualità.

Privacy: GDPR e IA, un’integrazione necessaria

Quando i sistemi IA trattano dati personali, agli obblighi dell’AI Act si sommano quelli del GDPR. L’IA amplifica i rischi in modi che i trattamenti tradizionali non contemplano: inferenze su dati non esplicitamente forniti, decisioni automatizzate opache, profilazione su larga scala, possibilità di ricostruire informazioni sensibili a partire da dati apparentemente anonimi.

Il Garante per la protezione dei dati personali ha individuato tre principi algoritmici fondamentali. Trasparenza: informare le persone dell’utilizzo di sistemi IA, fornire informazioni comprensibili sul funzionamento, chiarire le logiche delle decisioni, spiegare significato e conseguenze del trattamento. Non esclusività della decisione algoritmica: le decisioni con effetti giuridici o significativi non devono basarsi unicamente su trattamento automatizzato, deve esserci sempre intervento umano sostanziale, le persone devono poter richiedere revisione umana, devono esistere canali per contestare le decisioni. Non discriminazione: garantire che i sistemi non producano discriminazioni, implementare misure per rilevare e mitigare i bias, utilizzare dataset bilanciati, condurre test di fairness, monitorare continuamente gli output.

Per i sistemi IA ad alto rischio che trattano dati personali, la DPIA è obbligatoria. Il DPO deve essere coinvolto in tutte le fasi del ciclo di vita: pianificazione (consulenza sulla conformità GDPR, supporto nella definizione della base giuridica, valutazione preliminare dei rischi), progettazione (verifica dell’applicazione dei principi di privacy by design e by default, revisione delle misure di sicurezza, supporto nelle informative), valutazione d’impatto (verifica della necessità della DPIA, supporto nella conduzione, parere prima della messa in servizio), fase operativa (monitoraggio della conformità, gestione delle richieste di esercizio dei diritti, supporto in caso di data breach).

Cybersecurity: minacce specifiche che richiedono difese specifiche

I sistemi IA presentano vulnerabilità che i framework di cybersecurity tradizionali non coprono adeguatamente. La superficie di attacco è diversa e spesso più ampia.

Quattro categorie di attacco da conoscere. Attacchi di evasione: input leggermente modificati, impercettibili per l’uomo, che causano errate classificazioni. Difese: adversarial training, validazione degli input, ensemble methods, monitoraggio delle predizioni anomale. Attacchi di avvelenamento: compromissione dei dati di addestramento per influenzare il comportamento del modello. Inserimento di dati malevoli, manipolazione delle label, inserimento di trigger nascosti (backdoor attacks). Difese: validazione rigorosa dei dati di addestramento, controllo dell’integrità delle fonti, tecniche di data sanitization, monitoraggio delle performance. Attacchi alla privacy: tecniche di model inversion per ricostruire dati di addestramento dalle predizioni, membership inference per determinare se un dato specifico è stato usato, modelli di linguaggio indotti a rivelare informazioni personali. Difese: differential privacy, federated learning, limitazione delle informazioni esposte dalle API, anonimizzazione. Attacchi di abuso: sfruttamento di sistemi legittimi per scopi dannosi (generazione di disinformazione, automazione di attacchi, scraping eccessivo). Difese: rate limiting, controlli di accesso, monitoraggio dei pattern di utilizzo, watermarking, filtri anti-abuso.

Il framework di sicurezza si articola in nove azioni: adozione responsabile (valutare i rischi prima di adottare qualsiasi sistema), gestione della supply chain (verificare la sicurezza dei fornitori), protezione dei dati di addestramento (controlli su qualità, integrità, provenienza), monitoraggio continuo del comportamento (rilevare anomalie e derive), gestione delle vulnerabilità, incident response, formazione del personale, testing di sicurezza specifico per l’IA, protezione degli accessi (controlli IAM robusti).

Le misure devono essere allineate con la Direttiva NIS2 e le linee guida dell’Agenzia per la Cybersicurezza Nazionale. Serve designare un responsabile della sicurezza IA o integrare queste responsabilità nel CISO, condurre assessment specifici, implementare controlli lungo tutto il ciclo di vita, mantenere aggiornato il personale sulle minacce emergenti.

Competenze e formazione: non solo per i tecnici

L’adozione efficace dell’IA richiede competenze adeguate a tutti i livelli dell’organizzazione. Non si tratta solo di formare i tecnici: l’AI literacy è una competenza di base che riguarda tutto il personale. Comprende la conoscenza dei concetti fondamentali dell’IA e del machine learning, la comprensione delle potenzialità e dei limiti, la consapevolezza delle implicazioni etiche e sociali, la percezione dei rischi associati (bias, sicurezza, privacy), la conoscenza dei diritti e doveri nell’interazione con i sistemi IA.

L’azienda deve mappare le competenze esistenti e identificare i gap, definire piani formativi che specifichino obiettivi, destinatari, modalità, tempistiche e indicatori di successo, creare comunità di pratica interne, sviluppare partnership con università e centri di ricerca, garantire formazione continua con aggiornamento periodico.

La rapidità dell’evoluzione tecnologica rende questo punto non negoziabile: un piano formativo che non preveda aggiornamento continuo è destinato a diventare obsoleto nel giro di pochi mesi.

Strumenti operativi: dal framework alla pratica

Il documento mette a disposizione nove allegati che costituiscono un toolkit operativo adattabile al contesto aziendale. Strumento di valutazione della maturità, modello di valutazione del rischio, checklist per la FRIA e DPIA, modello di codice etico (o template per policy aziendale), elenco degli standard tecnici, modello di documentazione dei casi d’uso, classificazione delle funzionalità IA, procedure di governance, framework degli indicatori di performance.

Sul sito dello Studio Legale (www.studiolegalebroglia.com) saranno disponibili materiali di approfondimento, template personalizzabili e aggiornamenti normativi.

Scadenze e prossimi passi

Gli obblighi sui sistemi vietati sono già in vigore dal 2 febbraio 2025. Le scadenze successive riguardano i sistemi ad alto rischio e arriveranno progressivamente nei prossimi mesi. Il mercato, prima ancora della legge, sta già iniziando a premiare le organizzazioni che dimostrano di saper governare l’IA in modo responsabile, trasparente e sicuro.

Chi pensa di poter rimandare sbaglia i tempi. La conformità normativa, quando è costruita con intelligenza, diventa un acceleratore di innovazione, non un freno. Le aziende che affronteranno questo percorso con metodo, partendo da una strategia definita, costruendo una governance solida, investendo in competenze, curando la qualità dei dati, proteggendo i sistemi e documentando ogni scelta, non solo si metteranno al riparo da rischi sanzionatori e reputazionali, ma si troveranno in una posizione di vantaggio competitivo reale.

Il percorso va costruito sulle specificità di ciascuna organizzazione, con il supporto di competenze interne e, dove necessario, di consulenti che conoscano a fondo sia il diritto sia la tecnologia.

 

👾 👾 👾

Alla prossima settimana!