Alla scoperta delle norme dedicate all’intelligenza artificiale
Rischi e impatti dell’intelligenza artificiale
Abbiamo più volte sottolineato come il Regolamento 1689/2024 sull’Intelligenza artificiale, pubblicato, tra l’altro, proprio qualche giorno fa (il 12 luglio, con la conseguente timeline di applicazione che avevamo indicato) adotti un approccio basato sul rischio.
Soprattutto in relazione ai modelli e ai sistemi definiti ad “alto rischio” (cfr. ultimo link indicato), sono previsti diversi adempimenti.
In particolare il fornitore di uno di questi sistemi deve istituire, attuare, documentare e mantenere un sistema di gestione dei rischi che sia costituito come un processo iterativo, continuo, pianificato ed eseguito nel corso dell’intero ciclo di vita del modello o del sistema.
Il Regolamento, però, non indica nello specifico “come” si debba effettuare questa valutazione del rischio.
Ma cosa significa tutto questo, e perché è necessaria una valutazione di questo tipo?
Perché i sistemi e i modelli di AI sono considerati possibili fonti di rischio?
Le tecnologie di intelligenza artificiale hanno un potenziale significativo per trasformare la società e la vita delle persone. Possono collaborare alla crescita economica, supportare e facilitare progressi scientifici che migliorano le condizioni del nostro mondo.
Le tecnologie di intelligenza artificiale, tuttavia, comportano anche rischi che possono avere un impatto negativo su individui, gruppi, organizzazioni, comunità, società, ambiente e pianeta.
Come per altri tipi di tecnologie, possono emergere in vari modi e possono essere a lungo o breve termine, ad alta o bassa probabilità, sistemici o localizzati e ad alto o basso impatto.
I motivi sono diversi e, in generale, includono:
- complessità tecnica,
- potenziale impatto sui diritti e le libertà delle persone,
- vulnerabilità alla sicurezza,
- mancanza di trasparenza e di spiegabilità.
I sistemi di intelligenza artificiale, ad esempio, possono essere addestrati su dati che possono cambiare nel tempo, a volte in modo significativo e/o inaspettato, influenzando la funzionalità e l’affidabilità del sistema in modi che possono essere ardui da comprendere.
Sono poi, in genere, estremamente complessi, quando non vere e proprie “scatole nere*”, ciò che rende difficile rilevare o reagire ai possibili errori o incidenti o, più semplicemente, capire adeguatamente gli output che forniscono.
Non va poi dimenticato come il loro utilizzo sia molto spesso connaturato e compenetrato con attività e azioni umane, il che rende alcune interazioni ancora più complesse.
Alcuni contesti di utilizzo, sui quali ad esempio il Regolamento 1689 si focalizza particolarmente (biometria, lavoro, istruzione, infrastrutture critiche, attività di contrasto o di controllo, amministrazione della giustizia, ecc.), possono presentare aspetti particolarmente delicati.
*Black box, scatola nera, si riferisce a sistemi di intelligenza artificiale i cui meccanismi interni sono poco chiari o nascosti agli utenti e persino agli sviluppatori. Questi modelli di intelligenza artificiale accettano input e producono output, ma la logica e i dati utilizzati per raggiungere tali risultati non sono accessibili, rendendo difficile, o addirittura impossibile, comprendere appieno come funzionano.
Impatto sui diritti e le libertà delle persone
I sistemi AI possono trattare grandi quantità di dati personali e sensibili, come i dati biometrici, che possono incidere significativamente sulla privacy, la riservatezza e la tutela della libertà e della dignità delle persone.
Bias e discriminazione
Gli algoritmi di AI, se non adeguamente progettati e allenati, possono introdurre o perpetuare bias e discriminazioni. Ciò, con tutta evidenza, potrebbe portare a decisioni ingiuste nei confronti di individui o gruppi di persone, influenzando negativamente i loro diritti e opportunità.
Sicurezza informatica
I modelli possono essere vulnerabili agli attacchi informatici, essere “colpiti” nelle fasi di addestramento, di test, ma anche di utilizzo, in contesti sempre più complessi, collegati e interagenti con miriadi di altri fattori, agenti e fornitori. La sicurezza dei dati e l’integrità dei modelli sono quindi cruciali per prevenire utilizzi malevoli.
Trasparenza e spiegabilità
Molti modelli di AI sono particolarmente complessi. “Si comprende cosa entra, ma non cosa esce”, talvolta riferiscono gli stessi tecnici: la mancanza di trasparenza rende difficile spiegare le decisioni prese dall’AI, ostacolando la fiducia e l’accettazione da parte degli utenti e delle autorità di regolamentazione.
Impatto sociale ed etico
L’implementazione di sistemi AI può avere conseguenze sociali ed etiche significative, come la perdita di posti di lavoro dovuta all’automazione o l’uso non etico di tecnologie di sorveglianza. Questi impatti richiedono una valutazione attenta per garantire che l’uso dell’AI sia allineato con i valori e le norme sociali ed etiche.
Complessità e mancanza di standard
La complessità dei sistemi AI e la mancanza di standard unificati per la loro valutazione e gestione dei rischi possono rendere difficile garantire la conformità e la sicurezza. La standardizzazione e la creazione di linee guida specifiche sono quindi essenziali per la gestione dei rischi associati.
Questi fattori rendono i modelli e i sistemi di AI ad alto rischio particolari e richiedono attenzioni e precauzioni nella loro progettazione, implementazione e gestione per garantire che siano sicuri, equi e conformi alle normative vigenti.
La norma ISO 42001:2023
Sebbene al momento esista una specifica norma ISO dedicata all’analisi del rischio relativa ai sistemi di intelligenza artificiale**, la ISO/IEC 42001:2023 contiene un approccio strutturato, coerente, iterativo e documentabile per una gestione accurata di un sistema di gestione dell’intelligenza artificiale e, in particolare, per stabilire, implementare, mantenere e migliorare continuamente un sistema di gestione secondo il classico modello “PDCA”, Plan, Do, Check, Act, ormai “tipico” dei sistemi di gestione ISO (HSL).
** ISO/IEC 23894: “Information Technology – Artificial Intelligence – Guidance on risk management”
La norma suggerisce (e, ovviamente, in caso di certificazione, impone) di condurre, regolarmente, valutazioni di rischio e impostare opportune attività di trattamento.
Sottolinea l’importanza di una gestione proattiva del rischio all’interno di un sistema di gestione.
In sostanza, le organizzazioni devono:
- identificare rischi e opportunità: prima di implementare un sistema di AI, è fondamentale individuare i potenziali pericoli e le possibili occasioni di miglioramento;
- definire obiettivi di gestione del rischio: gli obiettivi principali sono garantire che il sistema funzioni correttamente, prevenire effetti negativi e migliorarlo continuamente;
- stabilire criteri di valutazione del rischio: è necessario creare una scala di misurazione per classificare i rischi e capire quali sono i più urgenti da affrontare;
- mettere in atto misure di controllo: una volta identificati i rischi, si devono adottare strategie per ridurne l’impatto o evitarli del tutto.
L’organizzazione deve determinare i rischi e le opportunità in base a:
- dominio e contesto applicativo del sistema: ciò implica tenere conto del settore specifico in cui verrà utilizzata l’AI e del tipo di applicazione a cui è destinata. Ad esempio, i rischi e le opportunità di un sistema utilizzato per la diagnostica medica sarebbero diversi da quelli di un utilizzo per giocare a scacchi.
- Utilizzo previsto: si tratta di comprendere lo scopo per cui è stato progettato il sistema e come verrà utilizzato.
- Contesto esterno e interno: è necessario considerare i fattori ambientali esterni (ad esempio, le normative legali) e le condizioni interne all’organizzazione (ad esempio, la cultura aziendale e le competenze tecniche) che possono influenzare i rischi e le opportunità associati all’AI.
L’organizzazione deve pianificare:
- azioni per affrontare questi rischi e opportunità: una volta identificati i potenziali rischi e le possibili occasioni di miglioramento, occorre pianificare azioni concrete per gestirli. Queste azioni possono includere misure preventive per mitigare i rischi, strategie per sfruttare le opportunità e piani di monitoraggio per verificare l’efficacia delle azioni intraprese;
- deve poi determinare come:
- integrare e implementare le azioni nei processi del sistema di gestione dell’IA: le azioni pianificate devono essere integrate nei processi esistenti del sistema di gestione dell’IA, assicurando che queste attività vengano svolte in modo coerente e strutturato;
- valutare l’efficacia di queste azioni: è essenziale monitorare e valutare periodicamente l’efficacia delle azioni intraprese per ridurre i rischi e sfruttare le opportunità. In questo modo, l’organizzazione può apportare modifiche e miglioramenti al proprio sistema di gestione dell’IA nel tempo.
Se questi sono i requisiti “generali” (6.1.1.) per affrontare i rischi, la Norma prosegue poi indicando una precisa procedura per:
- il risk assessment (6.1.2.), prevedendo i “classici” momenti
- dell’identificazione dei rischi che possano aiutare o impediscano il raggiungimento degli obiettivi,
- dell’analisi delle possibili conseguenze e probabilità, oltre che del livello dei rischi,
- della valutazione dei risultati rispetto all’analisi e ai criteri già stabiliti, per prioritizzare gli interventi;
- il trattamento (treatment) del rischio, appropriata selezione
- delle opzioni,
- dei controlli (vedi Annex “A”), anche eventualmente aggiuntivi,
- e una opportuna formulazione di un piano di trattamento.
La valutazione dell’impatto
Vale la pena evidenziare come la norma preveda che l’organizzazione debba definire, e tenerne conto nel processo di analisi del rischio, anche un processo per valutare le potenziali conseguenze per gli individui, o gruppi di individui e la società in generale.
Ciò perché, come abbiamo visto, diverse conseguenze, in termini di “impatto”, possono derivare dallo sviluppo, dalla fornitura o dall’utilizzo di sistemi di intelligenza artificiale.
E’ dunque fondamentale (anche documentare, per la Norma), di avere adeguatamente valutato l’impatto del sistema in relazione alle conseguenze potenziali che possono derivare dall’implementazione del sistema stesso, dal suo utilizzo, da un eventuale errato utilizzo.
Il NIST AI Framework
Lo scorso aprile il NIST ha rilasciato una bozza di pubblicazione basata sull’AI Risk Management Framework (AI RMF) per coadiuvare le imprese a gestire il rischio relativo ai sistemi di AI generativa. Propone azioni e attività di mitigazione adattabili alle specifiche realtà e priorità.
Il framework è suddiviso in due parti principali:
- Informazioni fondamentali (Part 1): descrive come le organizzazioni possono inquadrare i rischi legati all’AI e l’audience a cui il documento è rivolto.
- Core e Profili (Part 2): fornisce le funzioni principali per aiutare le organizzazioni a gestire i rischi dell’AI in pratica, suddivise in quattro funzioni principali: Govern, Map, Measure, e Manage.
Un video esplicativo è di ulteriore ausilio.
Come sempre accade quando si vuole affrontare il tema del rischio, è essenziale comprendere, in relazione agli obiettivi e alle priorità dell’organizzazione, quali siano le probabilità di eventi negativi e l’entità delle eventuali conseguenze.
Anche il Nist pone particolare enfasi sulla misurazione dei rischi, la tolleranza al rischio, la prioritizzazione dei rischi e l’integrazione organizzativa della gestione.
Il documento è destinato a una vasta gamma di attori: sviluppatori, deployers, utenti finali e altre parti interessate.
Anche in questo caso le caratteristiche dei sistemi AI affidabili sono individuate nella validità, affidabilità, sicurezza, resilienza, responsabilità, trasparenza, spiegabilità, rispetto della privacy e gestione dei bias dei modelli: bilanciare queste caratteristiche è cruciale per la gestione efficace dei rischi.
La seconda parte contiene il “core” del Framework:
Govern
Stabilisce una cultura della gestione del rischio all’interno delle organizzazioni. Integra i rischi dell’AI nei processi aziendali e nelle strategie organizzative. Include la gestione dei requisiti legali e regolamentari, la trasparenza dei processi, e la responsabilità.
Map
Stabilisce il contesto per inquadrare i rischi relativi a un sistema AI. Identifica scopi, usi benefici potenziali, contesto normativo e aspettative. Valuta i rischi derivanti da componenti di terze parti e mappa gli impatti su individui, gruppi, comunità e società.
Measure
Utilizza strumenti quantitativi e qualitativi per analizzare e monitorare i rischi dell’AI. Include la valutazione delle caratteristiche di affidabilità del sistema AI e la tracciabilità dei rischi identificati nel tempo. Promuove la trasparenza e la documentazione dei processi di misurazione.
Manage
Implementa azioni per gestire i rischi identificati e migliorare l’affidabilità del sistema. Include strategie per mitigare i rischi, pianificare la risposta agli incidenti e mantenere la conformità alle normative. Promuove un approccio iterativo e continuo alla gestione dei rischi.
Come abbiamo visto parlando della norma 42001, gli impatti dei sistemi di AI possono essere rilevanti.
Un articolo del Regolamento europeo si occupa specificamente di una particolare valutazione, di impatto, appunto, sui diritti fondamentali, impatti che possono derivare dallo sviluppo, produzione, messa in commercio e utilizzo dei sistemi ad alto rischio.
Affronteremo l’art. 27 la prossima settimana, perché i “deployer”, ossia quelli che, purtroppo con terminologia che avrebbe potuto esser meglio definita, dovremo chiamare gli “utilizzatori”.
👾
p.s.: come sempre, ogni suggerimento o correzione, come sempre, è più che ben accetta!
👾 👾 👾 👾 👾
Questa newsletter si propone di esaminare le principali disposizioni in arrivo con un linguaggio semplice e chiaro, accompagnato il più possibile da esempi concreti.
Se sei interessato, iscriviti. 👾