Alla scoperta delle norme dedicate all’intelligenza artificiale
Acquistare sistemi di AI (terza parte)
Prima di una breve pausa natalizia, continuiamo in questa terza uscita l’esame dei suggerimenti della Commissione Europea relativi alla stesura di contratti di procurement di sistemi di intelligenza artificiale.
Qui è disponibile la prima parte; qui la seconda.
Il testo originale della Commissione è disponibile qui: https://public-buyers-community.ec.europa.eu/communities/procurement-ai/news/new-version-procurement-clauses-ai-available-supporting-responsible.
Sistemi di gestione della qualità
Come abbiamo detto più volte, il Regolamento pone particolare enfasi su qualità e affidabilità dei sistemi di IA, richiedendo ai fornitori di implementare sistemi robusti, corredati di documentazione esplicativa chiara e trasparente.
La clausola suggerita dalla Commissione si allinea specificamente con gli obblighi previsti dall’AI Act, che richiede un approccio sistematico alla gestione della qualità per garantire la conformità normativa e la sicurezza dei sistemi durante tutto il loro ciclo di vita.
In sintesi, è necessario garantire che tutti gli aspetti critici dello sviluppo e della gestione del sistema di IA siano adeguatamente controllati e documentati.
Un tale sistema di gestione dovrebbe essere strutturato attraverso tre livelli di documentazione:
- Politiche (livello strategico),
- Procedure (livello tattico),
- Istruzioni scritte (livello operativo).
Gli elementi chiave indicati dovrebbero dunque delineare un framework completo, atto a coprire:
- conformità normativa e strategia regolamentare,
- metodologie di progettazione e sviluppo,
- procedure di controllo qualità e validazione,
- gestione dei dati e documentazione,
- gestione dei rischi e degli incidenti,
- responsabilità organizzativa e governance.
Valutazione della conformità
I suggerimenti relativi a questa clausola (art. 11 del documento in esame) sono direttamente collegati al sistema di gestione della qualità.
Non è infatti sufficiente solo progettare e implementare un tale sistema di gestione, ma anche verificarlo e validarlo in continuazione, specialmente in caso di modifiche sostanziali.
Che è poi quanto previsto dai sistemi di gestione ISO, come noto fondati su un approccio Plan Do Check Act (e, per quanto riguarda l’aspetto della verifica, il Check: la valutazione delle prestazioni, il monitoraggio, la misurazione, l’analisi e valutazione, gli audit interni e il riesame della direzione).
Le fasi suggerite sono le seguenti:
- verifica del sistema,
- esame della documentazione tecnica,
- verifica del processo di sviluppo.
Misure correttive
Parimenti, la clausola 12 proposta dalla Commissione prevede che “se durante il periodo di validità dell’accordo il fornitore ritiene o ha motivo di ritenere che il sistema di IA non sia conforme” a quanto previsto… “adotta immediatamente le misure correttive necessarie per rendere conforme il sistema.”
Explicability
La “spiegabilità” dei sistemi è direttamente collegata al concetto di trasparenza, con il quale “si intende che i sistemi di IA sono sviluppati e utilizzati in modo da consentire un’adeguata tracciabilità e spiegabilità, rendendo gli esseri umani consapevoli del fatto di comunicare o interagire con un sistema di IA e informando debitamente i deployer delle capacità e dei limiti di tale sistema di IA e le persone interessate dei loro diritti” (così nel Considerando 27 del Regolamento).
L’explicability dei sistemi è dunque una loro componente fondamentale, in quanto permette di:
- tracciare i processi decisionali dell’IA, rendendoli comprensibili sia agli sviluppatori che agli utenti finali;
- spiegare in modo chiaro le ragioni alla base di un determinato output o decisione, evitando le cosiddette scatole nere (black box);
- informare gli utenti sulle capacità e i limiti del sistema, consentendo loro di valutare criticamente le informazioni ricevute;
- tutelare i diritti degli individui, garantendo che le decisioni dell’IA non siano prese in modo arbitrario o discriminatorio.
Nonostante l’evidente importanza della spiegabilità, la sua implementazione presenta diverse criticità.
Gli algoritmi sono complessi: soprattutto quelli di deep learning, sono spesso difficili da interpretare anche per gli esperti.
A volte, semplificare un modello per renderlo più interpretabile può comportare una perdita di accuratezza nelle previsioni.
Infine, è importante ricordare che non esiste una definizione univoca di spiegabilità, ciò che rende difficile stabilire standard oggettivi per valutarla.
Per maggiori informazioni può essere utile questa pagina: https://www.ibm.com/it-it/topics/explainable-ai.
Ad ogni modo la clausola suggerisce come approcciare il problema.
Altre indicazioni
Infine, le clausole proposte dalla Commissione prevedono particolari disposizioni in materia di diritti sui set di dati, di eventuali indennizzi, di obblighi informativi delle organizzazioni pubbliche cui le proposte di indirizzano.
Maggiori dettagli sono disponibili direttamente sul documento.
👾 👾 👾 👾 👾
Ci fermiamo per qualche giorno. Torneremo dopo la pausa.
Buone Feste a tutti!
👾 👾 👾
Questa newsletter si propone di esaminare le principali disposizioni in arrivo con un linguaggio semplice e chiaro, accompagnato il più possibile da esempi concreti.
Se sei interessato, iscriviti. 👾