Alla scoperta delle norme dedicate all’intelligenza artificiale
Il framework del NIST per governare l’intelligenza artificiale
Governare i sistemi di AI
Non avere una completa visibilità nei sistemi di IA, sviluppati o acquisiti, significa esporsi a rischi diversi, spesso non ancora adeguatamente conosciuti. La proliferazione di “shadow AI” è una minaccia per la sicurezza, per l’etica e per la conformità.
Non avere consapevolezza di potenziali rischi come pregiudizi, discriminazioni e “allucinazioni” può trasformarsi in violazioni etiche e danni reputazionali. Più o meno come si suol dire nel campo della sicurezza informatica, “non ci si può difendere o preparare adeguatamente per ciò che non si conosce”.
La sicurezza, l’integrità e l’affidabilità non devono essere un “problema che ci porremo, eventualmente, dopo”.
Il NIST AI framework
Si tratta di uno standard volontario finalizzato a governare l’adozione di modelli di AI e a gestirne i rischi.
Fornisce un elenco di controlli che, tra l’altro, possono essere collegati agli obblighi previsti da diverse disposizioni, incluso l’AI Act, offrendo così un quadro completo di gestione.
Fonte: Nist
Il Framework
Il framework descrive quattro funzioni specifiche: governare, mappare, misurare e gestire, ulteriormente suddivise in categorie e sottocategorie che garantiscono un uso responsabile ed etico dell’AI.
Governare
“Govern” è una funzione trasversale che è distribuita durante tutto il processo di gestione del rischio e abilita anche le altre funzioni.
Incorpora politiche, strutture di responsabilità, diversità, cultura organizzativa, coinvolgimento con gli attori e misure per affrontare i rischi e i benefici anche con riferimento alla supply chain.
Mappare
Questa funzione fornisce il contesto per inquadrare i rischi relativi a un sistema di AI, consentendo la categorizzazione del modello, confrontando i costi, i benefici e i parametri di riferimento appropriati, tenendo conto degli impatti su individui e gruppi.
Misurare
Utilizza strumenti, tecniche e metodologie quantitative, qualitative o miste per analizzare, valutare, confrontare e monitorare il rischio e i relativi impatti.
Identifica metodi e metriche appropriati, valuta il sistema per caratteristiche di affidabilità e raccoglie feedback sull’efficacia della misurazione.
Gestire
La funzione “Manage” alloca risorse rispetto ai rischi mappati, fornisce priorità ed elabora strategie per massimizzare i benefici dell’AI riducendo i possibili danni.
Come accennato, le funzioni sono ulteriormente suddivise in categorie e sottocategorie che garantiscono un uso responsabile ed etico dell’AI nel complesso.
Fonte: Wiz Academy
I materiali di supporto
Il framework include anche materiali di supporto per un aiuto nell’applicazione delle linee guida:
- AI RMF Playbook: una guida passo-passo per implementare il NIST AI RMF
- AI RMF Roadmap: una timeline per adottare pratiche di gestione del rischio IA
- AI RMF Crosswalks: strumenti per mappare le pratiche esistenti
- prospettive: diverse visioni della gestione del rischio IA adattate per settori o esigenze specifiche
- casi d’uso: esempi reali di come le organizzazioni stanno rendendo operativo il NIST AI RMF.
Trovate tutto al link indicato sopra.
👾 👾 👾
Ci vediamo la prossima settimana.
Questa newsletter si propone di esaminare le principali disposizioni in arrivo con un linguaggio semplice e chiaro, accompagnato il più possibile da esempi concreti.
Se sei interessato, iscriviti. 👾
👾 👾 👾
Ci vediamo la prossima settimana.
Questa newsletter si propone di esaminare le principali disposizioni in arrivo con un linguaggio semplice e chiaro, accompagnato il più possibile da esempi concreti.
Se sei interessato, iscriviti. 👾