Alla scoperta delle norme dedicate all’intelligenza artificiale
Correttezza e trasparenza nel GDPR e nell’AI Act
Continuiamo il nostro percorso nell’ecosistema normativo GDPR-AI Act esplorando oggi due principi fondamentali che percorrono entrambe le norme: trasparenza e correttezza nel trattamento dei dati e nell’utilizzo dell’intelligenza artificiale.
L’articolo 5 del GDPR stabilisce che i dati devono essere trattati in modo lecito, corretto e trasparente.
L’AI Act rafforza questi principi con gli articoli 13 e 50, creando un quadro normativo che va oltre la semplice compliance, al fine di costruire fiducia tra tecnologia e persone.
Dall’opacità alla comprensibilità
Il principio di trasparenza del GDPR nell’era dell’AI assume una dimensione più accentuata: non basta più informare le persone del come e del perché i loro dati vengono trattati ma è necessario assicurarsi che comprendano come i sistemi di AI utilizzano le informazioni raccolte per prendere decisioni.
L’articolo 13 dell’AI Act richiede infatti che i sistemi siano progettati per permettere agli utenti non solo di comprendere, ma anche di fidarsi degli output prodotti.
Questo significa superare l’effetto “black box” che abbiamo più volte discusso, rendendo comprensibili:
- i fattori che influenzano le decisioni
- il grado di certezza delle previsioni, ma anche
- i limiti e le potenziali distorsioni del sistema.
Non si tratta solo di fornire informazioni tecniche, ma di garantire una trasparenza significativa che permetta alle persone di prendere decisioni informate.
L’obbligo di disclosure: quando l’AI si “presenta”
L’articolo 50 dell’AI Act introduce poi un obbligo specifico di trasparenza: fornitori e deployer devono rivelare quando i contenuti sono generati o manipolati dall’AI.
Questa norma risponde a una preoccupazione crescente: il diritto delle persone di sapere quando stanno interagendo con sistemi artificiali.
Pensiamo ai deepfake sempre più realistici, ai chatbot che simulano conversazioni umane, ai contenuti multimediali generati automaticamente.
Si veda questo video, ormai “vecchio” di circa un anno.
L’obbligo di disclosure serve a:
- prevenire manipolazioni e inganni
- permettere valutazioni critiche sui contenuti
- mantenere l’autonomia decisionale delle persone.
La trasparenza non è dunque più solo una questione di privacy, ma diventa garanzia di autenticità in un mondo dove il confine tra umano e artificiale si assottiglia sempre di più.
Trasparenza: dalla teoria alla pratica
Le organizzazioni interessate dovrebbero sviluppare modalità di gestione che operino su più livelli.
Dotarsi di una documentazione tecnica chiara che evidenzi come i sistemi elaborano i dati e generano risultati, forniscano spiegazioni comprensibili delle logiche decisionali, diano informazioni sui dataset utilizzati per l’addestramento.
Provvedere ad una comunicazione chiara che chiarisca quando gli utenti interagiscono con sistemi AI; prevedere e fornire procedure per contestare o richiedere revisioni delle decisioni automatizzate e canali per ottenere spiegazioni aggiuntive.
Prima ancora, gestire strategicamente le proprie politiche sull’utilizzo dell’AI, effettuare e documentare valutazioni d’impatto e mantenere un controllo periodico del funzionamento e dell’efficacia dei sistemi.
Trasparenza come vantaggio competitivo e come sfida
In un momento di forti e veloci cambiamenti, la trasparenza non dovrebbe essere vista solo come obbligo normativo, ma come opportunità.
Le organizzazioni che sanno comunicare chiaramente come utilizzano l’AI
- infondono maggiore fiducia negli utenti
- si differenziano “eticamente” rispetto ai molti competitor
- riducono il rischio di danni legali e reputazionali.
Microsoft, per esempio, come abbiamo già visto, ha sviluppato strumenti di “AI transparency” che permettono agli utenti di comprendere come vengono elaborate le loro richieste.
Si tratta certamente di affrontare sfide concrete come bilanciare comprensibilità e precisione tecnica in relazione a destinatari diversi; proteggere, comunque, i segreti commerciali pur mantenendo una certa riservatezza; in generale, di gestire una complessità di sistemi con milioni di parametri evitando un overload informativo che renderebbe la trasparenza inefficace.
Probabilmente la soluzione sta nello sviluppare comunicazioni stratificate: informazioni di base accessibili a tutti, dettagli tecnici per esperti, spiegazioni contestuali per decisioni specifiche.
👾 👾 👾
Ci vediamo la prossima settimana.
Se sei interessato, iscriviti. 👾