Alla scoperta delle norme dedicate all’intelligenza artificiale
La piattaforma che ti dice se il tuo sistema AI è conforme
Molte aziende stanno integrando chatbot, sistemi di raccomandazione e altri strumenti basati su intelligenza artificiale senza avere piena consapevolezza degli obblighi normativi.
Il risultato? Rischi di sanzioni e problemi di conformità che emergono quando è troppo tardi per rimediare facilmente.
Una buona notizia è che la Commissione europea ha appena lanciato uno strumento che può essere utile: la Single Information Platform sull’AI Act.
Non è l’ennesimo portale pieno di documenti incomprensibili, ma una risorsa pratica che aiuta a capire cosa fare per essere a norma.
E’ una versione in via di sviluppo, migliorabile, ma utile.
Perché occuparsene ora
L’AI Act non è una normativa che entra in vigore tutta insieme un certo giorno.
Alcuni obblighi sono già attivi, altri scatteranno progressivamente fino al 2030.
Se si usano o sviluppano sistemi di AI, bisogna sapere quali regole ci coinvolgono e da quando. Aspettare che qualcuno ci dica cosa fare non è una buona strategia: come detto, alcuni obblighi e alcune sanzioni sono già in vigore.
Cosa c’è sulla piattaforma e come usarla
Il sito contiene strumenti operativi che si possono usare subito per fare il punto della situazione.
Le FAQ che rispondono ai dubbi
Una delle sezioni più utili è quella delle FAQ, costruita raccogliendo le domande fatte dai molti partecipanti ai webinar del Patto sull’intelligenza artificiale.
Non sono risposte teoriche, ma indicazioni concrete che aiutano a districarsi nel labirinto delle norme.
Alcuni esempi di domande cui viene data risposta:
- Le regole si applicano anche ai sistemi che ho già in uso o solo a quelli nuovi?
- Qual’è la differenza tra “modello di AI” e “sistema di AI” (e perché è importante saperlo)?
- Devo nominare figure specifiche in azienda per gestire i sistemi di AI?
- Posso accedere a finanziamenti per mettermi in regola?
Suggeriamo di dare un’occhiata: è certamente una risorsa utile: spesso gli obblighi nascosti emergono proprio dalle domande che non ci facciamo.
L’AI Act Explorer: una guida per rendere comprensibile il testo
Leggere l’AI Act dall’inizio alla fine è un’esperienza estenuante 😅.
L’AI Act Explorer è uno strumento che permette di navigare il testo per capitoli, allegati e considerando in modo logico e intuitivo: fa risparmiare tempo.
Il Compliance Checker: lo strumento da provare
Questa è la parte più interessante. L’AI Act Compliance Checker (ancora in versione Beta) è un questionario guidato che aiuta a capire quali obblighi e requisiti si applicano al caso specifico.
La Commissione chiede esplicitamente feedback per migliorarlo, quindi vale la pena provarlo.
Noi lo abbiamo fatto immaginando un caso pratico: l’implementazione di un chatbot per l’assistenza clienti, basato su un modello linguistico di grandi dimensioni (LLM) fornito da un vendor esterno e con integrazione da parte del team tecnico interno.
Usando il Compliance Checker, si risponde a una serie di domande:
- Stiamo utilizzando un sistema o un modello di AI?
- Si tratta di un “general purpose model”?
- Il modello presenta un rischio sistemico ai sensi degli articoli 51 e seguenti?
- Quale ruolo ha l’azienda (fornitore, deployer, importatore)?
Al termine del questionario, il tool restituisce un quadro di massima (un po’ scarno…). Nel caso del chatbot per assistenza clienti non emergono rischi particolari.
Qualche mancanza
Posto che la nostra analisi sia stata giusta nell’inserimento delle risposte, ci pare peraltro che il risultato potrebbe portare a sottostimare altre necessità che, comunque, la normativa impone di considerare.
Ad esempio:
- gli obblighi di trasparenza e informazione
- la verifica che il fornitore abbia adempiuto ai propri obblighi
- poiché il chatbot tratterà in ogni caso dati personali, tra l’altro in un contesto tecnologicamente avanzato, non si devono dimenticare gli obblighi in materia di data protection e, in particolare, quelli che prevedono l’esecuzione di particolari analisi di rischio come quelle di impatto
- potrebbe poi essere più che opportuno verificare la necessità di dotarsi di adeguata documentazione
- una supervisione umana, nel caso il sistema preveda decisioni, deve essere prevista.
Naturalmente serve una conoscenza minima della normativa per rispondere correttamente alle domande (soprattutto su definizioni e ruoli), ma la piattaforma offre link e approfondimenti in ogni passaggio.
Cosa fare, quindi?
La piattaforma è utile, ma ancora “acerba”.
Speriamo, ad esempio, che possa essere integrata con altre indicazioni (vedi per esempio quanto abbiamo discusso qui).
Come abbiamo detto più volte, pensiamo almeno a questi passaggi:
- facciamo un inventario dei sistemi e, soprattutto, dei modelli in uso, tenendo presente che moltissime persone usano, durante il lavoro, modelli free non dichiarati…
- usiamo il compliance checker per una prima analisi, magari del sistema più esposto
- coinvolgiamo le giuste competenze (direzione, prima di tutto, legal, compliance e, ovviamente, IT).
La prossima settimana torneremo sul tema dei rischi derivanti da un utilizzo “leggero” dei modelli disponibili sul mercato, con esempi concreti di cosa può andare storto quando si sottovalutano certi aspetti.
👾 👾 👾
Alla prossima settimana!
👾