Alla scoperta delle norme dedicate all’intelligenza artificiale
Modelli General Purpose, cose da sapere
Modelli come GPT-4 (OpenAI), Gemini (Google), Claude (Anthropic), LLaMa, Midjourney, ossia i cosiddetti modelli linguistici o multimodali, che sono in grado di elaborare e generare diversi tipi di output come testo, immagini, audio, sono definiti dall’AI Act “modelli general purpose”, ossia modelli per finalità generali.
Come tutti sappiamo svolgono una vasta gamma di compiti e sono ormai molto conosciuti, oltre che molto utilizzati (ne abbiamo parlato qui).
In generale, salvo non presentino alcune particolari caratteristiche di rischio (perché hanno un’alta capacità di impatto e sono considerati a “rischio sistemico”, come previsto dall’art. 51) comportano comunque, soprattutto per gli sviluppatori, alcune necessità di adeguamento.
Sviluppare questi sistemi, in altre parole, comporta la necessità
- di avere un’ idonea documentazione tecnica e informativa,
- di mettere in atto specifiche attività di monitoraggio, reporting e cybersecurity (anche per le autorità),
- di adottare policy relative alla trasparenza e al copyright che dimostrino di avere adottato alcune precauzioni di base.
Il codice di buone pratiche
La Commissione Europea sta lavorando ad un apposito Codice di buone pratiche (v. art. 56 dell’AI Act), del quale è recentemente stato pubblicato il terzo draft. Non si tratta, dunque, della versione definitiva, prevista tra qualche mese, ma è comunque un documento interessante sotto diversi aspetti.
La pagina informativa è disponibile qui.
Molto utile anche la pagina web dedicata, con link interattivi per muoversi agevolmente tra le sezioni.
Le prime due sezioni del progetto di codice specificano gli obblighi in materia di trasparenza e diritto d’autore per tutti i fornitori di modelli GPAI e prevedono diverse esenzioni per determinati modelli open source.
La terza e la quarta sezione del codice sono destinate, in particolare, agli sviluppatori di modelli avanzati che potrebbero comportare rischi sistemici (interessanti, nello specifico, le misure per la valutazione e la mitigazione del rischio sistemico, la segnalazione degli incidenti e gli obblighi di cybersicurezza; per il dettaglio si veda qui).
Per quanto riguarda la trasparenza, in particolare è possibile esaminare un documento, sempre in bozza che dovrebbe diventare uno standard che, quindi, non solo gli sviluppatori dovranno predisporre ma che è opportuno che gli utilizzatori conoscano per poter valutare i diversi modelli e le tante offerte presenti sul mercato.
La documentazione
La “documentazione” che deve accompagnare i modelli GPAI è infatti prevista dall’art. 53 dell’AI Act.
Art. 53: I fornitori di modelli di IA per finalità generali: a) redigono e mantengono aggiornata la documentazione tecnica del modello, compresi il processo di addestramento e prova e i risultati della sua valutazione, che contiene almeno le informazioni di cui all’allegato XI affinché possa essere trasmessa, su richiesta, all’ufficio per l’IA e alle autorità nazionali competenti; b) elaborano, mantengono aggiornate e mettono a disposizione informazioni e documentazione per i fornitori di sistemi di IA che intendono integrare il modello di IA per finalità generali nei loro sistemi di IA. …
Il documento è strutturato in tre misure principali:
Documentazione del modello: i fornitori devono creare un documento chiamato “Informazioni e documentazione sul modello di IA di uso generale” che include dettagli tecnici, prestazioni e caratteristiche del modello. La documentazione deve essere aggiornata in caso di modifiche rilevanti e conservata per 10 anni.
Condivisione delle informazioni: le informazioni pertinenti devono essere rese disponibili ai fornitori a valle (che integrano il modello nei loro sistemi) e all’Ufficio per l’intelligenza artificiale su richiesta.
Qualità e sicurezza: devono essere garantite qualità, integrità e sicurezza delle informazioni documentate.
Il modulo richiede:
- Informazioni generali (nome, versione, autenticità)
- Proprietà del modello (architettura, modalità di input/output)
- Distribuzione e licenze
- Usi previsti e accettabili
- Processo di addestramento
- Dati utilizzati per addestramento, test e validazione
- Risorse computazionali e consumo energetico
- Informazioni aggiuntive per modelli con rischio sistemico
Ogni campo è contrassegnato per indicare se l’informazione è destinata all’Ufficio AI, alle Autorità Nazionali Competenti o ai fornitori a valle.
La colonna “DPs” (Downstream Providers) è contrassegnata per numerosi campi, ciò che conferma come queste informazioni siano specificamente destinate ai fornitori a valle, sottolineando l’importanza di questo documento per chi integra questi modelli nei propri sistemi.
L’esenzione per l’open source
L’articolo 53, come abbiamo anticipato, prevede un’esenzione dagli obblighi di documentazione (lettere a e b del paragrafo 1) per i fornitori di modelli di IA rilasciati con licenza libera e open source quando essi:
- consentono accesso completo, ossia permettono accesso, uso, modifica e distribuzione senza restrizioni
- sono trasparenti, vale a dire che i parametri (inclusi i pesi), le informazioni sull’architettura e sull’uso del modello sono pubblicamente disponibili.
Questa esenzione riflette la filosofia secondo la quale la trasparenza intrinseca dei modelli veramente open source rende superflui alcuni degli obblighi formali di documentazione, poiché molte delle informazioni richieste sono già accessibili pubblicamente attraverso il codice e la documentazione standard open source.
L’eccezione, peraltro, non si applica ai modelli di IA per finalità generali con rischi sistemici.”
Questo significa che i modelli open source classificati come “a rischio sistemico” (tipicamente i modelli più grandi e potenti con potenziale impatto significativo sulla società) non beneficiano di questa esenzione, indipendentemente dal grado di apertura.
Qui di seguito il documento in bozza.
👾 👾 👾
Ci vediamo la prossima settimana.
Questa newsletter si propone di esaminare le principali disposizioni in arrivo con un linguaggio semplice e chiaro, accompagnato il più possibile da esempi concreti.
Se sei interessato, iscriviti. 👾