Alla scoperta delle norme dedicate all’intelligenza artificiale

 

Questa newsletter si propone di esaminare il Regolamento Europeo in materia di Intelligenza Artificiale con brevi articoli settimanali (in uscita il venerdì).

Come è avvenuto qualche anno fa con il Gdpr in relazione alla data protection e, quindi alle disposizioni in materia di privacy, sicurezza e gestione dei dati personali, il testo europeo sarà destinato a regolare in modo uniforme lo sviluppo, l’utilizzo  e la commercializzazione di prodotti e servizi caratterizzati dalla presenza di sistemi e modelli di intelligenza artificiale.

Poichè il testo è molto ampio e corposo, lo faremo un po’ alla volta.

La prima uscita è disponibile qui: https://studiolegalebroglia.com/2024/05/17/frid_ai_news-00/. 

 

Il primo Capitolo dell’AI Act

Il primo capitolo specifica l’oggetto del regolamento e l’ambito di applicazione delle nuove regole, in particolare con riguardo all’immissione sul mercato, alla messa in servizio e all’utilizzo di sistemi di IA.

Fornisce, inoltre, le definizioni utilizzate in tutto il testo, sempre da esaminare e interpretare alla luce dei molti Considerando (sono 180!)

Il Chapter I è integrato dall’allegato I, contenente un elenco dettagliato di approcci e tecniche per lo sviluppo dell’IA che deve essere adattato dalla Commissione in linea con i nuovi sviluppi tecnologici.

 

I ruoli. Qualche definizione

Abbiamo già visto, nel numero #01, come il Regolamento definisca “sistema di IA” un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali”.

E’ però opportuno esaminare le definizioni che il testo fornisce relativamente agli attori (Operatori) che sono coinvolti dalla nuova normativa. Vediamole, tenendo presente che il Regolamento prevede anche altre figure (il rappresentante autorizzato, per esempio) e, nondimeno, che le definizioni dell’AI Act sono complesse e genereranno certamente diversi dibattiti su quali entità rientrino effettivamente in determinate categorie piuttosto che altre.

 

Fornitore (Provider, nel testo inglese)

Si tratta di coloro (persone fisiche o giuridiche, autorità, agenzie o organismi, sulla falsariga delle definizioni del Gdpr) che:

• sviluppano un sistema o un modello di intelligenza artificiale  o 
• fanno sviluppare tali sistemi o modelli e li immettono sul mercato o in servizio con il proprio marchio, indipendentemente dal fatto che lo facciano a titolo oneroso o gratuito.

Si tratta dunque, in primo luogo, di produttori, sviluppatori o comunque di organizzazioni che immettono nel mercato soluzioni o modelli di intelligenza artificiale.

Sono “operatori” soggetti a numerose incombenze dettate dal regolamento, soprattutto, ma non solo, laddove il modello o il sistema sia considerato “ad alto rischio” (si tratta dei sistemi di AI consentiti, ma soggetti a molte prescrizioni).

Vi dovrebbero rientrare, salve altre questioni che esamineremo in seguito, aziende come quelle che seguono:

1. sviluppatori di software per il riconoscimento facciale;
2. fornitori di chatbot basati su intelligenza artificiale per conversare con i clienti;
3. sviluppatori di strumenti di analisi del sentiment;
4. fornitori di sistemi di raccomandazione basati su intelligenza artificiale per raccomandare prodotti o servizi ai clienti;
5. sviluppatori di software per la generazione di testo.

 

Deployer

Utilizza un sistema di IA sotto la propria autorità. Fanno eccezione gli utilizzi a titolo non professionale, quindi privati e personali.

Dovrebbero rientrare in tale categoria, per esempio:

1. una attività online che utilizza un chatbot basato su intelligenza artificiale per il servizio clienti;
2. una banca che utilizza un sistema di riconoscimento facciale per autenticare i clienti;
3. un ospedale che utilizza un sistema di intelligenza artificiale per analizzare le immagini radiografiche;
4. un comune che utilizza un sistema di intelligenza artificiale per monitorare il traffico;
5. una scuola che utilizza un software di valutazione basato su intelligenza artificiale per correggere i compiti.

 

Importatore

Immette sul mercato un sistema di IA recante il nome o il marchio di una persona fisica o giuridica stabilita in un paese terzo.

Dovrebbero rientrarvi:

1. un distributore italiano che importa e vende un robot di servizio prodotto da un’azienda cinese con il marchio del produttore cinese: il distributore italiano è considerato un “importatore” ai sensi dell’AI Act in quanto immette sul mercato dell’UE un sistema di intelligenza artificiale (il robot di servizio) recante il marchio di un’azienda stabilita in un paese terzo (l’azienda cinese);
2. una società di e-commerce italiana che importa e vende droni con intelligenza artificiale prodotti da un’azienda statunitense con il proprio marchio: la società di e-commerce italiana è considerata un “importatore” ai sensi dell’AI Act in quanto immette sul mercato dell’UE un sistema di intelligenza artificiale (i droni) recante il proprio marchio, anche se i droni sono stati prodotti da un’azienda stabilita in un paese terzo (l’azienda statunitense).

 

Distributore

Soggetto diverso dal fornitore o dall’importatore che mette a disposizione un sistema di IA sul mercato dell’Unione.

Potrebbero essere attività come le seguenti:

1. un grossista che vende un sistema di riconoscimento facciale a rivenditori di elettronica di consumo: il grossista è un “distributore” in quanto rende disponibile il sistema di intelligenza artificiale (il sistema di riconoscimento facciale) sul mercato dell’UE, anche se non è il fornitore o l’importatore del sistema;
2. un rivenditore online che vende un drone con intelligenza artificiale prodotto da un’azienda italiana: il rivenditore online è un “distributore” in quanto rende disponibile il sistema di intelligenza artificiale (il drone) sul mercato dell’UE, anche se non è il fornitore o l’importatore del sistema;
3. un’azienda che offre un servizio di noleggio di robot di servizio prodotti da un’azienda straniera: l’azienda è un “distributore” in quanto rende disponibile il sistema di intelligenza artificiale (il robot di servizio) sul mercato dell’UE, anche se non è il fornitore o l’importatore del sistema.

Ribadisco che il tema della corretta qualificazione dei ruoli è piuttosto complicato e non mancherà di far sorgere dibattiti.

Ad ogni modo possiamo, molto succintamente, indicare gli Operatori come nell’immagine che segue.

 

 

Le attività

Il regolamento, inoltre, specifica alcune attività rilevanti in relazione ai modelli e sistemi di IA.

 

Immissione sul mercato

La prima messa a disposizione di un sistema o  di un modello di IA per finalità generali: un’azienda sviluppa un sistema di intelligenza artificiale per il riconoscimento di oggetti e lo vende online a clienti in tutta l’UE.

In questo scenario, l’immissione sul mercato si verifica quando l’azienda rende il sistema di intelligenza artificiale disponibile per l’acquisto da parte di clienti nell’UE, indipendentemente da dove sia effettivamente prodotto o consegnato il sistema.

Altri esempi di “immissione sul mercato” potrebbero includere:

1. un’azienda che distribuisce un software di intelligenza artificiale preinstallato su dispositivi hardware;
2. un’azienda che offre un servizio di cloud computing che include l’accesso a sistemi di intelligenza artificiale;
3. un’azienda che sviluppa un’app che utilizza l’intelligenza artificiale e la pubblica negli app store.

 

Messa a disposizione

La fornitura commerciale di un sistema o di un modello per finalità generali per la distribuzione o l’uso sul mercato.

Un’azienda, per esempio, sviluppa un sistema di intelligenza artificiale per la diagnosi di malattie e lo offre gratuitamente ai medici nell’UE.

In questo scenario, la messa a disposizione sul mercato si verifica quando l’azienda rende il sistema di intelligenza artificiale disponibile per l’utilizzo da parte dei medici nell’UE, anche se il sistema è offerto gratuitamente. Poiché il sistema è messo a disposizione nel corso di un’attività commerciale (lo sviluppo e la distribuzione di software medico), l’azienda è tenuta a conformarsi ai requisiti dell’AI Act.

 

Messa in servizio

Fornitura di un sistema direttamente al deployer per il primo uso o per uso proprio.

Possibili esempi:

1. un’azienda installa un sistema di intelligenza artificiale per la manutenzione predittiva nei propri stabilimenti di produzione;
2. un comune installa un sistema di intelligenza artificiale per il riconoscimento delle targhe delle auto ai varchi di accesso alla zona ZTL;
3. un fornitore di servizi energetici installa un sistema di intelligenza artificiale per la gestione intelligente della rete elettrica.

 

Vediamo ora altre definizioni.

Finalità prevista

Uso di un sistema di IA previsto dal fornitore (compresi il contesto e le condizioni d’uso specifici) specificati nelle informazioni comunicate dal fornitore nelle istruzioni, nel materiale promozionale o nelle dichiarazioni.

 

Uso improprio ragionevolmente prevedibile

L’uso di un sistema di IA in un modo non conforme alla sua finalità prevista, ma che può derivare da un comportamento umano o da un’interazione con altri sistemi, ivi compresi altri sistemi di IA.

 

Per oggi basta! 😁

Nelle prossime uscite continueremo ad analizzare il testo.

 

👾 👾 👾 👾 👾

 

Questa newsletter si propone di esaminare le principali disposizioni in arrivo con un linguaggio semplice e chiaro, accompagnato il più possibile da esempi concreti.

Se sei interessato, iscriviti. 👾