Alla scoperta delle norme dedicate all’intelligenza artificiale

 

 

Sulla definizione di Intelligenza Artificiale

 

 

Qualche giorno fa la Commissione Europea ha pubblicato (poco dopo aver dato alla luce il paper che precisa quali si debbano ritenere sistemi e modelli vietati), le linee guida sulla definizione dei sistemi di AI.

In questo caso si tratta di un documento di 13 pagine (😅).

Sono destinate a farci capire cosa è e cosa non è un sistema di Intelligenza Artificiale secondo l’AI Act europeo.

Secondo quanto previsto dal testo del Regolamento (Considerando 12), un sistema di AI non è un semplice software che segue regole fisse, ma qualcosa di più complesso. 

La sua caratteristica principale è la capacità di “pensare” in modo autonomo,  analizzando dati (che riceve quali input) per generare risultati (gli “output”) come previsioni, raccomandazioni o decisioni.

Ad esempio un sistema può “imparare” dai dati come prevedere il traffico: non si limiterà (solo) a seguire istruzioni  predefinite, ma può scoprire “da solo” modelli e pattern nascosti nel flusso di informazioni. Questo è possibile grazie a tecniche come l’apprendimento automatico (machine learning) o la logica.

Un sistema di AI agisce in modo automatico per raggiungere obiettivi specifici, che possono essere definiti in modo esplicito o implicito.  Può funzionare in diversi ambienti (fisici o virtuali) e con diversi gradi di autonomia,  anche modificandosi e adattandosi nel tempo grazie all’autoapprendimento.

Infine, un sistema di AI può essere un programma a sé stante oppure integrato in un prodotto, come ad esempio un’automobile o un elettrodomestico o in un servizio, come avviene in un sistema di posta elettronica con funzionalità di eliminazione dei messaggi considerati spam.

La definizione di “sistema di AI” è contenuta nell’art. 3 del Regolamento: si tratto di “un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali”.

 

 

Scopo delle Linee Guida

Il problema principale che le linee guida affrontano è la necessità di chiarire quali sistemi rientrino nella definizione che abbiamo appena visto, perché non tutti i sistemi software sono considerati AI, ma solo quelli che soddisfano gli specifici criteri definiti nell’Articolo 3.

Le linee guida sono pensate per:

• aiutare fornitori e stakeholder a capire se un loro sistema è considerato AI
• facilitare l’applicazione e l’enforcement dell’AI Act
• fornire chiarimenti parallelamente alle linee guida già citate sulle pratiche di IA proibite.

 

 

Elementi principali della definizione

La definizione ufficiale precisa che un sistema di AI è

• “un sistema basato su macchina 
• progettato per operare con vari livelli di autonomia e 
• che può mostrare adattività dopo il deployment e 
• che, per obiettivi espliciti o impliciti, inferisce dagli input che riceve come generare output come 
  • predizioni, 
  • contenuti, 
  • raccomandazioni o 
  • decisioni che possono influenzare ambienti fisici o virtuali.”

 

Gli elementi chiave

Vi sono quindi 7 elementi chiave:

1. si tratta di un sistema basato su macchina, ossia su hardware e software che permettono il funzionamento del sistema. Tutti i sistemi di intelligenza artificiale sono basati sulle macchine, poiché richiedono macchine per consentire il loro funzionamento, come l’addestramento del modello, l’elaborazione dei dati, la modellazione predittiva e il processo decisionale automatizzato su larga scala.
2. E’ un sistema sufficientemente autonomo, perché deve poter operare con un certo grado di indipendenza rispetto all’intervento umano. Le nozioni di autonomia e inferenza vanno di pari passo, perché la capacità di inferenza di un sistema, ossia la sua capacità di generare output è fondamentale per realizzare la sua autonomia. Ciò esclude, ad esempio, i sistemi progettati per funzionare esclusivamente con il pieno coinvolgimento e intervento umano manuale. 
3. Adattività: può (ma non necessariamente deve) avere capacità di auto-apprendimento così come di poter modificare il proprio comportamento durante l’uso.
4. Opera secondo obiettivi che possono essere espliciti (direttamente codificati, ossia chiaramente dichiarati e direttamente codificati dallo sviluppatore nel sistema; ad esempio, possono essere specificati come l’ottimizzazione di una funzione di costo, una probabilità o una ricompensa cumulativa) oppure impliciti (ossia derivati dal comportamento o dalle ipotesi sottostanti del sistema).
5. Deve essere capace di derivare output dagli input ricevuti usando tecniche di AI (inferenza). La norma ISO/IEC 22989 (concetti e terminologia dell’AI) definisce l’inferenza come un “ragionamento mediante il quale si derivano conclusioni da premesse note”: nell’intelligenza artificiale, una premessa è un fatto, una regola, un modello, una caratteristica o dati grezzi (le linee guida approfondiscono, al riguardo, gli approcci di machine learning e apprendimento supervisionato, non supervisionato, auto supervisionato, per rinforzo, il deep learning, gli approcci basati su logica e altri modelli).
6. Può generare predizioni, contenuti, raccomandazioni o decisioni e, infine, 
7. ha influenza sull’ambiente: gli output devono poter influenzare ambienti fisici o virtuali.

 

 

In conclusione

Le linee guida terminano ricordando che:

• non tutti i sistemi software sono intelligenza artificiale
• la valutazione va fatta caso per caso
• solo certi sistemi sono soggetti agli obblighi dell’AI Act
• l’approccio fondamentale è sempre basato sul rischio (più alto il rischio, maggiori i requisiti)
• la maggior parte dei sistemi di IA non sarà soggetta a particolari requisiti regolatori.

 

Un esempio per noi “comuni mortali”: un sistema di raccomandazione di un sito di e-commerce potrebbe essere considerato IA se usa il machine learning per adattarsi al comportamento dell’utente (adattività); opera con autonomia per suggerire prodotti (autonomia) e influenza l’ambiente virtuale dello shop (influenza). 

Al contrario, un semplice sistema di filtri basato su regole fisse non sarà considerato un modello di intelligenza artificiale.

 

👾 👾 👾

Per oggi abbiamo finito.

Ci vediamo la prossima settimana!

Questa newsletter si propone di esaminare le principali disposizioni in arrivo con un linguaggio semplice e chiaro, accompagnato il più possibile da esempi concreti.

Se sei interessato, iscriviti. 👾

 

Fonte immagini: pixabay.com