Alla scoperta delle norme dedicate all’intelligenza artificiale

 

Valutare l’affidabilità di un modello

 

 

Un quadro di riferimento per una AI affidabile

Tra i molti aspetti che l’AI Act affronta vi sono quelli del rapporto tra un approccio basato sul rischio e gli aspetti etici dell’intelligenza artificiale.

In una precedente uscita abbiamo visto come il Considerando 27 dell’AI Act richiami esplicitamente il lavoro di un gruppo di esperti (HLEG, High-Level Expert Group on AI) che ha elaborato un framework basato su legalità, eticità e robustezza, che aiuta ad interpretare il Regolamento europeo. 

 

Dai principi generali sono stati derivati sette requisiti che forniscono una ulteriore guida interpretativa per tutti coloro che progettano e sviluppano, ma anche utilizzano, modelli e sistemi di AI: 

• supervisione umana, 
• robustezza tecnica e sicurezza, 
• privacy e data governance, 
• trasparenza, 
• diversità e non discriminazione, 
• benessere sociale e ambientale, 
• accountability. 

 

Di cosa si tratta

Supervisione umana: i  sistemi e i modelli devono essere sviluppati, acquisiti, utilizzati e forniti di modo che possano garantire adeguati meccanismi di sorveglianza umana rispetto ai processi decisionali.

Robustezza tecnica e sicurezza: devono garantire un livello di accuratezza, robustezza e sicurezza adeguato al livello di rischio e operare in modo coerente con tali aspetti durante tutto il loro ciclo di vita, anche in condizioni non previste.

Privacy e data governance: bisogna gestire la qualità delle informazioni, dei dati e dei documenti forniti e successivamente utilizzati per l’addestramento, di modo che sistemi e modelli garantiscano un uso equo e non discriminatorio, scevro da errori, bias o allucinazioni. L’AI Act non “toglie” nulla alle norme data protection il cui rispetto è, invece, un prerequisito per l’intelligenza artificiale.

Trasparenza: nello sviluppo, acquisizione, implementazione, utilizzo e fornitura di sistemi e modelli di AI, occorre garantire che gli utilizzatori siano consapevoli dell’interazione con l’AI e del suo funzionamento.

Non discriminazione: sistemi e modelli devono essere progettati e utilizzati nel rispetto dei principi di parità di accesso, inclusione, uguaglianza di genere e diversità culturale, per limitare e inibire la produzione di effetti discriminatori e pregiudizi.

Benessere sociale e ambientale: i sistemi e i modelli devono essere sviluppati e utilizzati in modo sostenibile e rispettoso dell’ambiente.

Accountability: l’impiego di risorse di intelligenza artificiale deve essere sottoposto a logiche e meccanismi di responsabilizzazione degli utilizzatori, tanto interni, quanto esterni.

 

Una lista di controllo

Il documento che abbiamo citato sopra va più a fondo e propone anche una lista di controllo per la valutazione di una AI affidabile.

E’ interessante e può essere molto utile.

Vista la lunghezza, la alleghiamo in in pdf, scaricabile qui: HLEG Trustworthy checklist.