Alla scoperta delle norme dedicate all’intelligenza artificiale
Il tool Huderia, i trend del 2025, gli Agenti AI
Ricominciamo il 2025 con qualche notizia che speriamo possa essere utile a chi ci legge.
In questo numero parliamo
- di una metodologia per analizzare rischi e impatti dei sistemi di intelligenza artificiale,
- dei trend di sviluppo che i più importanti osservatori intravedono per quest’anno e, infine,
- degli “agenti AI” che, oltre a essere uno dei trend che vedremo, sono davvero interessanti.
La metodologia HuderIA
Il Consiglio d’Europa ha reso disponibile uno strumento per condurre valutazioni di rischio e di impatto dei sistemi di intelligenza artificiale.
La metodologia è denominata HUDERIA perché specificamente finalizzata alla protezione dei diritti umani (human rights: HU), della democrazia (democracy: DE) e dello Stato di diritto (rule of law: R), ma in realtà si tratta di uno strumento che può essere davvero utile, anche oltre tali aspetti, per analizzare e affrontare in modo strutturato tutto il ciclo di vita dei sistemi “intelligenti”.
L’approccio utilizzato consente una realistica e completa valutazione degli impatti potenziali dei sistemi di intelligenza artificiale, pur rimanendo flessibile e adattabile a molteplici circostanze.
I quattro punti fondamentali sono:
- un’analisi del rischio basata sul contesto (COntent-Based-Risk-Analsysis, Cobra) con tre momenti:
- l’identificazione dei principali fattori di rischio, ossia caratteristiche specifiche che aumentano la probabilità di impatti negativi con riferimento al contesto applicativo del sistema, a quello di progettazione e di distribuzione;
- la mappatura dei potenziali impatti negativi;
- l’identificazione e la definizione delle priorità dei sistemi con rischi significativi, al fine di mantenere un approccio proporzionale e non eccessivamente gravoso.
- Un processo di coinvolgimento degli stakeholder, per avere un approccio strutturato e “ampio”, con diversi livelli di partecipazione di attori che possono diversamente individuare i fattori di rischio, ciò che aumenta il livello di approfondimento dell’analisi.
- La vera e propria valutazione del rischio e dell’impatto, in particolare sui sistemi che presentano rischi significativi identificati durante il triage Cobra. Comporta il riesame, la contestualizzazione e l’analisi dei potenziali danni, tenuto conto di variabili di rischio come scala e portata dei potenziali danni, ambito di coinvolgimento delle persone, probabilità di verificazione degli impatti. Su queste basi è poi possibile avere una comprensione completa dei possibili rischi, per informare le strategie di mitigazione e governance.
- Il piano di mitigazione (Mitigation Plan), al fine di implementare azioni e strategie per affrontare gli impatti negativi e mitigare i danni identificati. Comporta la formulazione di misure mirate basate sulla gravità e sulla probabilità di questi danni e lo sviluppo di un piano completo per metterle in atto.
Huderia fornisce quindi un approccio multidisciplinare che richiede una valutazione continua, durante l’intero ciclo di vita del sistema ma, al contempo, consente flessibilità applicativa.
Non si tratta certo di un metodo di immediato e semplice utilizzo, ma il Consiglio prevede di sviluppare materiali di supporto e altri strumenti di ausilio, così come la creazione di un ulteriore “HUDERIA Model”, con altre utilità.
Qui la pagina ufficiale: https://www.coe.int/en/web/artificial-intelligence/huderia-risk-and-impact-assessment-of-ai-systems.
Qui un approfondimento: https://www.cybersecurity360.it/soluzioni-aziendali/analisi-del-rischio-e-dimpatto-dei-sistemi-di-ia-la-metodologia-europea-huderia/.
I trend per il 2025
Deloitte ha pubblicato Tech Trends 2025, un rapporto che evidenzia come l’Intelligenza Artificiale sarà il filo conduttore che attraverserà quasi tutte le tendenze tecnologiche del 2025, diventando parte fondamentale dell’infrastruttura di ogni attività. “Alla fine penseremo all’AI nello stesso modo in cui pensiamo al protocollo HTTP oppure all’energia elettrica… vivremo semplicemente in un mondo in cui (l’AI) renderà tutto più intelligente, veloce e intuitivo, come per magia, ma basato su algoritmi.”
Deloitte stima che i sistemi e i modelli diverranno “pervasivi”, ubiqui come l’elettricità, operando costantemente “connessi” e operativi, in background, in modo invisibile ma essenziale.
Sanità, traffico, modelli di apprendimento, interazione con informazioni di ogni genere, possibilità di simulare e testare scenari, integrazione con gli “agenti AI” (di cui parleremo tra poco) capaci di eseguire compiti specifici e, in definitiva, con una maggiore efficienza nell’uso delle risorse.
La “rivincita” dell’hardware: dopo anni di dominio assoluto di software e applicativi, secondo il report l’hardware, le macchine e i componenti torneranno a essere estremamente rilevanti, soprattutto per l’essenzialità dei chip dedicati all’AI e ai dispositivi Edge e con modelli integrati.
Contemporaneamente e, intuitivamente, le sfide alla sostenibilità energetica non saranno da meno: i data center comporteranno un consumo energetico senza precedenti: l’Agenzia Internazionale dell’Energia (iea.org) prevede che la domanda di elettricità dei data center aumenterà significativamente e che il consumo elettrico globale dei data center potrebbe triplicare nel prossimo decennio.
L’AI si estenderà oltre l’IT tradizionale verso l’Internet of Things: i dispositivi smart diventeranno “più intelligenti”, vi saranno sviluppi nella robotica, in ambito medico e in diversi altri campi.
Anche le funzioni tradizionalmente “IT” saranno, ovviamente, impattate: da un approccio di controllo e gestione diretta di architetture, sistemi e processi, si passerà ad una supervisione e al controllo dei sistemi di AI che eseguono in autonomia operazioni e procedure: il report definisce questa “fase” come una transizione da “human in charge” a “human in the loop” (ricordiamo che nell’AI Act il termine “human oversight” ricorre costantemente*).
* Ad es.: Considerando n. 73.
Da altro punto di vista, l’AI sta trasformando attività storicamente riservate ai tecnici, come quelle della scrittura del codice, del testing, del supporto tecnico e della gestione delle infrastrutture. In questo specifico ambito ma, ovviamente è affermazione che riguarda sempre l’avvento delle nuove tecnologie, le reali differenze saranno fatte da coloro che:
- manterranno o sapranno avere maggiore focus su strategia e innovazione,
- svilupperanno competenze di supervisione,
- avranno capacità e competenze di integrazione,
- competenze di innovazione, ottimizzazione, controllo.
Anche Gartner ha pubblicato diverse considerazioni in merito alla tendenze tecnologiche per il 2025: un panorama che, ovviamente, è in continua e costante evoluzione e che richiederà una attenta comprensione da parte di chi non voglia rimanere “indietro”: organizzazioni, leader e consulenti sono chiamati, oggi come molte altre volte, a mantenere un occhio attento ma anche disincantato sulle evoluzioni che ci aspettano, per intravedere rischi, opportunità, tendenze e potenzialità di quanto la tecnologia ci sta presentando.
Il report è disponibile qui: https://www.gartner.com/en/articles/top-technology-trends-2025.
Gli “agenti AI”
Proprio nel report che abbiamo appena citato, ma non solo, si stima che entro il 2028, circa il 15% delle decisioni lavorative quotidiane sarà preso attraverso “agenti AI” (nel 2024 la percentuale era dello 0%).
Gli AI Agent (o agenti di intelligenza artificiale) sono sistemi software autonomi che possono percepire il loro ambiente attraverso sensori, elaborare le informazioni ricevute e agire per raggiungere obiettivi specifici.
Rappresentano un’evoluzione significativa rispetto ai tradizionali sistemi di IA, perché possono operare con maggiore autonomia e adattabilità.
Sono “capaci”
- di operare senza un intervento umano diretto e sono in grado
- di raccogliere e interpretare dati dall’ambiente;
- di elaborare informazioni e prendere decisioni.
- Possono via via migliorare le loro prestazioni e
- sono in grado di comunicare con altri agenti o con noi umani.
Sono attualmente utilizzati per l’automazione dei servizi per i clienti come chatbot avanzati, per l’ottimizzazione di processi decisionali; per la gestione delle supply chain, per l’analisi predittiva e la business intelligence, per il monitoraggio della sicurezza informatica ma anche in vasti settori della ricerca (diagnosi e monitoraggio pazienti, analisi dati complessi), oppure nei settori pubblici del controllo e della gestione del traffico, nelle previsioni meteorologiche, nei sistemi di sorveglianza intelligente.
Vi sono, ovviamente, aspetti critici che riguardano sicurezza e protezione dei dati, ma appare evidente, da molteplici studi, che si tratta di “agenti” che avranno un’importanza sempre maggiore in ogni ambito: gli agenti diventeranno sempre più sofisticati nella capacità di prendere decisioni complesse in modo autonomo, il che comporterà di riuscire a mantenere un adeguato livello di supervisione umana.
Vedremo sistemi multi-agente sempre più evoluti, capaci di collaborare tra loro per risolvere problemi complessi ma anche sempre più abili nel personalizzare le loro interazioni basandosi sulle preferenze e necessità specifiche degli utenti.
Le sfide saranno quelle di implementare robusti framework di governance; di mantenere equilibrio tra autonomia e controllo, di garantire conformità normativa e certo anche di monitorarne costantemente prestazioni e sicurezza.
Per approfondire, qui di seguito alcuni link:
https://www.ibm.com/downloads/documents/us-en/11630e2b96302ccc;
https://cloud.google.com/resources/ai-trends-report?hl=en.
👾 👾 👾
Per oggi abbiamo finito.
Ci vediamo la prossima settimana!
Questa newsletter si propone di esaminare le principali disposizioni in arrivo con un linguaggio semplice e chiaro, accompagnato il più possibile da esempi concreti.
Se sei interessato, iscriviti. 👾