Testo dell'articoloVigente
Art. 10 Reg. (UE) 2024/1689 – Dati e governance dei dati
Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio del 13 giugno 2024 che stabilisce regole armonizzate sull’intelligenza artificiale (regolamento sull’intelligenza artificiale)
1. I sistemi di IA ad alto rischio che utilizzano tecniche che prevedono l'uso di dati per l'addestramento di modelli di IA sono sviluppati sulla base di set di dati di addestramento, convalida e prova che soddisfano i criteri di qualità di cui ai paragrafi da 2 a 5 ogniqualvolta siano utilizzati tali set di dati.
2. I set di dati di addestramento, convalida e prova sono soggetti a pratiche di governance e gestione dei dati adeguate alla finalità prevista del sistema di IA ad alto rischio. Tali pratiche riguardano in particolare:
a) le scelte progettuali pertinenti;
b) i processi di raccolta dei dati e l'origine dei dati, nonché la finalità originaria della raccolta nel caso di dati personali;
c) le operazioni di trattamento pertinenti ai fini della preparazione dei dati, quali annotazione, etichettatura, pulizia, aggiornamento, arricchimento e aggregazione;
d) la formulazione di ipotesi, in particolare per quanto riguarda le informazioni che si presume che i dati misurino e rappresentino;
e) una valutazione della disponibilità, della quantità e dell'adeguatezza dei set di dati necessari;
f) un esame atto a valutare le possibili distorsioni suscettibili di incidere sulla salute e sulla sicurezza delle persone, di avere un impatto negativo sui diritti fondamentali o di comportare discriminazioni vietate dal diritto dell'Unione, specie laddove gli output di dati influenzano gli input per operazioni future;
g) le misure adeguate per individuare, prevenire e attenuare le possibili distorsioni individuate conformemente alla lettera f);
h) l'individuazione di lacune o carenze pertinenti nei dati tali da pregiudicare il rispetto del presente regolamento e il modo in cui tali lacune e carenze possono essere colmate.
3. I set di dati di addestramento, convalida e prova sono pertinenti, sufficientemente rappresentativi e, nella misura del possibile, esenti da errori e completi nell'ottica della finalità prevista. Essi possiedono le proprietà statistiche appropriate anche, ove applicabile, per quanto riguarda le persone o i gruppi di persone relativamente ai quali il sistema di IA ad alto rischio è destinato a essere usato. Queste caratteristiche dei set di dati possono essere soddisfatte a livello di singoli set di dati o a livello di una combinazione degli stessi.
4. I set di dati tengono conto, nella misura necessaria per la finalità prevista, delle caratteristiche o degli elementi particolari dello specifico ambito geografico, contestuale, comportamentale o funzionale all'interno del quale il sistema di IA ad alto rischio è destinato a essere usato.
5. Nella misura in cui ciò sia strettamente necessario al fine di garantireil rilevamento e la correzione delle distorsioni in relazione ai sistemi di IA ad alto rischio in conformità del paragrafo 2, lettere f) e g), del presente articolo, i fornitori di tali sistemi possono eccezionalmente trattare categorie particolari di dati personali, fatte salve le tutele adeguate per i diritti e le libertà fondamentali delle persone fisiche. Oltre alle disposizioni di cui ai regolamenti (UE) 2016/679 e (UE) 2018/1725 e alla direttiva (UE) 2016/680 devono essere soddisfatte, affinché tale trattamento avvenga, tutte le condizioni seguenti:
a) il rilevamento e la correzione delle distorsioni non possono essere realizzati efficacemente mediante il trattamento di altri dati, compresi i dati sintetici o anonimizzati;
b) le categorie particolari di dati personali sono soggette a limitazioni tecniche relative al riutilizzo dei dati personali, nonché a misure più avanzate di sicurezza e di tutela della vita privata, compresa la pseudonimizzazione;
c) le categorie particolari di dati personali sono soggette a misure tese a garantire che i dati personali trattati siano resi sicuri e protetti nonché soggetti a garanzie adeguate, ivi compresi controlli e documentazione rigorosi dell'accesso, al fine di evitare abusi e garantire che solo le persone autorizzate e sottostanti a opportuni obblighi di riservatezza abbiano accesso a tali dati personali;
d) le categorie particolari di dati personali non devono essere trasmesse, trasferite o altrimenti consultate da terzi;
e) le categorie particolari di dati personali vengono cancellate dopo che la distorsione è stata corretta oppure i dati personali hanno raggiunto la fine del loro periodo di conservazione, a seconda di quale delle due condizioni si verifica per prima;
f) i registri delle attività di trattamento a norma dei regolamenti (UE) 2016/679 e (UE) 2018/1725 e della direttiva (UE) 2016/680 comprendono i motivi per cui il trattamento delle categorie particolari di dati personali era strettamente necessario per rilevare e correggere distorsioni e i motivi per cui tale obiettivo non poteva essere raggiunto mediante il trattamento di altri dati.
6. Per lo sviluppo di sistemi di IA ad alto rischio che non utilizzano tecniche che prevedono l'addestramento di modelli di IA, i paragrafi da 2 a 5 si applicano solo ai set di dati di prova.
In sintesi
Indice dei contenuti
Il ruolo centrale della qualità dei dati nell'AI Act
L'articolo 10 del Regolamento (UE) 2024/1689 costituisce uno dei pilastri tecnico-giuridici dell'intera architettura normativa per i sistemi di IA ad alto rischio. La premessa è semplice ma ineludibile: un sistema di IA è tanto affidabile quanto lo sono i dati con cui è stato costruito. Il legislatore europeo ha fatto propria questa consapevolezza imponendo obblighi specifici non già sull'output del sistema, ma sulla qualità e sulla governance dei dati che ne determinano il comportamento.
Occorre subito chiarire che i destinatari primari di questa norma sono i fornitori, ossia i soggetti che sviluppano il sistema di IA ad alto rischio e lo immettono sul mercato o lo mettono in servizio (definiti all'art. 3, n. 3 del Regolamento). Il deployer - cioè chi utilizza il sistema sotto la propria responsabilità - non gestisce direttamente i set di dati di addestramento, ma può avere un ruolo indiretto quando fornisce al fornitore dati propri o quando personalizza il sistema.
Le pratiche di governance dei dati: un elenco tassativo ma articolato
Il paragrafo 2 elenca le pratiche di governance cui devono essere sottoposti i set di dati. L'elenco non è meramente illustrativo: ogni voce corrisponde a un preciso obbligo documentale che il fornitore deve essere in grado di dimostrare all'autorità di vigilanza. In sintesi:
Qualità statistica e rappresentatività: un requisito sostanziale
Il paragrafo 3 introduce un requisito che va oltre la semplice completezza formale dei dataset: i dati devono essere sufficientemente rappresentativi e avere proprietà statistiche appropriate, anche con riguardo alle persone o ai gruppi cui il sistema è destinato. Questo significa che un sistema di riconoscimento facciale destinato a essere usato su una popolazione demograficamente diversificata deve essere addestrato su dati che riflettano tale diversità; un sistema di selezione del personale usato in un determinato settore industriale deve includere dati rappresentativi di quel mercato del lavoro specifico.
Il paragrafo 4 aggiunge un ulteriore livello: i dati devono tenere conto delle caratteristiche dello specifico ambito geografico, contestuale, comportamentale o funzionale d'uso. Un sistema di valutazione del credito pensato per il mercato italiano dovrà fare i conti con variabili contestuali italiane; uno strumento diagnostico medico calibrato su dati nordeuropei potrebbe avere performance inferiori se applicato a popolazioni mediterranee con differenti profili genetici o stili di vita.
Il trattamento eccezionale di dati sensibili per la correzione del bias
Il paragrafo 5 affronta una delle questioni più delicate dell'intero articolo: è possibile - in via del tutto eccezionale - trattare categorie particolari di dati personali (dati di salute, origine razziale o etnica, convinzioni religiose, ecc., ai sensi dell'art. 9 GDPR) per rilevare e correggere distorsioni. Il paradosso apparente è che per combattere il bias razziale bisogna spesso poter «vedere» la razza, e per correggere disparità di salute bisogna trattare dati sanitari.
La norma scioglie questo paradosso autorizzando il trattamento, ma solo al ricorrere cumulativo di sei condizioni: (a) l'obiettivo non può essere raggiunto con dati diversi (compresi dati sintetici o anonimizzati); (b) i dati sono protetti da limitazioni tecniche e misure di sicurezza rafforzate, inclusa la pseudonimizzazione; (c) sono previsti controlli rigorosi sull'accesso e obblighi di riservatezza per chi vi accede; (d) i dati non vengono trasmessi a terzi; (e) i dati vengono cancellati non appena la distorsione è corretta o scade il periodo di conservazione; (f) le attività di trattamento sono registrate con motivazione specifica nei registri di cui agli artt. 30 GDPR, 31 Regolamento UE 2018/1725 e direttiva (UE) 2016/680.
Questo regime si aggiunge - e non si sostituisce - alle condizioni di liceità previste dal GDPR per le categorie particolari. Il fornitore dovrà quindi identificare sia una base giuridica ex art. 6 GDPR sia una deroga ex art. 9 par. 2 GDPR, e in parallelo rispettare tutte le condizioni dell'art. 10, par. 5 AI Act.
Coordinamento con il GDPR e con la documentazione tecnica
L'articolo 10 non opera in isolamento: si inserisce in un ecosistema normativo già formato dalla protezione dei dati. Quando i dati di addestramento contengono dati personali, il fornitore è anche un titolare del trattamento ai sensi del GDPR, con tutti gli obblighi che ne derivano: informativa, minimizzazione, valutazione d'impatto (DPIA) quando il trattamento è ad alto rischio, designazione del DPO ove obbligatoria.
Sul piano operativo, le pratiche di governance dei dati documentate ai sensi dell'art. 10 confluiranno nella documentazione tecnica prevista dall'art. 11 e nel sistema di gestione della qualità di cui all'art. 17. Queste stesse informazioni saranno oggetto di scrutinio da parte degli organismi notificati nelle procedure di valutazione della conformità ex artt. 43 ss. e potranno essere richieste dall'autorità di vigilanza del mercato nel corso di ispezioni o indagini.
Applicazione temporale e impatto pratico per le imprese
Gli obblighi dell'art. 10 rientrano nel perimetro degli obblighi per i sistemi ad alto rischio che trovano piena applicazione dal 2 agosto 2026 ai sensi dell'art. 113, par. 2 del Regolamento. Per i sistemi già presenti sul mercato prima di quella data, l'art. 111 prevede regimi transitori specifici.
Per un'impresa che sviluppa un sistema di IA ad alto rischio - si pensi a una piattaforma di selezione automatizzata del personale, a un sistema di scoring creditizio, o a un tool di diagnosi medica assistita - l'art. 10 si traduce in obblighi concreti già nella fase di progettazione: scelta dei dataset, audit dei bias, documentazione dell'origine dei dati, politiche di data retention per i dati di addestramento. La non conformità ai requisiti di governance dei dati può esporre il fornitore alle sanzioni di cui all'art. 99 del Regolamento, che per le violazioni degli obblighi previsti per i sistemi ad alto rischio raggiungono massimali significativi.
Casi pratici
Caso 1:
Caso 2:
Caso 3:
Domande frequenti
A chi si applicano gli obblighi di governance dei dati dell'art. 10?
Gli obblighi si rivolgono principalmente al fornitore del sistema di IA ad alto rischio, ossia al soggetto che lo sviluppa e lo immette sul mercato. Il deployer non gestisce direttamente i dataset di addestramento, ma può essere coinvolto quando fornisce dati propri al fornitore per la personalizzazione del sistema.
Cosa si intende per 'distorsione' (bias) ai sensi dell'art. 10?
L'art. 10, par. 2, lett. f) fa riferimento a distorsioni suscettibili di incidere sulla salute e sulla sicurezza o di avere un impatto negativo sui diritti fondamentali, comprese le discriminazioni vietate dal diritto dell'Unione. Non si tratta di qualsiasi imperfezione statistica, ma di bias con effetti concreti sulle persone coinvolte.
È sempre obbligatorio trattare dati sensibili per correggere i bias?
No. L'art. 10, par. 5 consente il trattamento di categorie particolari di dati personali solo in via eccezionale, quando la correzione del bias non può essere realizzata con altri dati, compresi quelli sintetici o anonimizzati. Se esistono alternative, il trattamento di dati sensibili non è giustificato.
Quando entrano in vigore questi obblighi per i sistemi ad alto rischio?
La piena applicazione degli obblighi previsti per i sistemi ad alto rischio, incluso l'art. 10, è prevista dal 2 agosto 2026 ai sensi dell'art. 113, par. 2 del Regolamento. Esistono tuttavia regimi transitori per i sistemi già presenti sul mercato prima di tale data.
Come si coordinano gli obblighi dell'art. 10 con il GDPR?
Gli obblighi dell'art. 10 si aggiungono a quelli del GDPR, senza sostituirli. Quando i dataset contengono dati personali, il fornitore deve rispettare entrambe le normative: la governance dei dati ex AI Act e i principi di minimizzazione, limitazione della finalità e sicurezza del GDPR, procedendo eventualmente a una DPIA ex art. 35 GDPR.