- I sistemi di IA ad alto rischio devono raggiungere un livello adeguato di accuratezza, robustezza e cibersicurezza per tutto il ciclo di vita.
- I livelli di accuratezza e le metriche pertinenti devono essere dichiarati nelle istruzioni per l'uso destinate al deployer.
- La robustezza si ottiene anche con ridondanza tecnica e piani di backup o fail-safe per gestire errori e incongruenze operative.
- I sistemi che continuano ad apprendere dopo la messa in servizio devono gestire i circuiti di feedback (feedback loops) per evitare distorsioni cumulative negli output.
- Le misure di cibersicurezza devono contrastare attacchi specifici all'IA: data poisoning, model poisoning, adversarial examples e model evasion.
Testo dell'articoloVigente
Art. 15 Reg. (UE) 2024/1689 — Accuratezza, robustezza e cibersicurezza
Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio del 13 giugno 2024 che stabilisce regole armonizzate sull’intelligenza artificiale (regolamento sull’intelligenza artificiale)
1. I sistemi di IA ad alto rischio sono progettati e sviluppati in modo tale da conseguire un adeguato livello di accuratezza, robustezza e cibersicurezza e da operare in modo coerente con tali aspetti durante tutto il loro ciclo di vita.
2. Al fine di affrontare gli aspetti tecnici relativi alle modalità di misurazione degli adeguati livelli di accuratezza e robustezza di cui al paragrafo 1 e altre metriche di prestazione pertinenti, la Commissione, in cooperazione con i portatori di interessi e le organizzazioni pertinenti, quali le autorità di metrologia e di analisi comparativa, incoraggia, se del caso, lo sviluppo di parametri di riferimento e metodologie di misurazione.
3. I livelli di accuratezza e le pertinenti metriche di accuratezza dei sistemi di IA ad alto rischio sono dichiarati nelle istruzioni per l'uso che accompagnano il sistema.
4. I sistemi di IA ad alto rischio sono il più resilienti possibile per quanto riguarda errori, guasti o incongruenze che possono verificarsi all'interno del sistema o nell'ambiente in cui esso opera, in particolare a causa della loro interazione con persone fisiche o altri sistemi. A tale riguardo sono adottate misure tecniche e organizzative. La robustezza dei sistemi di IA ad alto rischio può essere conseguita mediante soluzioni tecniche di ridondanza, che possono includere piani di backup o fail-safe. I sistemi di IA ad alto rischio che proseguono il loro apprendimento dopo essere stati immessi sul mercato o messi in servizio sono sviluppati in modo tale da eliminare o ridurre il più possibile il rischio di output potenzialmente distorti che influenzano gli input per operazioni future (feedback loops – «circuiti di feedback») e garantire che tali circuiti di feedback siano oggetto di adeguate misure di attenuazione.
5. I sistemi di IA ad alto rischio sono resilienti ai tentativi di terzi non autorizzati di modificarne l'uso, gli output o le prestazioni sfruttando le vulnerabilità del sistema. Le soluzioni tecniche volte a garantire la cibersicurezza dei sistemi di IA ad alto rischio sono adeguate alle circostanze e ai rischi pertinenti. Le soluzioni tecniche finalizzate ad affrontare le vulnerabilità specifiche dell'IA includono, ove opportuno, misure volte a prevenire, accertare, rispondere, risolvere e controllare gli attacchi che cercano di manipolare il set di dati di addestramento (data poisoning – «avvelenamento dei dati») o i componenti preaddestrati utilizzati nell'addestramento (model poisoning – «avvelenamento dei modelli»), gli input progettati in modo da far sì che il modello di IA commetta un errore (adversarial examples – «esempi antagonistici», o model evasion, – «evasione dal modello»), gli attacchi alla riservatezza o i difetti del modello.
Stesso numero, altri codici
- Art. 15 D.Lgs. 504/1995 — Recupero dell'accisa e prescrizione del diritto all'imposta
- Articolo 15 L. 184/1983: Sentenza di adottabilità
- Art. 15 Cod. Amb. — Valutazione del rapporto ambientale e degli esiti della consultazione
- Art. 15 D.Lgs. 148/2015 — Procedimento
- Art. 15 D.Lgs. 159/2011 — Rapporti dell'obbligo di soggiorno con la detenzione, le misure di sicurezza e la libertà vigilata
- Art. 15 D.Lgs. 209/2005 — (Estensione ad altri rami)
Commento
Il quadro normativo: qualità tecnica come obbligo giuridico
L'articolo 15 del Regolamento (UE) 2024/1689 (AI Act) introduce un obbligo di qualità tecnica che si distingue dagli standard tradizionali di sicurezza del prodotto: non si tratta di un requisito di conformità puntuale, ma di una condizione che deve essere mantenuta per tutto il ciclo di vita del sistema. Il fornitore — cioè il soggetto che sviluppa o immette sul mercato il sistema di IA — è il principale destinatario di questi obblighi in fase di progettazione e sviluppo. Il deployer — chi utilizza il sistema sotto la propria autorità — deve invece assicurarsi che le condizioni operative non compromettano i livelli dichiarati.
Il triplice requisito di accuratezza, robustezza e cibersicurezza va letto come un sistema integrato: un sistema preciso ma fragile agli attacchi informatici, oppure resiliente ma sistematicamente impreciso, non soddisfa il dettato normativo. La Commissione europea è incaricata di promuovere lo sviluppo di parametri di riferimento e metodologie di misurazione in collaborazione con le autorità di metrologia, il che segnala l'attuale assenza di standard armonizzati definitivi in questo campo.
Accuratezza: cosa significa e come si dichiara
Il Regolamento non impone un livello assoluto di accuratezza, ma richiede che esso sia «adeguato» in relazione al contesto di impiego. Questa formula aperta richiede una valutazione caso per caso: un sistema di IA ad alto rischio impiegato in ambito medicale dovrà raggiungere soglie molto più elevate rispetto a uno utilizzato per la gestione documentale aziendale.
Un aspetto pratico spesso sottovalutato è l'obbligo di dichiarazione nelle istruzioni per l'uso (art. 15, par. 3): il fornitore deve specificare le metriche di accuratezza adottate e i valori ottenuti. Ciò significa che un deployer può — e deve — verificare tali dichiarazioni prima di mettere in servizio il sistema. Il deployer che integra in un processo decisionale critico un sistema le cui metriche di accuratezza siano inferiori alle aspettative ragionevoli, e che non ha verificato le istruzioni per l'uso, potrebbe condividere una responsabilità per i danni che ne derivano.
Robustezza: errori, guasti e circuiti di feedback
La robustezza riguarda la capacità del sistema di continuare a funzionare correttamente anche in presenza di errori, guasti o incongruenze, siano esse interne al sistema o provenienti dall'ambiente esterno. Il Regolamento elenca tra le soluzioni tecniche ammesse la ridondanza, i piani di backup e i meccanismi fail-safe. Non si tratta di un elenco tassativo: il fornitore deve scegliere la soluzione tecnico-organizzativa proporzionata al contesto.
Una novità significativa riguarda i sistemi che continuano ad apprendere dopo la messa in servizio (sistemi con continual learning o online learning). In questi casi il Regolamento impone di eliminare o ridurre il più possibile il rischio che gli output distorti di un ciclo diventino input del ciclo successivo, generando distorsioni crescenti (feedback loop). Questa previsione ha implicazioni pratiche rilevanti: i fornitori di sistemi adattativi devono implementare meccanismi di monitoraggio degli output e di controllo della deriva del modello (model drift), documentandoli nella documentazione tecnica.
Cibersicurezza specifica per i sistemi di IA
Il paragrafo 5 introduce un catalogo di minacce specifiche per i sistemi di IA che va oltre il perimetro della tradizionale cibersicurezza informatica. Il Regolamento cita espressamente:
Le soluzioni tecniche adottate devono essere «adeguate alle circostanze e ai rischi pertinenti», il che implica la necessità di una valutazione del rischio cyber specifica per il sistema di IA, distinta dalla più generale valutazione della sicurezza informatica aziendale. Il coordinamento con il Regolamento (UE) 2022/2555 (NIS 2) è rilevante per gli operatori di servizi essenziali che impiegano sistemi di IA ad alto rischio.
Obblighi pratici per il fornitore
In termini operativi, un fornitore di sistema di IA ad alto rischio deve, in relazione all'art. 15:
Responsabilità condivisa tra fornitore e deployer
Sebbene l'articolo 15 sia principalmente rivolto al fornitore, il deployer non è esente da responsabilità. Chi utilizza il sistema deve assicurarsi che le condizioni di impiego effettive siano coerenti con quelle dichiarate nelle istruzioni per l'uso. Un deployer che utilizza un sistema di IA ad alto rischio in un contesto per il quale non è stato progettato e testato, ignorando le limitazioni di accuratezza documentate, potrebbe non essere in grado di invocare in modo efficace la responsabilità esclusiva del fornitore.
Il raccordo con il GDPR è rilevante quando il sistema tratta dati personali: le misure di robustezza e cibersicurezza devono essere considerate anche come misure tecniche e organizzative ai sensi dell'art. 32 del Regolamento (UE) 2016/679. Una violazione delle misure di cibersicurezza di un sistema di IA che comporti l'accesso non autorizzato a dati personali espone l'organizzazione sia alle sanzioni dell'AI Act (art. 99) sia a quelle del GDPR.
Casi pratici
Caso 1:
Caso 2:
Caso 3:
Domande frequenti
Un sistema di IA ad alto rischio deve essere accurato al 100% per essere conforme all'art. 15?
No. Il Regolamento richiede un livello di accuratezza «adeguato» al contesto di impiego, non la perfezione. Ciò che è obbligatorio è che i livelli raggiunti siano documentati, dichiarati nelle istruzioni per l'uso e proporzionati ai rischi del settore di applicazione.
Chi è responsabile della cibersicurezza del sistema di IA: il fornitore o il deployer?
Il fornitore è responsabile in fase di progettazione e sviluppo, dove deve implementare le misure tecniche contro le minacce specifiche dell'IA (data poisoning, adversarial examples, ecc.). Il deployer è responsabile di mantenere le condizioni operative sicure e di non esporre il sistema a rischi non previsti nelle istruzioni per l'uso. La responsabilità può essere condivisa.
Cosa sono i feedback loop e perché il Regolamento li disciplina espressamente?
I feedback loop (circuiti di feedback) sono meccanismi per cui gli output di un sistema di IA ad apprendimento continuo diventano input per il ciclo di apprendimento successivo. Se un output è distorto, il bias si amplifica progressivamente. Il Regolamento impone al fornitore di implementare misure di attenuazione di questi circuiti per evitare la deriva del modello nel tempo.
Le istruzioni per l'uso di un sistema di IA ad alto rischio devono essere redatte in italiano?
Le istruzioni per l'uso devono essere fornite in una lingua facilmente comprensibile dagli utenti e dai deployer nazionali, secondo quanto stabilisce l'art. 13 del Regolamento. Di regola, per i sistemi commercializzati in Italia, è richiesta la versione in lingua italiana.
Quali sono le sanzioni per chi viola le disposizioni sull'accuratezza e la cibersicurezza dei sistemi ad alto rischio?
L'art. 99 del Regolamento prevede sanzioni per le violazioni degli obblighi sui sistemi ad alto rischio. I massimali sono stabiliti dall'articolo stesso in termini di importi fissi o percentuali del fatturato mondiale annuo. Si rinvia al testo dell'art. 99 per i valori specifici, poiché qualsiasi indicazione numerica deve essere verificata direttamente sulla norma vigente.
Vedi anche