- I fornitori o potenziali fornitori di sistemi di IA ad alto rischio (allegato III) possono effettuare prove in condizioni reali al di fuori dei sandbox normativi, nel rispetto di condizioni rigorose.
- Prima di avviare i test, occorre elaborare e presentare un piano di prova all'autorità di vigilanza del mercato, che dispone di 30 giorni per approvarlo (silenzio-assenso, salvo diversa normativa nazionale).
- I soggetti delle prove devono rilasciare un consenso informato e possono ritirarsi in qualsiasi momento senza pregiudizio, con diritto alla cancellazione dei dati personali.
- La durata massima è di sei mesi, prorogabili di ulteriori sei mesi con notifica motivata all'autorità di vigilanza.
- Qualsiasi incidente grave deve essere segnalato immediatamente all'autorità; il fornitore risponde dei danni causati nel corso delle prove.
Testo dell'articoloVigente
Art. 60 Reg. (UE) 2024/1689 — Prove di sistemi di IA ad alto rischio in condizioni reali al di fuori degli spazi di sperimentazione normativa per l’IA
Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio del 13 giugno 2024 che stabilisce regole armonizzate sull’intelligenza artificiale (regolamento sull’intelligenza artificiale)
1. Le prove di sistemi di IA ad alto rischio in condizioni reali al di fuori degli spazi di sperimentazione normativa per l'IA possono essere effettuate da fornitori o potenziali fornitori di sistemi di IA ad alto rischio elencati nell'allegato III, conformemente al presente articolo e al piano di prova in condizioni reali di cui al presente articolo, fatti salvi i divieti di cui all'articolo 5. La Commissione, per mezzo di atti di esecuzione, specifica nel dettaglio gli elementi del piano di prova in condizioni reali. Tali atti di esecuzione sono adottati secondo la procedura d'esame di cui all'articolo 98, paragrafo 2. Il presente paragrafo lascia impregiudicato il diritto dell'Unione o nazionale concernente le prove in condizioni reali di sistemi di IA ad alto rischio relativi a prodotti disciplinati dalla normativa di armonizzazione dell'Unione elencata nell'allegato I.
2. I fornitori o potenziali fornitori possono effettuare prove dei sistemi di IA ad alto rischio di cui all'allegato III in condizioni reali in qualsiasi momento prima dell'immissione sul mercato o della messa in servizio del sistema di IA, da soli o in partenariato con uno o più deployer o potenziali deployer.
3. Le prove di sistemi di IA ad alto rischio in condizioni reali a norma del presente articolo non pregiudicano alcun esame etico che sia richiesto dal diritto dell'Unione o nazionale.
4. I fornitori o potenziali fornitori possono effettuare le prove in condizioni reali solo se sono soddisfatte tutte le condizioni seguenti:
a) il fornitore o potenziale fornitore ha elaborato un piano di prova in condizioni reali e lo ha presentato all'autorità di vigilanza del mercato dello Stato membro in cui devono essere effettuate le prove in condizioni reali;
b) l'autorità nazionale di vigilanza del mercato dello Stato membro in cui devono essere effettuate le prove in condizioni reali ha approvato le prove in condizioni reali e il piano di prova in condizioni reali; se l'autorità di vigilanza del mercato non ha fornito una risposta entro 30 giorni, le prove in condizioni reali e il piano di prova in condizioni reali sono da intendersi approvati; se il diritto nazionale non prevede un'approvazione tacita, le prove in condizioni reali restano soggette ad autorizzazione;
c) il fornitore o potenziale fornitore, ad eccezione dei fornitori o dei potenziali fornitori dei sistemi di IA ad alto rischio di cui all'allegato III, punti 1, 6 e 7, nei settori delle attività di contrasto, della migrazione, dell'asilo e della gestione del controllo delle frontiere, e dei sistemi di IA ad alto rischio di cui all'allegato III, punto 2, ha registrato la prova in condizioni reali conformemente all'articolo 71, paragrafo 4, con un numero di identificazione unico a livello dell'Unione e con le informazioni di cui all'allegato IX; il fornitore o il potenziale fornitore di sistemi di IA ad alto rischio di cui all'allegato III, punti 1, 6 e 7, nei settori dell’attività di contrasto, della migrazione, dell'asilo e della gestione del controllo di frontiera, ha registrato la prova in condizioni reali in una sezione sicura non pubblica della banca dati UE ai sensi dell'articolo 49, paragrafo 4, lettera d), con un numero di identificazione unico a livello dell'Unione e con le informazioni ivi specificate; il fornitore o il potenziale fornitore di sistemi di IA ad alto rischio di cui all'allegato III, punto 2, ha registrato la prova in condizioni reali conformemente all'articolo 49, paragrafo 5;
d) il fornitore o potenziale fornitore che effettua le prove in condizioni reali è stabilito nell'Unione o ha nominato un rappresentante legale che è stabilito nell'Unione;
e) i dati raccolti e trattati ai fini delle prove in condizioni reali sono trasferiti a paesi terzi solo a condizione che siano poste in essere tutele adeguate e applicabili ai sensi del diritto dell'Unione;
f) le prove in condizioni reali non durano più di quanto necessario per conseguire i rispettivi obiettivi e, in ogni caso, non più di sei mesi, che possono essere prorogati per un ulteriore periodo di sei mesi, previa notifica da parte del fornitore o del potenziale fornitore all’autorità di vigilanza del mercato, corredata della motivazione relativa alla necessità di tale proroga;
g) i soggetti delle prove in condizioni reali che sono persone appartenenti a gruppi vulnerabili a causa della loro età o disabilità sono adeguatamente protetti;
h) qualora un fornitore o potenziale fornitore organizzi le prove in condizioni reali in cooperazione con uno o più deployer o potenziali deployer, questi ultimi sono stati informati di tutti gli aspetti delle prove pertinenti per la loro decisione di partecipare e hanno ricevuto le istruzioni pertinenti per l'uso del sistema di IA di cui all'articolo 13; il fornitore o potenziale fornitore e il deployer o potenziale deployer concludono un accordo che ne specifica i ruoli e le responsabilità al fine di garantire la conformità alle disposizioni relative alle prove in condizioni reali ai sensi del presente regolamento e di altre disposizioni applicabili di diritto dell'Unione e nazionale;
i) i soggetti delle prove in condizioni reali hanno dato il proprio consenso informato a norma dell'articolo 61 o, nel caso delle attività di contrasto, qualora la richiesta di consenso informato impedisca di sottoporre a prova il sistema di IA, le prove stesse e i risultati delle prove in condizioni reali non hanno alcun effetto negativo sui soggetti e i loro dati personali sono cancellati dopo lo svolgimento della prova;
j) le prove in condizioni reali sono efficacemente supervisionate dal fornitore o potenziale fornitore, nonché dai deployer o dai potenziali deployer, tramite persone adeguatamente qualificate nel settore pertinente e dotate delle capacità, della formazione e dell'autorità necessarie per svolgere i loro compiti;
k) le previsioni, le raccomandazioni o le decisioni del sistema di IA possono essere efficacemente ribaltate e ignorate.
5. Qualsiasi soggetto delle prove in condizioni reali, o il suo rappresentante legale designato, a seconda dei casi, può, senza alcun conseguente pregiudizio e senza dover fornire alcuna giustificazione, ritirarsi dalle prove in qualsiasi momento revocando il proprio consenso informato e può chiedere la cancellazione immediata e permanente dei propri dati personali. La revoca del consenso informato non pregiudica le attività già svolte.
6. A norma dell'articolo 75, gli Stati membri conferiscono alle loro autorità di vigilanza del mercato il potere di imporre ai fornitori e ai potenziali fornitori di fornire informazioni, di effettuare ispezioni a distanza o in loco senza preavviso e di svolgere controlli sulla conduzione delle prove in condizioni reali e sui relativi sistemi di IA ad alto rischio. Le autorità di vigilanza del mercato si avvalgono di tali poteri per garantire lo sviluppo in sicurezza delle prove in condizioni reali.
7. Qualsiasi incidente grave individuato nel corso delle prove in condizioni reali è segnalato all'autorità nazionale di vigilanza del mercato conformemente all'articolo 73. Il fornitore o potenziale fornitore adotta misure di attenuazione immediate o, in mancanza di ciò, sospende le prove in condizioni reali fino a quando tale attenuazione non abbia luogo oppure vi pone fine. Il fornitore o potenziale fornitore stabilisce una procedura per il tempestivo ritiro del sistema di IA in seguito a tale cessazione delle prove in condizioni reali.
8. I fornitori o potenziali fornitori notificano all'autorità nazionale di vigilanza del mercato dello Stato membro in cui devono essere effettuate le prove in condizioni reali la sospensione o la cessazione delle prove in condizioni reali nonché i risultati finali.
9. Il fornitore o potenziale fornitore è responsabile ai sensi del diritto dell'Unione e nazionale applicabile in materia di responsabilità per eventuali danni causati nel corso delle prove in condizioni reali.
Stesso numero, altri codici
- Art. 60 D.Lgs. 504/1995 — Addizionali dell'accisa
- Articolo 60 L. 184/1983: Esclusione delle norme codicistiche per i minorenni
- Art. 60 Cod. Amb. — competenze dell' Istituto superiore per la protezione e la ricerca ambientale - ISPRA
- Art. 60 D.Lgs. 159/2011 — Liquidazione dei beni
- Art. 60 D.Lgs. 209/2005 — Attività in regime di stabilimento delle imprese aventi sede legale in un altro Stato membro
- Art. 60 D.Lgs. 42/2004 — Acquisto in via di prelazione
Commento
Le prove in condizioni reali come strumento di sviluppo responsabile
L'articolo 60 del Regolamento (UE) 2024/1689 (AI Act) disciplina una fase delicata del ciclo di vita dei sistemi di IA ad alto rischio: i test condotti nel mondo reale, al di fuori degli ambienti controllati di laboratorio o degli spazi di sperimentazione normativa (sandbox AI) previsti dall'art. 57. Queste prove sono fondamentali per validare le prestazioni del sistema in condizioni operative autentiche, ma comportano rischi specifici per le persone coinvolte, il che giustifica un regime di autorizzazione e supervisione stringente.
Il Regolamento distingue due canali di sperimentazione in condizioni reali: le prove all'interno dei sandbox normativi (art. 57-59, con regimi speciali) e le prove al di fuori dei sandbox disciplinate dall'art. 60. Quest'ultimo si applica ai sistemi di IA ad alto rischio elencati nell'allegato III, con alcune eccezioni per i settori dell'attività di contrasto, migrazione, asilo e controllo delle frontiere che seguono un regime di registrazione differenziato.
I soggetti legittimati alle prove e la distinzione fornitore/deployer
L'art. 60 è esplicitamente rivolto ai fornitori o potenziali fornitori di sistemi di IA ad alto rischio. La menzione dei «potenziali fornitori» è significativa: consente di effettuare le prove anche in fase pre-commerciale, quando il soggetto sta ancora valutando se immettere il sistema sul mercato. I deployer non sono legittimati ad avviare autonomamente prove in condizioni reali ai sensi di questo articolo, ma possono partecipare in qualità di partner di prova (par. 2), a condizione che un accordo scritto definisca chiaramente i rispettivi ruoli e responsabilità.
Quando fornitore e deployer cooperano nelle prove, il Regolamento richiede che il deployer sia informato di tutti gli aspetti rilevanti della prova e abbia ricevuto le istruzioni per l'uso del sistema (par. 4, lett. h). Questa previsione rafforza la responsabilità del deployer: partecipare alle prove senza essere adeguatamente informato non è ammissibile, e la firma dell'accordo con il fornitore attribuisce al deployer la propria quota di responsabilità per la conduzione della prova.
Le condizioni necessarie per avviare le prove
Il paragrafo 4 elenca le condizioni cumulative che devono essere soddisfatte prima di avviare le prove in condizioni reali. In termini operativi, il percorso di avvio si articola nei seguenti passaggi:
Tutele per i soggetti delle prove
Il Regolamento pone particolare attenzione alla tutela delle persone coinvolte nelle prove, in particolare dei soggetti vulnerabili a causa dell'età o della disabilità (par. 4, lett. g). Le tutele principali sono:
Il raccordo con il GDPR è particolarmente rilevante in questo contesto: il trattamento dei dati personali dei soggetti delle prove deve rispettare il Regolamento (UE) 2016/679, incluse le disposizioni sulla base giuridica del trattamento (che per le prove non commerciali può essere il consenso, ma va valutato caso per caso), i diritti degli interessati e il principio di minimizzazione dei dati. La cancellazione dei dati richiesta dall'art. 60 si affianca all'esercizio del diritto alla cancellazione previsto dall'art. 17 GDPR.
Responsabilità per i danni e gestione degli incidenti gravi
Il paragrafo 9 stabilisce che il fornitore o potenziale fornitore è responsabile ai sensi del diritto dell'Unione e nazionale applicabile per i danni causati nel corso delle prove. Questa previsione non crea una responsabilità oggettiva specifica, ma richiama il quadro giuridico generale della responsabilità civile, da integrare con la Direttiva sulla responsabilità per i prodotti difettosi (Direttiva (UE) 2024/2853) e le normative nazionali applicabili.
Parallelamente, il paragrafo 7 impone la segnalazione immediata di qualsiasi incidente grave all'autorità di vigilanza del mercato ai sensi dell'art. 73. Il verificarsi di un incidente grave comporta l'obbligo di adottare misure di attenuazione immediate o, in alternativa, la sospensione delle prove fino a quando l'attenuazione non sia avvenuta. Il fornitore deve stabilire preventivamente una procedura per il ritiro rapido del sistema in caso di cessazione delle prove, analogamente a quanto previsto per le crisi di sicurezza dei prodotti immessi sul mercato.
Applicazione temporale e coordinamento con il GDPR
Le disposizioni dell'art. 60 rientrano nel regime degli obblighi per i sistemi di IA ad alto rischio, la cui applicazione piena è prevista dal 2 agosto 2026 (art. 113 del Regolamento), con l'eccezione dei divieti assoluti (art. 5) già applicabili dal 2 febbraio 2025. Le prove in condizioni reali che coinvolgono i sistemi vietati dall'art. 5 sono espressamente escluse dall'ambito applicativo dell'art. 60 (par. 1, primo periodo).
Casi pratici
Caso 1:
Caso 2:
Caso 3:
Domande frequenti
Un'azienda può testare il proprio sistema di IA ad alto rischio su clienti reali senza autorizzazione?
No. Le prove in condizioni reali al di fuori dei sandbox normativi richiedono la predisposizione di un piano di prova, la presentazione all'autorità di vigilanza del mercato (che ha 30 giorni per approvare, con possibile silenzio-assenso), la registrazione nella banca dati UE e il consenso informato dei soggetti coinvolti.
Cosa si intende per consenso informato ai fini delle prove in condizioni reali?
Il consenso informato è disciplinato dall'art. 61 del Regolamento. I soggetti devono essere informati in modo chiaro e comprensibile degli obiettivi della prova, dei rischi, dei dati trattati e del diritto di ritiro. Il consenso deve essere libero, specifico e documentato.
Cosa succede se la prova causa danni a un partecipante?
Il fornitore o potenziale fornitore è responsabile ai sensi del diritto applicabile (art. 60, par. 9). Le regole specifiche di responsabilità civile dipendono dal diritto dell'Unione e nazionale applicabile, inclusa la normativa sulla responsabilità per i prodotti difettosi. È consigliabile che il fornitore stipuli una copertura assicurativa adeguata prima di avviare le prove.
Le prove in condizioni reali possono coinvolgere minori?
Sì, ma con tutele rafforzate. I soggetti vulnerabili, tra cui i minori, devono essere adeguatamente protetti (art. 60, par. 4, lett. g). Nella pratica questo richiede misure specifiche come il consenso dei genitori o tutori e procedure di supervisione rinforzate.
Un deployer può avviare autonomamente prove in condizioni reali di un sistema che utilizza?
No. L'art. 60 legittima solo i fornitori o potenziali fornitori ad avviare prove in condizioni reali. Il deployer può partecipare come partner di prova in cooperazione con il fornitore, ma in tal caso deve essere informato di tutti gli aspetti rilevanti e deve firmare un accordo scritto che definisca i rispettivi ruoli e responsabilità.
Vedi anche