Art. 76 Reg. (UE) 2024/1689 — Controllo delle prove in condizioni reali da parte delle autorità di vigilanza del mercato

Commento

Il controllo delle prove in condizioni reali come funzione di vigilanza

L'art. 76 attribuisce alle autorità di vigilanza del mercato uno specifico potere di intervento sulle prove di sistemi di IA condotte in condizioni reali. La norma si inserisce nel quadro più ampio dei poteri di vigilanza conferiti alle autorità nazionali dal Capo VII dell'AI Act, ma si specializza su una fase particolarmente delicata del ciclo di vita dei sistemi: quella dei test su persone reali, in contesti non controllati, prima o durante la commercializzazione.

La logica è quella del controllo preventivo dei rischi: un sistema di IA testato su persone reali può causare danni concreti prima ancora di essere immesso sul mercato. Le autorità devono quindi poter intervenire rapidamente, senza attendere l'esito delle procedure ordinarie di enforcement.

Competenze e poteri: il quadro generale

Il par. 1 afferma in modo netto che le autorità di vigilanza del mercato «hanno le competenze e i poteri» per garantire la conformità delle prove in condizioni reali. Questa formulazione è deliberatamente ampia: non enumera in modo tassativo i poteri specifici, ma rinvia al quadro generale della vigilanza del mercato (art. 74 ss.) e alla normativa nazionale di attuazione. In pratica, le autorità possono: richiedere documentazione al fornitore; effettuare ispezioni; raccogliere campioni; richiedere chiarimenti; adottare misure cautelari.

Il regime speciale per le prove nelle sandbox

Il par. 2 disciplina la situazione in cui le prove in condizioni reali si svolgono all'interno di uno spazio di sperimentazione normativa per l'IA (sandbox, art. 57 ss.). In questo caso le autorità di vigilanza del mercato verificano la conformità all'art. 60 nell'ambito del loro ruolo di supervisione della sandbox. La norma prevede anche una specifica flessibilità: le autorità possono autorizzare il fornitore a effettuare le prove in deroga alle condizioni di cui all'art. 60, par. 4, lett. f) e g) — relative rispettivamente alla sorveglianza umana del fornitore durante le prove e alla metodologia di testing. Questa flessibilità è giustificata dal contesto controllato della sandbox, che offre garanzie aggiuntive rispetto alle prove «libere».

I poteri di intervento in caso di incidenti o violazioni

Il par. 3 è il cuore operativo dell'articolo. L'autorità può adottare misure di intervento quando:

• Sia stata informata di un incidente grave da parte del fornitore potenziale, dal fornitore effettivo, dal deployer potenziale o da un terzo (incluse organizzazioni della società civile o ricercatori).
• Abbia altri motivi per ritenere che le condizioni degli artt. 60 e 61 non siano soddisfatte — la norma non richiede la certezza della violazione, ma una ragionevole base per il sospetto.

Le misure disponibili sono due:

• Sospensione o cessazione delle prove (lett. a): misura più grave, adottata quando i rischi per i soggetti o la gravità della violazione non permettono la prosecuzione nemmeno con modifiche.
• Imposizione di modifiche (lett. b): misura meno invasiva, con cui l'autorità ordina al fornitore o al deployer di modificare specifici aspetti del piano di prova o delle modalità di conduzione.

La distinzione tra fornitore e deployer è rilevante anche qui: l'obbligo di modifica può gravare su entrambi, a seconda di chi controlla l'aspetto da modificare.

Motivazione e diritto di contestazione

Il par. 4 impone che ogni decisione adottata ai sensi del par. 3 sia motivata e indichi le modalità con cui il fornitore o il potenziale fornitore può contestare la decisione o l'obiezione. Questa garanzia procedurale è fondamentale: le decisioni di sospensione o di modifica possono avere impatto economico e reputazionale significativo per il fornitore, e il diritto di ricorso è un contrappeso necessario ai poteri di intervento.

Coordinamento transfrontaliero

Il par. 5 introduce un obbligo di comunicazione orizzontale tra autorità di Stati membri diversi: se un'autorità adotta una decisione di sospensione o modifica, ne comunica i motivi alle autorità degli altri Stati in cui il sistema di IA era sottoposto a prova. Questo meccanismo è essenziale per le prove condotte simultaneamente in più Paesi — situazione sempre più comune per i sistemi di IA sviluppati da operatori attivi a livello europeo. La comunicazione garantisce che una criticità rilevata in uno Stato membro non passi inosservata negli altri.