Art. 82 Reg. (UE) 2024/1689 — Sistemi di IA conformi che presentano un rischio

Commento

Il paradosso del sistema conforme ma rischioso

Il Regolamento (UE) 2024/1689 costruisce un sistema di conformità articolato su requisiti tecnici, documentazione, valutazioni della conformità, registrazione e dichiarazioni. In linea di principio, un sistema che soddisfa tutti questi requisiti dovrebbe essere sicuro e rispettoso dei diritti fondamentali. La realtà normativa e tecnologica è più complessa: un sistema può essere formalmente conforme in ogni suo aspetto documentabile eppure rivelarsi, nel contesto specifico del suo utilizzo, fonte di rischi concreti non previsti ex ante.

L'articolo 82 affronta questa situazione con un meccanismo che possiamo definire di conformità sostanziale ex post: anche un sistema che ha superato la valutazione della conformità e che porta la marcatura CE può essere oggetto di intervento correttivo da parte delle autorità, se le evidenze concrete di utilizzo rivelano rischi che la valutazione ex ante non aveva potuto rilevare. È una disposizione che presidia il principio secondo cui la conformità non è uno stato statico, ma deve essere mantenuta nel tempo e nel contesto reale di impiego.

Il procedimento a livello nazionale

Il procedimento si articola in due fasi distinte. La prima, disciplinata dal paragrafo 1, è di livello nazionale:

• L'autorità di vigilanza del mercato dello Stato membro effettua una valutazione del sistema di IA ai sensi dell'articolo 79.
• Consulta la pertinente autorità pubblica nazionale di cui all'articolo 77, paragrafo 1 (che varia secondo il settore di utilizzo del sistema).
• Se conclude che il sistema, pur conforme, rappresenta un rischio per la salute, la sicurezza, i diritti fondamentali o «altri aspetti della tutela dell'interesse pubblico», chiede all'operatore pertinente di adottare misure adeguate entro un termine definito.

La nozione di «operatore pertinente» è ampia: può essere il fornitore, il distributore, il deployer o il rappresentante autorizzato, a seconda di chi è nella posizione più adeguata per adottare le misure richieste. In molti casi l'interlocutore principale sarà il fornitore, che ha la capacità tecnica per modificare il sistema, ma il deployer potrebbe essere chiamato a interventi di carattere organizzativo o procedurale (ad esempio, rafforzamento della supervisione umana).

Il paragrafo 2 estende l'obbligo correttivo: il fornitore o l'operatore pertinente deve adottare le misure non solo per l'esemplare specifico segnalato, ma per «tutti i sistemi di IA interessati» messi a disposizione sul mercato UE. È una clausola di portata generale che impedisce di limitare l'intervento correttivo al singolo caso segnalato, qualora il problema abbia natura sistemica.

L'escalation a livello europeo

La seconda fase del procedimento è di livello europeo. Il paragrafo 3 impone agli Stati membri di informare «immediatamente» la Commissione e gli altri Stati membri della conclusione cui sono giunti, con tutti i dettagli disponibili: identificazione del sistema, origine e catena di approvvigionamento, natura del rischio, natura e durata delle misure adottate. Questa comunicazione inter-statale è lo strumento attraverso cui un problema rilevato in un solo Stato membro può attivare una risposta coordinata a livello europeo.

La Commissione avvia poi consultazioni con gli Stati membri interessati e con gli operatori pertinenti e valuta le misure nazionali adottate (paragrafo 4). All'esito della valutazione, può decidere se la misura è giustificata e proporre, ove necessario, «altre misure appropriate». La decisione è comunicata immediatamente agli Stati membri e agli operatori (paragrafo 5).

Il rapporto con la clausola di salvaguardia dell'articolo 81

L'articolo 82 deve essere letto in coordinamento con l'articolo 81, che disciplina la procedura da seguire quando un'autorità di vigilanza adotta misure restrittive nei confronti di sistemi di IA conformi alla marcatura CE (la cosiddetta «clausola di salvaguardia»). L'articolo 81 si applica quando l'autorità ritiene che il sistema non soddisfi effettivamente i requisiti nonostante la conformità formale; l'articolo 82 si applica al caso più radicale in cui il sistema è pienamente conforme ma genera comunque rischi. La distinzione è sottile ma rilevante: nell'articolo 82 non si contesta la conformità del sistema, ma si riconosce un gap tra l'insieme dei requisiti normativi e la protezione effettiva dei soggetti esposti.

Implicazioni operative per fornitori e deployer

Per i fornitori, l'articolo 82 introduce un elemento di rischio residuale che non può essere eliminato nemmeno dalla conformità più rigorosa: il sistema potrebbe essere richiamato o modificato sulla base di evidenze di rischio emerse nel contesto reale di utilizzo. Questo rende essenziale l'implementazione di sistemi di monitoraggio post-immissione sul mercato (previsti dall'articolo 72) che consentano di rilevare tempestivamente segnali di rischio prima che l'autorità di vigilanza intervenga.

Per i deployer, la possibilità che un sistema conforme venga sottoposto a misure correttive impone di includere nei contratti con i fornitori clausole che disciplinino i tempi e le modalità di implementazione delle modifiche richieste dall'autorità, i costi relativi e l'eventuale sospensione temporanea dell'utilizzo del sistema durante il periodo di adeguamento.

Coordinamento con il GDPR

Quando il rischio rilevato attiene al trattamento di dati personali — ad esempio, un sistema di riconoscimento facciale conforme all'AI Act che nella pratica genera percentuali di errore sproporzionate per determinati gruppi demografici — il procedimento dell'articolo 82 si affianca alle misure che l'autorità di protezione dei dati può adottare ai sensi del GDPR. In questi casi, il fornitore e il deployer si troveranno a fronteggiare procedimenti paralleli davanti ad autorità diverse, con esigenze di coordinamento della risposta.