Art. 16 Reg. (UE) 2024/1689 — Obblighi dei fornitori dei sistemi di IA ad alto rischio

Commento

Il fornitore come fulcro del sistema di conformità

L'art. 16 è il cuore operativo dell'AI Act per chi sviluppa sistemi di IA ad alto rischio. A differenza del deployer — che usa il sistema sotto la propria responsabilità — il fornitore è il soggetto che progetta, addestra, immette sul mercato o mette in servizio il sistema. Su di lui il legislatore concentra la parte più esigente del regime di conformità, mutuando in larga misura il modello della normativa europea di prodotto («new approach»): documentazione tecnica, valutazione della conformità, dichiarazione del fabbricante, marcatura CE.

La logica è chiara: chi crea il sistema è il soggetto che meglio conosce il suo funzionamento interno, i dati di addestramento, le limitazioni, i potenziali rischi. È quindi su di lui che si concentrano gli obblighi di trasparenza verso le autorità e di garanzia verso il mercato. Il deployer riceve un sistema «certificato» e assume poi responsabilità proprie nell'uso concreto, ma la catena di responsabilità parte sempre dal fornitore. Questa distinzione deve essere chiara fin dall'inizio di qualsiasi progetto di IA ad alto rischio: qualificarsi correttamente come fornitore o deployer è il primo atto di un piano di conformità serio.

I dodici obblighi del fornitore: analisi operativa

L'articolo elenca dodici obblighi distinti, ognuno dei quali rinvia a un articolo specifico del regolamento. Vediamoli in chiave operativa:

• Conformità ai requisiti tecnici (lett. a): il sistema deve rispettare i requisiti della Sezione 2 del Capo III — dati di addestramento di qualità, documentazione tecnica, conservazione dei log, trasparenza, sorveglianza umana, robustezza e cibersicurezza. È l'obbligo ombrello che racchiude tutti gli altri.
• Identificazione del fornitore (lett. b): nome o marchio registrato e recapito devono essere indicati sul sistema, sull'imballaggio o sui documenti di accompagnamento. Serve alla tracciabilità e a permettere alle autorità e agli utenti di contattare il responsabile.
• Sistema di gestione della qualità (lett. c, art. 17): il fornitore deve istituire un QMS documentato che copra l'intero ciclo di vita del sistema: dalla progettazione al post-commercializzazione. Non è sufficiente un'unica valutazione iniziale; il QMS deve essere un processo continuo e adattivo.
• Documentazione tecnica (lett. d, art. 18): un fascicolo completo che descrive il sistema, il suo scopo previsto, i dati di addestramento, le prestazioni, le limitazioni, le misure di sicurezza. Deve essere conservato per dieci anni dall'immissione sul mercato e aggiornato ad ogni modifica sostanziale.
• Conservazione dei log (lett. e, art. 19): quando i log sono generati automaticamente dal sistema e sono sotto il controllo del fornitore, devono essere conservati. I log sono fondamentali per l'accountability in caso di incidenti o verifiche da parte delle autorità.
• Valutazione della conformità (lett. f, art. 43): prima dell'immissione sul mercato, il sistema deve essere sottoposto alla procedura di valutazione appropriata — auto-valutazione interna documentata o coinvolgimento di un organismo notificato, a seconda della categoria e della presenza di norme armonizzate.
• Dichiarazione di conformità UE (lett. g, art. 47): documento formale con cui il fornitore attesta che il sistema è conforme all'AI Act e, se applicabile, ad altre normative di armonizzazione UE. Deve essere aggiornata in caso di modifiche sostanziali al sistema.
• Marcatura CE (lett. h, art. 48): apposizione del marchio CE, che segnala la conformità ai requisiti regolamentari UE. Analogamente a quanto avviene per i prodotti fisici regolamentati, la marcatura CE non è un semplice bollino: presuppone il completamento di tutte le fasi della valutazione della conformità.
• Registrazione (lett. i, art. 49): i sistemi ad alto rischio devono essere registrati nella banca dati EU AI (istituita dall'art. 71) prima dell'immissione sul mercato. La registrazione garantisce la visibilità pubblica e facilita la vigilanza delle autorità nazionali.
• Misure correttive e informazione (lett. j, art. 20): se il fornitore viene a conoscenza di non conformità — rilevata internamente, segnalata dai deployer o dalle autorità — deve adottare azioni correttive, ritirare o richiamare il sistema se necessario, e informare le autorità di vigilanza e i deployer interessati.
• Cooperazione con le autorità (lett. k): su richiesta motivata dell'autorità nazionale competente, il fornitore deve dimostrare la conformità del sistema ai requisiti della Sezione 2. L'onere della prova è sul fornitore, non sull'autorità.
• Accessibilità (lett. l): il sistema deve rispettare i requisiti di accessibilità delle Direttive (UE) 2016/2102 e 2019/882 — un raccordo con la normativa sull'accessibilità dei prodotti e servizi per persone con disabilità.

Il sistema di gestione della qualità: architettura e contenuto

L'obbligo di cui alla lett. c merita un approfondimento specifico, perché il QMS richiesto dall'art. 17 è la spina dorsale dell'intero sistema di conformità. Non si tratta di una procedura burocratica da compilare una volta sola: è un sistema integrato e documentato che deve coprire l'intero ciclo di vita del sistema di IA, dalla concezione iniziale alla dismissione.

Il QMS deve includere almeno: la strategia di conformità regolamentare e le responsabilità interne; le procedure di progettazione e sviluppo (inclusa la gestione delle versioni e delle modifiche); le procedure di valutazione e controllo della qualità dei dati di addestramento, validazione e test; il piano di gestione dei rischi (art. 9), che deve essere aggiornato durante l'intero ciclo di vita; la procedura di sorveglianza post-commercializzazione (art. 72), che comprende la raccolta e l'analisi di feedback, segnalazioni di anomalie e incidenti; la gestione degli incidenti gravi (art. 73) e delle segnalazioni alle autorità.

Per le PMI il regolamento prevede che il QMS possa essere proporzionato alle dimensioni aziendali, ma la sostanza degli obblighi non è derogabile. Un QMS ben strutturato ha anche un valore difensivo: è la prova documentale che il fornitore ha adottato un approccio sistematico alla conformità, elemento che le autorità valuteranno in caso di ispezione o di incidente.

La sorveglianza post-commercializzazione: un obbligo continuo

Un aspetto spesso sottovalutato è che gli obblighi del fornitore non si esauriscono con l'immissione sul mercato. L'art. 72 impone ai fornitori di sistemi ad alto rischio un sistema di sorveglianza post-commercializzazione: raccolta attiva di dati sull'esperienza acquisita nell'uso del sistema, analisi delle performance reali rispetto a quelle dichiarate nella documentazione tecnica, aggiornamento dei piani di rischio.

Se dalla sorveglianza post-commercializzazione emerge che il sistema non soddisfa più i requisiti dell'art. 16 — per esempio perché le sue prestazioni sono degradate con il tempo, o perché il contesto d'uso è cambiato — il fornitore deve adottare misure correttive. In caso di rischio grave, deve informare immediatamente le autorità nazionali competenti e i deployer che utilizzano il sistema.

Il rapporto tra fornitore e deployer: diritti e doveri reciproci

Il fornitore non agisce in isolamento: la sua catena di conformità si intreccia con quella dei deployer che utilizzano il suo sistema. Il fornitore deve fornire al deployer le istruzioni d'uso (art. 13), la documentazione tecnica necessaria per consentire il corretto utilizzo, e le informazioni sulle limitazioni del sistema. Il deployer, da parte sua, ha l'obbligo di rispettare le istruzioni del fornitore e di non modificare il sistema in modo tale da alterarne le caratteristiche di sicurezza.

Se un deployer usa il sistema in modo non conforme alle istruzioni del fornitore — per esempio estendendo il campo di applicazione a casi non previsti, o disattivando la sorveglianza umana richiesta — la responsabilità per le conseguenze si sposta parzialmente sul deployer. Il fornitore deve documentare i casi d'uso previsti e quelli non previsti, anche per proteggersi da un'eventuale estensione abusiva da parte dei deployer.

Sanzioni per violazione degli obblighi del fornitore

L'art. 99 dell'AI Act prevede un sistema sanzionatorio graduale e proporzionato. Per la violazione degli obblighi imposti ai fornitori di sistemi ad alto rischio (diversi dai divieti assoluti dell'art. 5), le sanzioni massime sono espresse come percentuale del fatturato mondiale annuo o come importo fisso, applicando il maggiore dei due valori. Le autorità nazionali — designate da ciascuno Stato membro ai sensi dell'art. 70 — hanno il potere di irrogare sanzioni, ordinare misure correttive, imporre il ritiro temporaneo del sistema dal mercato e, nei casi più gravi, richiedere il ritiro definitivo e il richiamo. Per le PMI e le start-up, il regolamento richiede che le sanzioni siano proporzionate e tengano conto delle capacità economiche del soggetto, ma questa attenuante non esonera dall'obbligo di conformità.

Applicazione temporale e roadmap di conformità

Gli obblighi dell'art. 16 si applicano pienamente dal 2 agosto 2026 per la maggior parte dei sistemi ad alto rischio dell'Allegato III. Per i sistemi di IA che sono componenti di sicurezza di prodotti soggetti a normativa di armonizzazione dell'Allegato I, sezione A, alcune disposizioni si applicano a partire dal 2027. Questa scansione temporale non deve essere letta come un rinvio: la costruzione di un QMS conforme, la redazione della documentazione tecnica e il completamento della valutazione della conformità sono processi che richiedono tipicamente da sei mesi a oltre un anno di lavoro, a seconda della complessità del sistema e del settore di applicazione.

Una roadmap ragionevole per un fornitore che deve portarsi in conformità entro agosto 2026 prevede: gap analysis rispetto ai requisiti della Sezione 2 (da avviare subito); progettazione e implementazione del QMS (6-9 mesi); redazione della documentazione tecnica (in parallelo con il QMS); valutazione della conformità (3-6 mesi, a seconda della procedura); dichiarazione di conformità UE, marcatura CE e registrazione (1-2 mesi). Chi inizia il processo nel 2024-2025 ha margini adeguati; chi attende l'ultimo momento rischia di non riuscire a completare il percorso in tempo.