- L'art. 13 impone che i sistemi di IA ad alto rischio siano progettati con un livello di trasparenza sufficiente a consentire ai deployer di interpretare e usare adeguatamente gli output.
- Ogni sistema ad alto rischio deve essere accompagnato da istruzioni per l'uso in formato digitale o non digitale: concise, complete, corrette e comprensibili per il deployer.
- Le istruzioni devono contenere informazioni su identità del fornitore, finalità prevista, metriche di accuratezza, robustezza e cibersicurezza, limiti prestazionali e circostanze di rischio prevedibili.
- Sono obbligatorie indicazioni sulle misure di sorveglianza umana (art. 14), sulle risorse computazionali necessarie e sulle procedure di manutenzione.
- Se il sistema genera log, le istruzioni devono spiegare come i deployer possano raccoglierli, conservarli e interpretarli correttamente (art. 12).
- L'obbligo di trasparenza verso il deployer si affianca — e non sostituisce — gli obblighi di trasparenza verso gli utenti finali previsti dall'art. 50.
Testo dell'articoloVigente
Art. 13 Reg. (UE) 2024/1689 — Trasparenza e fornitura di informazioni ai deployer
Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio del 13 giugno 2024 che stabilisce regole armonizzate sull’intelligenza artificiale (regolamento sull’intelligenza artificiale)
1. I sistemi di IA ad alto rischio sono progettati e sviluppati in modo tale da garantire che il loro funzionamento sia sufficientemente trasparente da consentire ai deployer di interpretare l'output del sistema e utilizzarlo adeguatamente. Sono garantiti un tipo e un livello di trasparenza adeguati, che consentano di conseguire il rispetto dei pertinenti obblighi del fornitore e del deployer di cui alla sezione 3.
2. I sistemi di IA ad alto rischio sono accompagnati da istruzioni per l'uso, in un formato appropriato digitale o non digitale, che comprendono informazioni concise, complete, corrette e chiare che siano pertinenti, accessibili e comprensibili per i deployer.
3. Le istruzioni per l'uso contengono almeno le informazioni seguenti:
a) l'identità e i dati di contatto del fornitore e, ove applicabile, del suo rappresentante autorizzato;
b) le caratteristiche, le capacità e i limiti delle prestazioni del sistema di IA ad alto rischio, tra cui: i) la finalità prevista; ii) il livello di accuratezza che ci si può attendere, comprese le metriche, di robustezza e cibersicurezza di cui all'articolo 15 rispetto al quale il sistema di IA ad alto rischio è stato sottoposto a prova e convalidato, e qualsiasi circostanza nota e prevedibile che possa avere un impatto sul livello atteso di accuratezza, robustezza e cibersicurezza; iii) qualsiasi circostanza nota o prevedibile connessa all'uso del sistema di IA ad alto rischio in conformità della sua finalità prevista o in condizioni di uso improprio ragionevolmente prevedibile che possa comportare rischi per la salute e la sicurezza o per i diritti fondamentali di cui all'articolo 9, paragrafo 2; iv) se del caso, le capacità e caratteristiche tecniche del sistema di IA ad alto rischio connesse alla fornitura di informazioni pertinenti per spiegarne l'output; v) ove opportuno, le sue prestazioni per quanto riguarda le persone o i gruppi di persone specifici sui quali il sistema è destinato a essere utilizzato; vi) ove opportuno, le specifiche per i dati di input o qualsiasi altra informazione pertinente in termini di set di dati di addestramento, convalida e prova, tenendo conto della finalità prevista del sistema di IA ad alto rischio; vii) se del caso, informazioni che consentano ai deployer di interpretare l'output del sistema di IA ad alto rischio e di usarlo in modo opportuno; i) la finalità prevista; ii) il livello di accuratezza che ci si può attendere, comprese le metriche, di robustezza e cibersicurezza di cui all'articolo 15 rispetto al quale il sistema di IA ad alto rischio è stato sottoposto a prova e convalidato, e qualsiasi circostanza nota e prevedibile che possa avere un impatto sul livello atteso di accuratezza, robustezza e cibersicurezza; iii) qualsiasi circostanza nota o prevedibile connessa all'uso del sistema di IA ad alto rischio in conformità della sua finalità prevista o in condizioni di uso improprio ragionevolmente prevedibile che possa comportare rischi per la salute e la sicurezza o per i diritti fondamentali di cui all'articolo 9, paragrafo 2; iv) se del caso, le capacità e caratteristiche tecniche del sistema di IA ad alto rischio connesse alla fornitura di informazioni pertinenti per spiegarne l'output; v) ove opportuno, le sue prestazioni per quanto riguarda le persone o i gruppi di persone specifici sui quali il sistema è destinato a essere utilizzato; vi) ove opportuno, le specifiche per i dati di input o qualsiasi altra informazione pertinente in termini di set di dati di addestramento, convalida e prova, tenendo conto della finalità prevista del sistema di IA ad alto rischio; vii) se del caso, informazioni che consentano ai deployer di interpretare l'output del sistema di IA ad alto rischio e di usarlo in modo opportuno;
i) la finalità prevista;
ii) il livello di accuratezza che ci si può attendere, comprese le metriche, di robustezza e cibersicurezza di cui all'articolo 15 rispetto al quale il sistema di IA ad alto rischio è stato sottoposto a prova e convalidato, e qualsiasi circostanza nota e prevedibile che possa avere un impatto sul livello atteso di accuratezza, robustezza e cibersicurezza;
iii) qualsiasi circostanza nota o prevedibile connessa all'uso del sistema di IA ad alto rischio in conformità della sua finalità prevista o in condizioni di uso improprio ragionevolmente prevedibile che possa comportare rischi per la salute e la sicurezza o per i diritti fondamentali di cui all'articolo 9, paragrafo 2;
iv) se del caso, le capacità e caratteristiche tecniche del sistema di IA ad alto rischio connesse alla fornitura di informazioni pertinenti per spiegarne l'output;
v) ove opportuno, le sue prestazioni per quanto riguarda le persone o i gruppi di persone specifici sui quali il sistema è destinato a essere utilizzato;
vi) ove opportuno, le specifiche per i dati di input o qualsiasi altra informazione pertinente in termini di set di dati di addestramento, convalida e prova, tenendo conto della finalità prevista del sistema di IA ad alto rischio;
vii) se del caso, informazioni che consentano ai deployer di interpretare l'output del sistema di IA ad alto rischio e di usarlo in modo opportuno;
c) le eventuali modifiche apportate al sistema di IA ad alto rischio e alle sue prestazioni, che sono state predeterminate dal fornitore al momento della valutazione iniziale della conformità;
d) le misure di sorveglianza umana di cui all'articolo 14, comprese le misure tecniche poste in essere per facilitare l'interpretazione degli output dei sistemi di IA ad alto rischio da parte dei deployer;
e) le risorse computazionali e di hardware necessarie, la durata prevista del sistema di IA ad alto rischio e tutte le misure di manutenzione e cura, compresa la relativa frequenza, necessarie per garantire il corretto funzionamento di tale sistema, anche per quanto riguarda gli aggiornamenti software;
f) se del caso, una descrizione dei meccanismi inclusi nel sistema di IA ad alto rischio che consente ai deployer di raccogliere, conservare e interpretare correttamente i log in conformità dell'articolo 12.
Stesso numero, altri codici
- Articolo 13 L. 184/1983: Convocazione dei genitori irreperibili
- Art. 13 Cod. Amb. — Redazione del rapporto ambientale
- Art. 13 D.Lgs. 148/2015 — Contribuzione
- Art. 13 D.Lgs. 159/2011 — Rapporti della sorveglianza speciale con le misure di sicurezza e la libertà vigilata
- Art. 13 D.Lgs. 209/2005 — Autorizzazione
- Art. 13 D.Lgs. 42/2004 — Dichiarazione dell'interesse culturale
Commento
La funzione dell'art. 13 nell'architettura dell'AI Act
Il Regolamento (UE) 2024/1689 distingue due grandi categorie di soggetti che gravitano attorno a un sistema di IA: il fornitore («provider»), ossia chi sviluppa il sistema e lo immette sul mercato o lo mette in servizio, e il deployer, ossia chi utilizza il sistema sotto la propria autorità e responsabilità. L'art. 13 presidia il passaggio di consegne tra questi due attori nei sistemi ad alto rischio: impone al fornitore di consegnare al deployer le informazioni necessarie perché quest'ultimo possa usare il sistema correttamente, garantire la sorveglianza umana e adempiere ai propri obblighi di conformità. Senza queste informazioni, il deployer opererebbe alla cieca — incapace di valutare i limiti del sistema, di riconoscere situazioni di rischio, di attivare il controllo umano quando necessario. La trasparenza verso il deployer non è dunque un adempimento formale, ma la precondizione tecnica della governance del rischio lungo l'intera catena di fornitura.
L'art. 13 si inserisce nella sezione 2 del capo III, che disciplina i requisiti dei sistemi ad alto rischio (artt. 9-15), e deve essere letto in combinato con l'art. 14 (sorveglianza umana), l'art. 15 (accuratezza, robustezza e cibersicurezza) e l'art. 12 (conservazione dei log). Gli obblighi si applicano a tutti i fornitori di sistemi ad alto rischio ai sensi degli allegati I e III del regolamento, con decorrenza dal 2 agosto 2026 per la gran parte delle categorie (art. 113), salvo i sistemi di cui all'allegato III, punto 1 (biometria e infrastrutture critiche) per i quali le date possono variare.
Il contenuto minimo delle istruzioni per l'uso
Il paragrafo 3 dell'art. 13 elenca analiticamente il contenuto minimo delle istruzioni. Si tratta di un elenco non esaustivo (l'avverbio «almeno» è esplicito) che copre sette aree tematiche.
Identità del fornitore (lett. a): nome, denominazione commerciale o marchio registrato e indirizzo del fornitore e, ove applicabile, del suo rappresentante autorizzato nell'UE. Questa informazione è essenziale perché il deployer sappia a chi rivolgersi in caso di disfunzioni o necessità di aggiornamenti, e perché le autorità di vigilanza possano risalire alla catena di responsabilità.
Caratteristiche, capacità e limiti prestazionali (lett. b): è il nucleo tecnico delle istruzioni. Il fornitore deve dichiarare la finalità prevista (il perimetro autorizzato di utilizzo), le metriche di accuratezza, robustezza e cibersicurezza con cui il sistema è stato testato e validato ai sensi dell'art. 15, le circostanze note o prevedibili in cui le prestazioni possono degradare, le circostanze in cui l'uso può generare rischi per la salute, la sicurezza o i diritti fondamentali, le capacità di spiegabilità dell'output (ove presenti), le eventuali differenze prestazionali rispetto a specifiche popolazioni o gruppi di persone, e le specifiche sui dati di input. Questa sezione traduce in obbligo giuridico il principio di «accountability tecnica»: il fornitore non può limitarsi a dichiarare che il sistema «funziona», ma deve documentare con precisione quanto accurato è, in quali condizioni, e con quali limitazioni.
Modifiche predeterminate (lett. c): se il fornitore ha già pianificato al momento della valutazione iniziale della conformità modifiche future al sistema o alle sue prestazioni, queste devono essere indicate nelle istruzioni. Questo obbligo intercetta il problema dei sistemi di IA che evolvono nel tempo (machine learning continuo): le modifiche predeterminate non richiedono una nuova valutazione della conformità (art. 43, par. 4), ma il deployer deve esserne informato.
Sorveglianza umana (lett. d): le misure di sorveglianza umana previste dall'art. 14, incluse le misure tecniche che facilitano l'interpretazione degli output da parte dei deployer. Il fornitore deve quindi documentare non solo che il sistema è stato progettato per consentire la supervisione umana, ma anche come il deployer deve esercitarla concretamente.
Risorse e manutenzione (lett. e): le risorse computazionali e hardware necessarie, la durata di vita prevista del sistema e le procedure di manutenzione, inclusa la frequenza degli aggiornamenti software. Un deployer che non conosce questi parametri rischia di utilizzare un sistema in condizioni tecniche degradate, con conseguente aumento del rischio di errori o derive prestazionali.
Gestione dei log (lett. f): se il sistema include meccanismi di registrazione automatica (art. 12), le istruzioni devono spiegare come raccoglierli, conservarli e interpretarli correttamente. I log sono uno strumento fondamentale per la sorveglianza post-market e per l'indagine in caso di incidenti.
Il livello di trasparenza «adeguato»: come calibrarlo
Il paragrafo 1 dell'art. 13 non richiede la trasparenza massima possibile, ma un livello «adeguato» che consenta al deployer di interpretare l'output e usare il sistema appropriatamente. Questo standard funzionale implica che il livello di dettaglio delle istruzioni deve essere commisurato alla complessità del sistema e alla competenza tecnica attesa del deployer. Un sistema di IA ad alto rischio destinato a essere usato da medici specialisti in un contesto clinico strutturato potrà avere istruzioni più tecniche; un sistema usato da operatori di front-office di uno sportello pubblico richiederà istruzioni più operative e meno specialistiche.
Il criterio di accessibilità e comprensibilità delle istruzioni (par. 2) impone un giudizio sul destinatario concreto: chi è il deployer tipico? Che competenze tecniche ha? Il fornitore non può scrivere istruzioni comprensibili solo da ingegneri del machine learning se il deployer atteso è un'amministrazione pubblica con competenze informatiche generali.
Obblighi del fornitore vs. obblighi del deployer
L'art. 13 genera obblighi esclusivamente in capo al fornitore: è lui che deve progettare il sistema con sufficiente trasparenza e redigere le istruzioni per l'uso. Il deployer, tuttavia, ha obblighi derivati: in base all'art. 26, deve usare il sistema conformemente alle istruzioni ricevute, deve formare il proprio personale, non deve modificare la finalità prevista senza passare attraverso le procedure previste per il fornitore. Un deployer che ignora le istruzioni per l'uso o le considera facoltative, magari perché sono tecnicamente complesse, si espone a responsabilità propria per ogni danno causato dall'uso del sistema al di fuori dei limiti documentati.
Una nota critica per i deployer che sono anche parzialmente fornitori (art. 25): chi modifica in misura sostanziale un sistema acquistato da terzi o ne cambia la finalità prevista, diventa a sua volta fornitore ai sensi del regolamento e deve predisporre proprie istruzioni per l'uso aggiornate.
Raccordo con il GDPR e con altri obblighi informativi
Quando il sistema di IA ad alto rischio tratta dati personali — come quasi sempre accade nei sistemi di biometria, di valutazione del credito, di selezione del personale o di accesso ai servizi pubblici — l'obbligo di trasparenza dell'art. 13 AI Act si affianca all'obbligo di informativa ai sensi degli artt. 13 e 14 del Regolamento (UE) 2016/679 (GDPR). Il raccordo non è automatico: le informazioni richieste dall'AI Act riguardano il deployer (soggetto professionale), mentre quelle richieste dal GDPR riguardano l'interessato (persona fisica i cui dati sono trattati). Il fornitore deve curare entrambe le dimensioni, senza presumere che l'una assorba l'altra. In concreto, il deployer che riceve le istruzioni per l'uso ai sensi dell'art. 13 AI Act dovrà integrare le informazioni pertinenti nelle proprie informative agli utenti finali, nella misura in cui queste riguardino il trattamento dei loro dati.
Profilo sanzionatorio e rischi operativi
La violazione degli obblighi dell'art. 13 — in quanto inadempimento dei requisiti della sezione 2 del capo III — espone il fornitore alle sanzioni previste dall'art. 99, paragrafo 4, del regolamento (applicabili alle infrazioni diverse da quelle dell'art. 5 e dagli obblighi relativi agli organismi notificati). Il deployer che non osserva le istruzioni ricevute si espone alle sanzioni previste dall'art. 99, paragrafo 5. Sul piano operativo, il rischio più immediato è diverso dalla sanzione: un sistema ad alto rischio usato senza adeguata comprensione delle sue prestazioni e dei suoi limiti è intrinsecamente più pericoloso, e ogni danno causato dall'uso improprio può dare luogo a responsabilità civili — sia del fornitore per istruzioni inadeguate, sia del deployer per mancata osservanza delle istruzioni ricevute.
Casi pratici
Caso 1:
Caso 2:
Caso 3:
Domande frequenti
Le istruzioni per l'uso dell'art. 13 devono essere in italiano se il sistema è usato in Italia?
Il regolamento richiede che le istruzioni siano in un formato appropriato e comprensibili per i deployer. Gli Stati membri possono richiedere che le istruzioni siano redatte o tradotte nella lingua nazionale. In generale, per sistemi destinati a deployer italiani, la disponibilità delle istruzioni in italiano è considerata necessaria per soddisfare il requisito di comprensibilità.
Un fornitore può includere nelle istruzioni per l'uso riferimenti a documentazione tecnica separata?
Sì, purché la documentazione richiamata sia effettivamente accessibile al deployer e il richiamo non renda le istruzioni incomplete nella sostanza. L'art. 13 richiede che le istruzioni siano concise, complete, corrette e chiare: un rinvio a centinaia di pagine di documentazione tecnica non accessibile ai non specialisti non soddisfa il requisito di completezza funzionale.
Il deployer può modificare la finalità prevista descritta nelle istruzioni per l'uso?
No, non senza conseguenze giuridiche. Se il deployer cambia sostanzialmente la finalità prevista o modifica il sistema al di là di quanto consentito, diventa fornitore ai sensi dell'art. 25 del regolamento e deve svolgere una nuova valutazione della conformità, predisporre propria documentazione tecnica e istruzioni per l'uso aggiornate.
Cosa succede se le istruzioni per l'uso si rivelano incomplete dopo che il sistema è già in uso?
Il fornitore ha l'obbligo di aggiornare le istruzioni quando vengono individuate circostanze note o prevedibili precedentemente non documentate. In base all'art. 72, il fornitore deve svolgere attività di monitoraggio post-market e, quando emergono rischi non previsti, deve agire per correggerli, incluso l'aggiornamento delle istruzioni. Il deployer deve essere informato delle modifiche rilevanti.
Le istruzioni per l'uso ai sensi dell'art. 13 sostituiscono l'informativa GDPR verso gli utenti finali?
No. Le istruzioni dell'art. 13 sono destinate al deployer (soggetto professionale che usa il sistema) e non agli utenti finali (persone fisiche i cui dati vengono elaborati). L'informativa GDPR verso gli interessati resta obbligatoria in capo al deployer, che è titolare del trattamento, e deve essere redatta separatamente, integrando le informazioni pertinenti derivate dalle istruzioni ricevute dal fornitore.
Vedi anche