Definizione
Che cos’è Sistema AI ad alto rischio e come funziona?
La classificazione dipende da finalità e contesto, non dal fatto che il sistema sia potente o generativo. Richiede analisi giuridica e tecnica.
L’articolo 6 dell’AI Act individua due strade: sistemi che sono componenti di sicurezza di prodotti regolati dall’Allegato I, come macchine o dispositivi medici, e sistemi usati negli ambiti dell’Allegato III, tra cui selezione e gestione del personale, accesso al credito, istruzione e infrastrutture critiche. Un sistema dell’Allegato III può essere escluso se svolge solo compiti procedurali limitati e non influenza in modo sostanziale la decisione, ma la valutazione va documentata.
Esempio aziendale
Esempio di Sistema AI ad alto rischio in azienda
Prima di usare AI in una decisione sul lavoro, l’impresa verifica ruolo, finalità, allegati dell’AI Act e obblighi applicabili.
Applicazioni
Quando può essere utile
- valutazione di conformità
- gestione fornitori
- documentazione
- controllo umano
- monitoraggio
Limiti
Quando fare attenzione
- screening dei CV considerato semplice automazione
- componenti AI di sicurezza nelle macchine sottovalutati
- deroga dell’art. 6 usata senza documentarla
- tempistiche degli obblighi date per definitive
Da non confondere
Sistema AI ad alto rischio: con cosa non va confuso?
Alto rischio è una categoria normativa. Un rischio operativo elevato può esistere anche per sistemi non classificati allo stesso modo.
Dalla definizione al progetto
Cosa può realizzare Agentix con Sistema AI ad alto rischio
Per ogni sistema AI usato o sviluppato in azienda prepariamo una scheda tecnica con finalità, dati in ingresso, decisioni influenzate e persone coinvolte. È il materiale che serve ai consulenti legali del cliente per la classificazione, che resta una valutazione giuridica di loro competenza.
Quando un sistema risulta ad alto rischio, o probabilmente tale, implementiamo le misure tecniche: registrazione automatica degli eventi, interfacce di supervisione umana, controlli sulla qualità dei dati, documentazione tecnica del ciclo di vita e procedure di monitoraggio dopo il rilascio.
Imposta una governance AI concretaRisposte rapide
Domande frequenti su Sistema AI ad alto rischio
Un software AI per selezionare i CV è ad alto rischio?
Rientra tipicamente nell’Allegato III, che include i sistemi usati per assunzione e selezione, ad esempio per filtrare candidature o valutare candidati. Chi lo usa ha obblighi da deployer: seguire le istruzioni del fornitore, assicurare sorveglianza umana, conservare i log e informare i lavoratori interessati.
Da quando si applicano gli obblighi per l’alto rischio?
Il calendario originale dell’AI Act prevede scadenze scaglionate, ma le proposte UE di semplificazione note come digital omnibus potrebbero spostarle e legarle alla disponibilità di norme tecniche. Conviene verificare lo stato aggiornato prima di pianificare e intanto preparare inventario e documentazione.
Dal concetto all’applicazione
Vuoi applicare Sistema AI ad alto rischio nella tua azienda?
Partiamo dal processo, dai dati disponibili e dal risultato atteso per definire un primo progetto concreto.