Il 2 febbraio 2025, la legge europea sull'intelligenza artificiale (EAIA) ha introdotto importanti modifiche, rendendo illegali alcune pratiche di IA in tutta l'UE. Le aziende olandesi devono ora rispettare norme rigorose sui sistemi di IA che possono utilizzare.
Le aziende che non eliminano gli strumenti di intelligenza artificiale vietati rischiano pesanti multe e potenziali azioni legali da parte di chiunque subisca danni.
A partire da febbraio 2025, nei Paesi Bassi sono vietati i sistemi di intelligenza artificiale che manipolano le persone, utilizzano punteggi sociali, categori gli individui in base a dati biometrici o impiegano il riconoscimento facciale in tempo reale negli spazi pubblici. Tali divieti si estendono anche alle tecnologie di riconoscimento delle emozioni nei luoghi di lavoro e nelle scuole, nonché alla raccolta indiscriminata di immagini facciali da Internet per la creazione di database di riconoscimento.
Le regole sono immediatamente applicabili, senza concedere alle aziende alcun periodo di tolleranza per eliminare gradualmente questi sistemi. Comprendere quali pratiche di intelligenza artificiale sono vietate e quali misure deve adottare la tua organizzazione è essenziale per evitare sanzioni.
Questa guida illustra i divieti specifici, delinea gli obblighi di conformità a cui siete soggetti in quanto aziende olandesi e illustra i requisiti di formazione necessari per operare legalmente secondo la nuova legge.
Panoramica dei divieti del febbraio 2025
Il Regolamento (UE) 2024/1689, noto come Legge UE sull'IA , ha introdotto divieti specifici su determinate pratiche di intelligenza artificiale, entrati in vigore il 2 febbraio 2025. Queste norme si applicano alla tua azienda olandese se sviluppi, implementi o utilizzi sistemi di IA nei Paesi Bassi o nell'Unione Europea.
Ambito delle pratiche di intelligenza artificiale vietate
La legge sull'intelligenza artificiale vieta specifiche pratiche di intelligenza artificiale che presentano rischi inaccettabili per i diritti fondamentali e i valori europei. L'articolo 5 del regolamento (UE) 2024/1689 individua tali pratiche vietate in base al loro potenziale danno, piuttosto che alla tecnologia in sé.
Le principali categorie proibite includono:
- Sistemi di intelligenza artificiale manipolativa che sfruttano le vulnerabilità di gruppi specifici
- Sistemi di punteggio sociale dalle autorità pubbliche
- Identificazione biometrica remota in tempo reale in spazi accessibili al pubblico per legge applicazione (con limitate eccezioni)
- Sistemi di categorizzazione biometrica che deducono attributi sensibili
- Raschiatura non mirata di immagini facciali da Internet o filmati di telecamere a circuito chiuso
La tua attività rientra in questi divieti, indipendentemente dal fatto che tu operi come fornitore, distributore o distributore di intelligenza artificiale nei Paesi Bassi. L'Autorità olandese per la protezione dei dati collabora con altri organismi preposti all'applicazione della normativa dell'Unione europea per garantire il rispetto delle norme.
La mancata conformità comporta multe fino al 7% del fatturato annuo mondiale.
Date di efficacia e periodi di transizione
I divieti di cui all'articolo 5 sono entrati in vigore il 2 febbraio 2025. Ciò significa che la tua azienda deve conformarsi immediatamente a queste norme se utilizza o sviluppa sistemi di intelligenza artificiale pertinenti.
Il quadro normativo di applicazione segue una tempistica scaglionata. Le sanzioni complete, le strutture di governance e le disposizioni in materia di riservatezza entreranno in vigore a partire dal 2 agosto 2025.
Ciò concede alla vostra organizzazione una finestra temporale di sei mesi durante la quale le norme saranno applicabili, ma i meccanismi di applicazione completi dovranno ancora essere definiti. La Commissione Europea ha pubblicato linee guida ufficiali il 4 febbraio 2025 per chiarire il funzionamento pratico di questi divieti.
Le autorità di vigilanza del mercato, tra cui l'Autorità olandese per la protezione dei dati, hanno acquisito la responsabilità di monitorare e far rispettare queste norme a partire dalla data di entrata in vigore di febbraio.
Definizioni chiave: sistemi e pratiche di intelligenza artificiale
Ai sensi dell'AI Act, per sistema di intelligenza artificiale si intende un software che utilizza l'apprendimento automatico, approcci basati sulla logica o metodi statistici per generare risultati come previsioni, raccomandazioni o decisioni. Questa definizione è volutamente ampia per includere le tecnologie attuali ed emergenti.
Una pratica di intelligenza artificiale vietata si riferisce a specifiche modalità di implementazione o utilizzo dell'intelligenza artificiale che l'Unione Europea ha ritenuto inaccettabili. Il divieto si applica alla pratica stessa, non alla tecnologia sottostante.
Ciò significa che potresti utilizzare lo stesso sistema di intelligenza artificiale per scopi consentiti, pur essendo escluso da determinate applicazioni. La tua azienda deve distinguere tra il sistema di intelligenza artificiale (la tecnologia) e la sua pratica (il modo in cui lo utilizzi).
Un sistema di intelligenza artificiale per il riconoscimento facciale potrebbe essere lecito per il controllo degli accessi agli edifici, ma vietato per la sorveglianza in tempo reale negli spazi pubblici. Il contesto e l'applicazione ne determinano la legalità ai sensi del Regolamento (UE) 2024/1689.
Elenco dettagliato delle pratiche di intelligenza artificiale vietate
La legge europea sull'intelligenza artificiale (AI Act) vieta specifiche applicazioni di IA che presentano rischi inaccettabili per i diritti fondamentali e la sicurezza. Queste pratiche vietate rientrano in tre categorie principali: sistemi che manipolano il comportamento umano, sistemi che sfruttano gruppi vulnerabili e meccanismi che consentono la sorveglianza di massa tramite l'attribuzione di punteggi sociali.
Sistemi manipolativi e ingannevoli
L'AI Act vieta qualsiasi sistema di intelligenza artificiale che utilizzi tecniche subliminali per distorcere materialmente il comportamento umano in modi che possano causare danni. Si tratta di metodi che agiscono al di là della consapevolezza cosciente per influenzare le decisioni o le azioni dell'utente.
Le pratiche manipolative proibite includono:
- Sistemi di intelligenza artificiale che distribuiscono componenti subliminali che non puoi rilevare
- Sistemi progettati per sfruttare le vulnerabilità legate all'età nei bambini
- Tecnologie che manipolano il comportamento per causare danni fisici o psicologici
Non è consentito utilizzare l'intelligenza artificiale per ingannare deliberatamente le persone in modi che causino danni significativi . Ciò significa che la tua azienda non può implementare chatbot o assistenti virtuali che traggano in inganno gli utenti sulla loro natura di intelligenza artificiale, qualora tale inganno possa provocare danni.
Il divieto si estende ai sistemi di intelligenza artificiale che utilizzano tecniche ingannevoli o manipolazioni psicologiche per spingere gli utenti verso scelte dannose. La legge protegge gli individui dalle pratiche di intelligenza artificiale che aggirano il processo decisionale razionale.
Se il tuo sistema di intelligenza artificiale influenza il comportamento attraverso manipolazioni nascoste anziché informazioni trasparenti, viola la legge.
Sfruttamento di individui vulnerabili
I sistemi di intelligenza artificiale che sfruttano vulnerabilità legate all'età, alla disabilità o alle circostanze sociali o economiche sono severamente vietati. Non è possibile utilizzare l'intelligenza artificiale per trarre vantaggio da persone che non hanno la capacità di comprendere o resistere alla manipolazione.
Questo divieto riguarda l'intelligenza artificiale che sfrutta l'inesperienza dei bambini o il declino cognitivo degli anziani. La tua azienda non può implementare sistemi che sfruttano disabilità fisiche o mentali per manipolare il comportamento.
Anche l'intelligenza artificiale che sfrutta la disperazione economica o l'isolamento sociale rientra in questo divieto.
I gruppi vulnerabili protetti includono:
- Bambini e minorenni
- Persone anziane con disabilità cognitive
- Persone con disabilità fisiche o mentali
- Individui che affrontano difficoltà economiche
Il divieto si applica quando il sistema di intelligenza artificiale (IA) causa o è probabile che causi danni significativi attraverso lo sfruttamento. È necessario valutare se le applicazioni di IA potrebbero colpire ingiustamente popolazioni vulnerabili.
Punteggio sociale e profilazione comportamentale
La legge sull'intelligenza artificiale vieta i sistemi di intelligenza artificiale che valutano o classificano le persone in base al loro comportamento sociale o alle loro caratteristiche personali. Non è consentito utilizzare meccanismi di punteggio sociale che portino a trattamenti ingiusti o danni.
Il punteggio sociale consiste nel valutare gli individui in base alla loro condotta, alle loro relazioni o al comportamento previsto. Questo crea profili che determinano l'accesso a servizi, opportunità o diritti.
Le attività di punteggio sociale vietate includono:
- Valutazione dei cittadini in base al comportamento sociale o professionale
- Creazione di punteggi di affidabilità dai dati personali
- Prevedere il comportamento criminale in base alla profilazione
- Negazione dei servizi in base a valutazioni comportamentali
Non è possibile implementare sistemi di intelligenza artificiale che assegnino punteggi per determinare se un individuo riceve assistenza sanitaria, istruzione, lavoro o servizi finanziari. Il divieto si applica indipendentemente dal fatto che questi sistemi vengano gestiti da un ente pubblico o da un'azienda privata.
Anche l'identificazione biometrica remota in tempo reale negli spazi pubblici è soggetta a severi divieti, con limitate eccezioni per le forze dell'ordine.
Divieti su intelligenza artificiale basata su dati biometrici, riconoscimento facciale e emozioni
La legge europea sull'intelligenza artificiale vieta diverse tipologie di sistemi biometrici e di riconoscimento facciale che rappresentano un rischio per i diritti fondamentali . Tali divieti influiscono sul modo in cui le aziende olandesi possono utilizzare dati biometrici , database di riconoscimento facciale, strumenti di riconoscimento delle emozioni e sistemi di identificazione in tempo reale negli spazi pubblici.
Categorizzazione biometrica e utilizzo dei dati
Non è possibile utilizzare sistemi di intelligenza artificiale che categorizzano le persone in base ai loro dati biometrici per dedurne razza, opinioni politiche, appartenenza sindacale, convinzioni religiose o orientamento sessuale. Questo divieto si applica quando questi sistemi vengono immessi sul mercato, messi in servizio o utilizzati per questo scopo specifico.
Il divieto riguarda i sistemi che traggono conclusioni sensibili sugli individui tramite l'analisi biometrica. La tua azienda rischia sanzioni fino al 7% del fatturato annuo mondiale in caso di inadempienza.
Esiste un'eccezione a questa regola. È possibile etichettare o filtrare set di dati biometrici acquisiti legalmente, come le immagini, in base ai dati biometrici utilizzati dalle forze dell'ordine.
Al di fuori delle forze dell'ordine, queste pratiche di categorizzazione restano completamente vietate.
Restrizioni sulle tecnologie di riconoscimento facciale
Non è possibile creare o espandere database di riconoscimento facciale tramite lo scraping non mirato di immagini facciali da Internet o da filmati di telecamere a circuito chiuso. Questo divieto è entrato in vigore il 2 febbraio 2025.
Affinché questo divieto possa essere applicato devono sussistere quattro condizioni:
- La pratica prevede il posizionamento, la manutenzione o l'utilizzo di un sistema di intelligenza artificiale
- Lo scopo è quello di creare o espandere database di riconoscimento facciale
- Il metodo utilizza lo scraping non mirato delle immagini facciali
- Le fonti dei dati sono Internet o filmati CCTV
La parola chiave è "non mirato". Non è possibile raccogliere immagini facciali in modo ampio e indiscriminato.
Ciò significa che non è possibile installare telecamere nei supermercati o nelle aree pubbliche che raccolgono automaticamente i volti per creare database di riconoscimento senza criteri di targeting specifici.
Riconoscimento delle emozioni nell'occupazione e nell'istruzione
Non è possibile utilizzare sistemi di intelligenza artificiale per dedurre le emozioni delle persone nei luoghi di lavoro e negli istituti scolastici. Questo divieto riguarda direttamente i dipartimenti delle risorse umane, le scuole e i centri di formazione che potrebbero prendere in considerazione strumenti di rilevamento delle emozioni.
Il divieto riguarda qualsiasi sistema di intelligenza artificiale progettato per leggere o interpretare gli stati emotivi in questi specifici contesti. Non fa differenza se si utilizzi l'analisi facciale, il riconoscimento vocale o altri indicatori biometrici.
Esiste una piccola eccezione. È possibile utilizzare l'intelligenza artificiale per il riconoscimento delle emozioni se serve a scopi medici o di sicurezza.
Ad esempio, il monitoraggio dello stato di allerta del conducente per motivi di sicurezza o il rilevamento del disagio del paziente in ambito sanitario possono rientrare in questa eccezione.
Limitazioni all'identificazione biometrica remota
Non è possibile utilizzare sistemi di identificazione biometrica remota in tempo reale in spazi accessibili al pubblico per finalità di polizia, salvo in circostanze strettamente definite. Tali eccezioni includono la ricerca di vittime di rapimento o tratta, la prevenzione di minacce imminenti alla vita o di attacchi terroristici e la localizzazione di sospettati di reati gravi punibili con almeno quattro anni di reclusione.
Ogni utilizzo richiede la previa autorizzazione di un'autorità giudiziaria o di un organismo amministrativo indipendente. In situazioni di urgenza, è possibile iniziare l'utilizzo senza autorizzazione, ma è necessario richiederne l'approvazione entro 24 ore.
Se le autorità negano l'autorizzazione, è necessario interrompere immediatamente l'utilizzo del sistema e cancellare tutti i dati. I Paesi Bassi possono stabilire norme dettagliate per queste eccezioni nell'ambito del diritto nazionale.
La tua azienda deve notificare ogni utilizzo all'autorità di vigilanza del mercato competente e all'autorità nazionale per la protezione dei dati. Gli Stati membri presentano relazioni annuali sull'utilizzo dell'identificazione biometrica remota in tempo reale alla Commissione europea.
Obblighi di conformità per le aziende olandesi
Le aziende olandesi devono adottare misure concrete per conformarsi alle normative sull'IA, identificando i sistemi vietati, rimuovendoli dalle proprie attività e mantenendo un'adeguata documentazione. L' Autorità olandese per la protezione dei dati e l'Autorità olandese per le infrastrutture digitali faranno rispettare tali requisiti, prevedendo sanzioni significative per le violazioni.
Identificazione dell'IA proibita all'interno delle operazioni
È necessario condurre valutazioni approfondite dei rischi all'interno dell'organizzazione per individuare i sistemi di intelligenza artificiale che potrebbero violare le nuove norme. Ciò significa esaminare qualsiasi tecnologia che utilizzi tecniche di manipolazione, sfrutti vulnerabilità, implementi il social scoring o effettui identificazioni biometriche in tempo reale negli spazi pubblici.
Inizia creando un inventario di tutti i sistemi di intelligenza artificiale attualmente in uso. Documenta cosa fa ogni sistema, come elabora i dati e chi ne è interessato.
Prestate particolare attenzione ai sistemi che interagiscono con clienti, dipendenti o pubblico. Le vostre valutazioni del rischio dovrebbero valutare se un sistema potrebbe ledere i diritti fondamentali.
Ciò include la verifica se i sistemi di intelligenza artificiale prendono decisioni sulle persone in base al comportamento, alle caratteristiche personali o alle relazioni sociali. I sistemi che tracciano o profilano gli individui senza trasparenza richiedono una revisione immediata.
Collabora con i tuoi team tecnici per comprendere il funzionamento di ciascun sistema di intelligenza artificiale. Non puoi affidarti esclusivamente alle descrizioni dei fornitori.
L'autorità olandese per la protezione dei dati ha chiarito che la responsabilità della conformità spetta a te indipendentemente dal fatto che tu abbia costruito il sistema o lo abbia acquistato da terzi.
Eliminazione graduale o rimozione dei sistemi di intelligenza artificiale vietati
È necessario interrompere immediatamente l'utilizzo di pratiche di intelligenza artificiale vietate. La legge non prevede alcun periodo di tolleranza per i sistemi vietati.
Se la valutazione del rischio individua una pratica vietata, è necessario disattivarla immediatamente. È necessario creare un piano di rimozione che tenga conto sia degli impatti tecnici che operativi.
Alcuni sistemi potrebbero essere integrati in piattaforme più grandi o connessi a più processi. È necessario assicurarsi che la rimozione degli elementi vietati non interferisca con le funzioni aziendali essenziali.
Prima di arrestare un sistema, stabilisci come gestirai le attività che svolgeva in precedenza. Questo potrebbe significare tornare a processi manuali, implementare tecnologie diverse o riprogettare completamente i flussi di lavoro.
Documenta ogni fase del processo di rimozione. Registra quando hai scoperto la pratica vietata, quali azioni hai intrapreso e quando il sistema è stato completamente disattivato.
Gli enti regolatori si aspetteranno prove evidenti che tu abbia agito tempestivamente una volta individuata la violazione.
Archiviazione e documentazione
È necessario conservare la documentazione tecnica che dimostri la conformità alle norme di divieto. Questa include la documentazione delle valutazioni dei rischi, delle decisioni sui sistemi di intelligenza artificiale e di qualsiasi modifica apportata per raggiungere la conformità.
La documentazione dovrebbe comprendere:
- Inventari di sistema con descrizioni di ciascuna applicazione di intelligenza artificiale
- Rapporti di valutazione del rischio mostrando la tua analisi delle potenziali violazioni
- Record di rimozione dettagliando quando e come hai disattivato i sistemi proibiti
- Valutazioni di impatto sui diritti fondamentali per tutti i casi limite
Conservare questi registri per almeno cinque anni. L'autorità olandese per la protezione dei dati può richiederli durante ispezioni o indagini.
La mancanza o l'incompletezza della documentazione può comportare sanzioni fino a 7,500,000 euro o l'1% del fatturato globale annuo. La documentazione tecnica deve essere sufficientemente dettagliata da consentire alle autorità di regolamentazione di comprendere il funzionamento dei sistemi di intelligenza artificiale e la loro conformità alla legge.
Descrizioni generiche o materiali di marketing non soddisfano questo requisito. Includi specifiche tecniche, flussi di dati e processi decisionali.
Aggiorna la documentazione ogni volta che modifichi i sistemi di intelligenza artificiale o ne implementi di nuovi. Sono necessari processi continui per garantire che i sistemi futuri non introducano pratiche vietate.
Requisiti di alfabetizzazione all'intelligenza artificiale e formazione del personale
A partire dal 2 febbraio 2025, le aziende olandesi che forniscono o implementano sistemi di intelligenza artificiale devono garantire che il proprio personale possieda un'adeguata competenza in materia di intelligenza artificiale. Questo obbligo si applica indipendentemente dal fatto che si utilizzino sistemi di intelligenza artificiale ad alto o basso rischio.
I programmi di formazione documentati devono essere adattati ai ruoli e alle competenze tecniche dei dipendenti.
L'obbligo di alfabetizzazione sull'intelligenza artificiale spiegato
L'articolo 4 della legge europea sull'IA impone a tutti i fornitori e implementatori di IA l' obbligo legale di garantire un'adeguata alfabetizzazione digitale del proprio personale. È necessario adottare misure per garantire che il personale e i collaboratori che lavorano con sistemi di IA comprendano la tecnologia con cui operano.
L'obbligo di alfabetizzazione in materia di IA riguarda chiunque gestisca, utilizzi o prenda decisioni sui sistemi di IA per vostro conto. Questo include il personale tecnico che sviluppa o gestisce i sistemi di IA, nonché i dipendenti non tecnici che utilizzano strumenti di IA nel loro lavoro quotidiano.
È necessario adattare la formazione sull'intelligenza artificiale al ruolo, alle conoscenze tecniche, all'esperienza, al livello di istruzione e al contesto specifico in cui si utilizzano i sistemi di intelligenza artificiale. Uno sviluppatore software che implementa modelli di intelligenza artificiale richiede una formazione diversa rispetto a un addetto al servizio clienti che utilizza chatbot basati sull'intelligenza artificiale.
L'obbligo richiede di fare del proprio meglio per garantire livelli di alfabetizzazione adeguati. Non è possibile limitarsi a offrire una formazione simbolica e dichiarare di aver rispettato le norme.
Sviluppo di programmi di formazione efficaci
Il programma di alfabetizzazione all'intelligenza artificiale dovrebbe concentrarsi sugli specifici sistemi di intelligenza artificiale utilizzati dalla tua organizzazione, anziché fornire informazioni generiche. Il personale deve comprendere il funzionamento degli specifici strumenti di intelligenza artificiale con cui lavora, i loro limiti e i potenziali rischi.
I contenuti della formazione dovrebbero riguardare:
- Concetti di base dell'intelligenza artificiale rilevanti per i tuoi sistemi
- Come utilizzare correttamente gli strumenti di intelligenza artificiale
- Potenziali distorsioni ed errori negli output dell'IA
- Quando è necessaria la supervisione umana
- Le politiche e le procedure di intelligenza artificiale della tua organizzazione
È necessario considerare il livello di conoscenza iniziale di ciascun dipendente. Il personale tecnico potrebbe aver bisogno di una formazione avanzata sullo sviluppo e il testing dei modelli, mentre gli utenti generici necessitano di una guida pratica per interpretare gli output dell'IA e riconoscere quando i risultati sembrano errati.
La formazione può assumere diverse forme, tra cui workshop, corsi online, coaching sul posto di lavoro o programmi esterni. Il formato è meno importante dell'assicurare che il personale acquisisca effettivamente le conoscenze e le competenze necessarie.
Documentazione delle attività di alfabetizzazione sull'intelligenza artificiale
È necessario conservare la documentazione relativa alle attività di formazione sull'alfabetizzazione in materia di IA per dimostrare la conformità con la legge europea sull'IA. Tale documentazione attesta l'adempimento degli obblighi di legge.
I tuoi documenti dovrebbero includere:
- Contenuti e materiali del programma di formazione
- Elenchi dei dipendenti che hanno completato la formazione
- Date e durata delle sessioni di formazione
- Risultati della valutazione (se applicabile)
- Come hai determinato i livelli di alfabetizzazione appropriati per i diversi ruoli
Documenta il tuo processo per identificare le esigenze di alfabetizzazione in materia di intelligenza artificiale all'interno della tua organizzazione. Questo include il modo in cui hai valutato quali membri del personale necessitano di formazione e quali conoscenze specifiche necessitano in base alla loro interazione con i sistemi di intelligenza artificiale.
Tieni traccia di come aggiorni la formazione man mano che i tuoi sistemi di intelligenza artificiale cambiano o che nuovo personale entra a far parte della tua organizzazione. La competenza in materia di intelligenza artificiale non è un requisito una tantum, ma un obbligo continuo che deve adattarsi all'evoluzione dell'uso della tecnologia di intelligenza artificiale.
Supervisione, applicazione e sanzioni
La legge europea sull'intelligenza artificiale (IA) istituisce una struttura di controllo a più livelli con significative sanzioni finanziarie per la non conformità. Le aziende olandesi sono soggette alla supervisione sia delle autorità nazionali che di quelle europee, con multe che possono arrivare fino al 7% del fatturato annuo mondiale per pratiche di IA vietate.
Autorità di vigilanza olandesi e dell'UE
L'Autorità olandese per la protezione dei dati personali (Olanda Data Protection Authority) è il principale organismo di controllo nazionale per l'applicazione della legge sull'intelligenza artificiale nei Paesi Bassi. Questa autorità collabora con altri organismi di vigilanza del mercato olandesi designati per monitorare il rispetto del regolamento.
A livello europeo, la Commissione europea supervisiona l'attuazione della legge sull'intelligenza artificiale in tutti gli Stati membri. L'Ufficio europeo per l'intelligenza artificiale, istituito presso la Commissione, coordina le attività di applicazione e fornisce consulenza tecnica.
Il Comitato europeo per la protezione dei dati (EDPB) sostiene l'applicazione coerente della legge, in particolare quando i sistemi di intelligenza artificiale comportano il trattamento di dati personali. Queste autorità collaborano per garantire un'applicazione uniforme in tutta l'Unione europea.
Se gestisci sistemi di intelligenza artificiale in più paesi dell'UE, potresti essere sottoposto a controlli da parte degli organi di vigilanza in ogni giurisdizione in cui i tuoi sistemi sono implementati o hanno effetto.
Sanzioni e responsabilità civile
Le violazioni delle pratiche vietate dall'Articolo 5 comportano sanzioni fino a 35 milioni di euro o al 7% del fatturato annuo mondiale totale, a seconda di quale sia l'importo più elevato. Tali sanzioni si applicano a partire dal 2 febbraio 2025.
La Corte di giustizia dell'Unione europea (CGUE) detiene l'autorità ultima per interpretare le disposizioni della legge sull'intelligenza artificiale. I tribunali nazionali possono sottoporre questioni alla CGUE in caso di controversie su cosa costituisca una pratica vietata.
Oltre alle sanzioni amministrative, potresti dover affrontare azioni di responsabilità civile da parte di individui o organizzazioni danneggiati da sistemi di intelligenza artificiale non conformi. Gli Stati membri possono stabilire sanzioni aggiuntive ai sensi della propria legislazione nazionale.
Linee guida degli organismi europei e nazionali
Il 4 febbraio 2025 la Commissione europea ha pubblicato le linee guida sulle pratiche vietate in materia di intelligenza artificiale. Questi documenti spiegano come le autorità interpreteranno i divieti di cui all'articolo 5 e forniscono esempi pratici di conformità.
Sebbene queste linee guida non siano vincolanti, offrono spunti preziosi sulle priorità di applicazione. Solo la CGUE può fornire interpretazioni giuridiche autorevoli.
Le autorità di vigilanza olandesi potrebbero emanare ulteriori linee guida nazionali adattate ai contesti aziendali locali. È opportuno monitorare gli aggiornamenti provenienti sia dagli organismi europei che da quelli olandesi, man mano che si evolvono gli approcci di controllo.
Le linee guida sono disponibili in tutte le lingue dell'UE per favorire la comprensione transfrontaliera.
Domande frequenti
La legge europea sull'intelligenza artificiale introduce requisiti e restrizioni specifici che interesseranno le aziende olandesi a partire da febbraio 2025. Tali normative vietano determinate pratiche di intelligenza artificiale, impongono misure di conformità e stabiliscono sanzioni per le violazioni.
Quali sono le nuove normative relative all'uso dell'intelligenza artificiale nelle aziende olandesi a partire da febbraio 2025?
La legge europea sull'intelligenza artificiale è entrata in vigore il 1° agosto 2024, mentre la prima serie di divieti entrerà in vigore il 2 febbraio 2025. Queste normative si applicano a tutte le aziende olandesi che sviluppano, distribuiscono o utilizzano sistemi di intelligenza artificiale all'interno dell'Unione europea.
La legge vieta i sistemi di intelligenza artificiale manipolativi che utilizzano tecniche subliminali per influenzare decisioni che normalmente le persone non prenderebbero. Sono vietati anche i sistemi di intelligenza artificiale che sfruttano vulnerabilità basate su età, disabilità o status socioeconomico.
I sistemi di punteggio sociale che valutano gli individui in base al loro comportamento sociale o alle loro caratteristiche personali sono completamente vietati. Le normative vietano anche le valutazioni del rischio basate sull'intelligenza artificiale che prevedono i crimini esclusivamente attraverso la profilazione o l'analisi dei tratti della personalità, anziché basarsi su fatti relativi all'attività criminale.
I sistemi di categorizzazione biometrica che deducono razza, opinioni politiche, appartenenza sindacale, credo religioso o orientamento sessuale da immagini del viso o impronte digitali non sono consentiti. L'identificazione biometrica remota in tempo reale negli spazi pubblici è vietata, salvo in situazioni rigorosamente definite e con specifica autorizzazione legale.
In che modo le linee guida olandesi sull'intelligenza artificiale del febbraio 2025 incidono sulla privacy dei dati e sulla protezione dei consumatori?
La legge sull'intelligenza artificiale si integra con le normative vigenti in materia di protezione dei dati, incluso il GDPR. L'Autorità olandese per la protezione dei dati fornisce indicazioni su come i sistemi di intelligenza artificiale debbano conformarsi alle norme sulla protezione dei dati, in particolare per quanto riguarda i processi decisionali automatizzati.
È vietato l'estrazione non mirata di immagini facciali da Internet o di filmati di telecamere per creare o ampliare database di riconoscimento facciale. Questa restrizione tutela il diritto alla privacy degli individui e impedisce la raccolta non autorizzata di dati biometrici.
I sistemi di intelligenza artificiale devono rispettare i diritti fondamentali durante tutto il loro ciclo di vita. Le autorità pubbliche e gli enti che forniscono servizi pubblici devono condurre una valutazione d'impatto sui diritti fondamentali quando utilizzano sistemi di intelligenza artificiale ad alto rischio.
Quali attività basate sull'intelligenza artificiale non sono più consentite alle aziende olandesi a causa delle recenti modifiche legislative?
La tua azienda non può utilizzare sistemi di riconoscimento delle emozioni in ambito lavorativo o educativo. Questi sistemi sono vietati, indipendentemente dai benefici o dai casi d'uso dichiarati.
Non è possibile implementare sistemi di intelligenza artificiale che manipolano le persone attraverso tecniche subliminali o sfruttano le loro vulnerabilità. Questo include sistemi che prendono di mira gli individui in base alla loro disabilità, status sociale o età per influenzarne il comportamento.
I sistemi di categorizzazione biometrica che classificano le persone in base a caratteristiche sensibili sono vietati. Non è possibile utilizzare l'intelligenza artificiale per dedurre la razza, le opinioni politiche, le convinzioni religiose o l'orientamento sessuale di una persona dai suoi dati biometrici.
I sistemi di punteggio sociale sono completamente vietati. Non è possibile implementare un'intelligenza artificiale che valuti o classifichi le persone in base al loro comportamento sociale o alle loro caratteristiche personali.
L'identificazione biometrica remota in tempo reale in spazi accessibili al pubblico è vietata per uso commerciale. Le forze dell'ordine possono utilizzare tali sistemi solo in circostanze strettamente definite e con la dovuta autorizzazione legale.
Quali misure devono adottare le aziende olandesi per allineare i propri sistemi di intelligenza artificiale agli standard di conformità stabiliti nel febbraio 2025?
È necessario identificare tutti i sistemi di intelligenza artificiale attualmente utilizzati o implementati dalla propria organizzazione. Questo inventario dovrebbe classificare ciascun sistema in base alle classificazioni di rischio definite nell'AI Act.
Esamina i tuoi sistemi di intelligenza artificiale rispetto all'elenco delle pratiche vietate. Se utilizzi sistemi vietati, devi eliminarli immediatamente per evitare sanzioni normative.
Documenta le finalità, le fonti dei dati e i processi decisionali dei tuoi sistemi di intelligenza artificiale. Questa documentazione contribuisce a dimostrare la conformità e supporta eventuali valutazioni d'impatto richieste.
Per i sistemi di intelligenza artificiale ad alto rischio, sono necessarie ulteriori misure di conformità. Le autorità pubbliche devono registrare i sistemi ad alto rischio nella banca dati europea entro il 2 agosto 2026 e condurre valutazioni d'impatto sui diritti fondamentali.
Formate il vostro personale sui nuovi requisiti e definite processi interni per il monitoraggio continuo della conformità. Il vostro programma di conformità dovrebbe includere revisioni periodiche dei sistemi di intelligenza artificiale per garantire che rimangano entro i limiti normativi.
Esistono divieti specifici per settore in materia di intelligenza artificiale di cui le aziende olandesi dovrebbero essere a conoscenza in seguito alle nuove normative?
Le organizzazioni del settore dell'istruzione sono soggette a restrizioni specifiche. Non è possibile utilizzare sistemi di riconoscimento delle emozioni per monitorare gli studenti o valutarne lo stato emotivo, indipendentemente dal beneficio educativo previsto.
Gli ambienti di lavoro presentano limitazioni simili. I datori di lavoro non possono utilizzare l'intelligenza artificiale per il riconoscimento delle emozioni per monitorare gli stati emotivi o le reazioni dei dipendenti durante le attività lavorative.
Le forze dell'ordine prevedono eccezioni limitate per i sistemi di identificazione biometrica. Tali eccezioni richiedono una rigorosa autorizzazione legale e si applicano solo a situazioni specifiche, come la ricerca di vittime di sequestro, la prevenzione di minacce imminenti o il tracciamento di sospettati di reati gravi.
Le autorità pubbliche che forniscono servizi pubblici sono soggette a requisiti aggiuntivi rispetto ai divieti generali. È necessario condurre valutazioni d'impatto sui diritti fondamentali per tutti i sistemi di IA ad alto rischio e registrarli nella banca dati europea.
Quali sono le sanzioni per il mancato rispetto delle restrizioni olandesi sull'intelligenza artificiale introdotte nel febbraio 2025?
Le autorità di regolamentazione possono imporre sanzioni sostanziali in caso di inosservanza dell'AI Act. La struttura sanzionatoria segue un approccio graduale basato sulla gravità della violazione.
L'utilizzo di sistemi di intelligenza artificiale vietati rappresenta la categoria di violazione più grave. La vostra organizzazione rischia sanzioni finanziarie significative se continuate a utilizzare sistemi vietati dopo la scadenza di febbraio 2025.
L'importo esatto della sanzione varia a seconda che l'organizzazione sia classificata come piccola e media impresa o come azienda di grandi dimensioni. Le autorità di regolamentazione prendono in considerazione fattori quali la natura della violazione, la sua durata e l'eventuale danno causato.
Oltre alle sanzioni pecuniarie, la non conformità può danneggiare la reputazione della vostra organizzazione. Le persone danneggiate da sistemi di intelligenza artificiale vietati possono perseguire ulteriori rimedi attraverso procedimenti civili.
L'Autorità olandese per la protezione dei dati e altri enti regolatori hanno poteri esecutivi. Possono indagare sui reclami, condurre audit e richiedere la cessazione immediata delle pratiche vietate.
