De fasering op een rij
De Europese AI-verordening is in werking getreden op 1 augustus 2024 en wordt gefaseerd van toepassing.
| Datum | Wat van toepassing werd |
|---|---|
| 2 februari 2025 | Verbod op bepaalde AI-praktijken en de verplichting tot AI-geletterdheid |
| 2 augustus 2025 | Verplichtingen voor AI-modellen voor algemene doeleinden |
| 2 augustus 2026 | Het hoofdregime voor hoogrisico-AI |
Wat hoogrisico betekent
De verordening wijst categorieen aan waarin AI als hoogrisico geldt. Daaronder vallen onder meer systemen die worden gebruikt bij werving en selectie, bij beoordeling en promotie van personeel, bij toegang tot onderwijs, bij kredietwaardigheidsbeoordeling en bij bepaalde overheidstaken.
Veel organisaties gebruiken zulke systemen zonder ze als AI te bestempelen. Een screeningtool die sollicitaties rangschikt of een model dat aanvragen prioriteert, valt eerder binnen het bereik dan gedacht.
Wat de verplichtingen inhouden
- Een risicobeheersysteem dat gedurende de hele levensduur van het systeem wordt onderhouden.
- Eisen aan de kwaliteit van trainings-, validatie- en testdata.
- Technische documentatie en logging, zodat achteraf te reconstrueren is wat het systeem heeft gedaan.
- Menselijk toezicht dat daadwerkelijk kan ingrijpen.
- Transparantie richting de gebruikers van het systeem.
De verplichtingen verschillen naar rol. Een aanbieder die het systeem op de markt brengt draagt zwaardere lasten dan een gebruiksverantwoordelijke die het inzet, maar ook die laatste heeft eigen taken rond toezicht en gebruik conform de instructies.
Samenloop met de AVG
De AI-verordening komt bovenop de AVG en vervangt die niet. Verwerkt een AI-systeem persoonsgegevens, dan gelden de bekende verplichtingen onverkort: een grondslag, een verwerkersovereenkomst waar nodig, en bij hoog risico een gegevensbeschermingseffectbeoordeling.
Voor arbeidsrechtelijke toepassingen speelt daarnaast het verbod op uitsluitend geautomatiseerde besluitvorming met rechtsgevolgen. Een selectiebesluit dat volledig door een model wordt genomen, botst daarmee sneller dan een model dat een menselijke beoordelaar ondersteunt.
Dit artikel geeft algemene informatie en is geen juridisch advies. Regelgeving verandert; voor een concrete zaak is contact met een advocaat nodig.