Wat is een hoog-risico-AI-systeem volgens de AI-verordening?
Kort antwoord
Een AI-systeem is volgens de AI-verordening (Regulation (EU) 2024/1689, de "AI-verordening" of "EU AI Act") hoog-risico wanneer het valt onder één van de twee categorieën van artikel 6 lid 1, of wanneer het door de Europese Commissie als zodanig wordt aangewezen op grond van artikel 7. Een smalle uitzondering geldt op grond van artikel 6 lid 2: systemen uit bijlage III die geen significant risico opleveren, hoeven niet als hoog-risico te worden behandeld, mits aan strikte voorwaarden is voldaan.
Wanneer is een AI-systeem hoog-risico?
De hoofdregel staat in artikel 6 lid 1 van de AI-verordening. Een AI-systeem wordt als hoog-risico aangemerkt als:
-
Productveiligheidsroute (artikel 6 lid 1, onder a): het systeem is bedoeld als veiligheidscomponent van een product, of is zelf een product, dat valt onder de in bijlage I opgesomde EU-harmonisatiewetgeving (denk aan de Machinerichtlijn, de Speelgoedrichtlijn, de Verordening medische hulpmiddelen, de Richtlijn liften, enz.). Een concreet voorbeeld is een AI-gestuurde noodrem in een auto.
-
Gebruikscategorieroute (artikel 6 lid 1, onder b): het systeem valt onder een van de in bijlage III genoemde toepassingsgebieden. Bijlage III bevat acht domeinen:
Nr. Domein (bijlage III) Voorbeelden 1 Biometrie remote-biometrische identificatie, emotieherkenning op het werk en op school 2 Kritieke infrastructuur veiligheidscomponenten voor water-, gas-, energie- of verkeersbeheer 3 Onderwijs en beroepsopleiding toelatingsbeslissingen, plagiaatdetectie, examinering 4 Werkgelegenheid, personeelsbeheer werving, screening van cv's, beslissingen over bevordering, ontslag, taakverdeling 5 Toegang tot essentiële particuliere en openbare diensten kredietwaardigheid, verzekeringen, alarmcentralediensten, sociale voorzieningen 6 Rechtshandhaving risicobeoordeling, profilering, evaluatie van bewijsmateriaal 7 Migratie, asiel en grensbeheer beoordeling van visumaanvragen, risicoprofilering van migranten 8 Rechtsbedeling en democratische processen rechterlijke besluitvorming, beïnvloeding van verkiezingen of stemmingen -
Dynamische uitbreiding (artikel 7): de Commissie kan via gedelegeerde handelingen bijlage III aanvullen of aanpassen wanneer nieuwe risicovolle toepassingen ontstaan of bestaande risico's veranderen.
De uitzondering van artikel 6 lid 2
Voor systemen die uitsluitend onder bijlage III vallen (dus niet voor producten uit bijlage I) geldt een uitzondering. Een dergelijk systeem hoeft niet als hoog-risico te worden behandeld als het geen significant risico oplevert voor de gezondheid, veiligheid of grondrechten van natuurlijke personen, en de uitkomst van besluitvorming niet materieel beïnvloedt. Dit moet de aanbieder zelf beoordelen en documenteren, hij moet het systeem registreren bij de toezichthouder, en hij moet op verzoek aantonen dat aan de uitzonderingsvoorwaarden is voldaan.
Belangrijk: artikel 6 lid 3 bepaalt dat de uitzondering niet beschikbaar is voor AI-systemen die worden gebruikt voor biometrische identificatie of categorisatie van natuurlijke personen of voor emotieherkenning — die zijn altijd hoog-risico.
Wat betekent hoog-risico in de praktijk?
Een hoog-risico AI-systeem moet voldoen aan een uitgebreid pakket verplichtingen uit hoofdstuk III (artikelen 8–27), waaronder:
- een risicobeheersysteem gedurende de hele levenscyclus (artikel 9);
- datakwaliteit, representativiteit en minimalisatie van discriminatie (artikel 10);
- technische documentatie en conformiteitsbeoordeling vóór markttoegang (artikelen 11, 43 en 47);
- automatische logregistratie (artikel 12);
- transparantie en gebruiksinstructies voor gebruikers (artikelen 13 en 14);
- menselijk toezicht (artikel 14);
- passende nauwkeurigheid, robuustheid en cyberbeveiliging (artikel 15);
- registratie in de EU-database voor hoog-risico systemen (artikel 49 en 71).
Aanbieders (providers) en gebruikers (deployers) hebben ieder hun eigen verplichtingen. Niet-naleving kan leiden tot boetes tot 15 miljoen euro of 3% van de wereldwijde jaaromzet (artikel 99).
Samenvattend
Een AI-systeem is hoog-risico als het ofwel een veiligheidscomponent is van een product onder bijlage I-wetgeving, ofwel wordt gebruikt in een van de acht domeinen van bijlage III. Een smalle uitzondering is mogelijk voor bijlage III-systemen zonder significant risico, mits goed gedocumenteerd. Voor de meeste concrete toepassingen — een AI-systeem dat cv's screent, kredietwaardigheid beoordeelt of een AI-ondersteunde medische diagnose stelt — betekent dit dat de zwaarste verplichtingen uit de AI-verordening gelden.
Bronnen
- Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), Publicatieblad EU, L 2024/1689 van 12 juli 2024 — toegangspoort tot de officiële tekst en alle artikelen op EUR-Lex: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32024R1689.
- Artikelen 6 en 7 (classificatie hoog-risico) en bijlagen I en III zijn bereikbaar via de inhoudsopgave van de verordening op bovenstaande EUR-Lex-pagina.
Belangrijke kanttekening
Bovenstaande weergave is een algemene, publieke toelichting en geen juridisch advies voor een concrete situatie. De toepassing van artikel 6 hangt sterk af van de feiten — laat u bij een specifiek AI-systeem altijd adviseren door een gespecialiseerd jurist, en raadpleeg de actuele tekst op EUR-Lex, aangezien de verordening gefaseerd in werking treedt (eerste toepasselijke data vanaf 2 februari 2025; de verplichtingen voor hoog-risico systemen uit hoofdstuk III worden later van kracht).