Vier risiconiveaus voor AI-systemen

De AI Act classificeert AI-systemen in vier risiconiveaus:

• Minimaal risico: zoals spamfilters, die niet onder regelgeving vallen.
• Beperkt risico: klantenservice-chatbots, die onder lichte regelgeving vallen.
• Hoog risico: AI-systemen in de medische sector of financiële dienstverlening, die streng gereguleerd worden.
• Onaanvaardbaar risico: toepassingen die volledig verboden zijn.

Welke toepassingen zijn verboden?

Onder de verboden toepassingen vallen:

• AI gebruikt voor sociale scores, zoals het Chinese systeem.
• AI die menselijke beslissingen op een subliminale of misleidende manier manipuleert.
• AI die kwetsbaarheden exploiteert, zoals leeftijd of sociaaleconomische status.
• Criminele voorspellingen op basis van iemands uiterlijk.
• Emotieherkenning op de werkplek of op school.
• Het creëren of uitbreiden van gezichtsdatabases door middel van online scraping.

Bedrijven die deze regels overtreden, riskeren boetes tot 35 miljoen euro of 7% van hun jaarlijkse omzet.

Welke impact heeft dit op digitale bedrijven?

Hoewel sommige technologiebedrijven de regelgeving hebben voorzien en in september het "AI Pact" ondertekenden (waaronder Amazon, Google en OpenAI), hebben anderen zoals Meta, Apple en de Franse startup Mistral ervoor gekozen niet deel te nemen. Toch zullen alle bedrijven zich aan de verboden moeten houden, op straffe van sancties.

Naast naleving van de regels roept deze regelgeving enkele belangrijke vraagstukken op:

• Complexiteit van de implementatie: de interactie met andere wetgevingen (zoals GDPR, DORA, NIS2) brengt uitdagingen met zich mee, vooral op het gebied van incidentmeldingen.
• Innovatie en concurrentievermogen: Europese startups kunnen geremd worden door zware verplichtingen, terwijl bedrijven buiten de EU bepaalde regels kunnen omzeilen.
• Uitzonderingen voor openbare veiligheid: sommige verboden toepassingen kunnen onder strikte voorwaarden worden toegestaan, bijvoorbeeld bij opsporingszaken of vermiste personen.

Naar een wereldwijde AI-governance?

De AI Act vormt een regelgevend kader dat andere regio’s ter wereld zou kunnen inspireren. De vraag blijft echter in hoeverre deze regelgeving zich kan aanpassen aan de snelle evolutie van AI-technologieën en of de EU haar normen internationaal kan opleggen.

Met de volgende nalevingsdeadlines in augustus, zal de digitale sector zich snel moeten aanpassen om innovatie te combineren met naleving van de nieuwe regelgeving.