EU AI-Verordening uitgelegd: Een Beginnersgids

Waarom is de EU AI-Verordening nodig?

Hoewel AI voordelen kan bieden voor de samenleving, brengen sommige AI-systemen risico’s met zich mee. Bijvoorbeeld, het is vaak moeilijk te begrijpen waarom een AI-systeem een specifieke beslissing neemt, wat het uitdagend maakt om eerlijkheid te beoordelen in situaties zoals werving of aanvragen voor overheidsuitkeringen. Bestaande wetgeving adresseert deze risico’s niet adequaat.

Hoe werkt de EU AI-Verordening?

De EU AI-Verordening hanteert een risicogebaseerde benadering en classificeert AI-systemen in vier risicocategorieën:

• Onaanvaardbaar risico: AI-systemen die een duidelijk gevaar vormen voor de veiligheid, het levensonderhoud en de rechten van mensen zijn verboden. Dit omvat sociale scoring door overheden en speelgoed met spraakassistentie dat gevaarlijk gedrag aanmoedigt.
• Hoog risico: Deze AI-systemen worden gebruikt in kritieke gebieden zoals transport, onderwijs, gezondheidszorg, werkgelegenheid en wetshandhaving. Ze zijn onderworpen aan strikte verplichtingen voordat ze kunnen worden gebruikt.
• Beperkt risico: Deze AI-systemen, zoals chatbots, moeten transparant zijn zodat gebruikers weten dat ze met een machine communiceren.
• Minimaal of geen risico: Deze categorie omvat AI-gestuurde videogames en spamfilters. De meeste AI-systemen die in de EU worden gebruikt, vallen in deze categorie en zijn niet onderworpen aan regelgeving.

Belangrijkste Kenmerken van de EU AI-Verordening

• Verboden AI-Praktijken: De verordening verbiedt bepaalde AI-praktijken die als onaanvaardbaar worden beschouwd, zoals systemen die menselijk gedrag manipuleren, systemen die realtime biometrische identificatie in openbare ruimtes gebruiken en sociale scoringssystemen.
• Vereisten voor Hoogrisico AI-Systemen: Hoogrisico AI-systemen zijn onderworpen aan strikte verplichtingen voordat ze op de markt kunnen worden gebracht, waaronder risicobeoordelingen, datakwaliteitseisen, transparantie, menselijk toezicht en het loggen van activiteiten voor traceerbaarheid.
• Transparantievereisten: De verordening legt transparantieverplichtingen op voor specifieke AI-systemen. Bijvoorbeeld, gebruikers moeten worden geïnformeerd wanneer ze interactie hebben met AI-systemen zoals chatbots, en AI-gegenereerde inhoud moet herkenbaar zijn.
• Governance en Handhaving: Een Europees Comité voor Kunstmatige Intelligentie zal nationale samenwerking bevorderen en naleving waarborgen. Nationale bevoegde autoriteiten in elke lidstaat zullen de AI-Verordening handhaven.

Wat moeten ontwikkelaars en gebruikers van AI doen?

Ontwikkelaars en gebruikers moeten de risicocategorie van hun AI-systeem identificeren. Verboden AI-systemen moeten van de markt worden gehaald, terwijl hoogrisicosystemen aan specifieke vereisten moeten voldoen voordat ze kunnen worden gebruikt.

Wat met grote AI-modellen zoals ChatGPT?

De EU AI-Verordening erkent de evoluerende aard van AI, inclusief algemene AI-modellen zoals ChatGPT. Deze modellen, die verschillende taken kunnen uitvoeren, zijn onderworpen aan transparantieverplichtingen. Modellen met hoge capaciteiten hebben aanvullende verplichtingen, zoals risicobeperking en cybersecurity-eisen. Aanbieders van deze modellen moeten ook de EU-auteurswetten respecteren en gedetailleerde samenvattingen verstrekken van de gegevens die zijn gebruikt om het model te trainen.

Wat zijn de volgende stappen?

De AI-Verordening omvat een overgangsperiode om de implementatie te vergemakkelijken. Ter ondersteuning hiervan heeft de Europese Commissie het AI Pact gelanceerd, een vrijwillig initiatief dat AI-ontwikkelaars aanmoedigt om vooraf te voldoen aan de verordening.

De EU AI-Verordening markeert een significante stap richting de regulering van AI, en bevordert vertrouwen, veiligheid en innovatie in dit snel evoluerende veld.