Op 13 maart 2024 heeft het Europees Parlement de AI-verordening aangenomen. De AI-verordening draait voornamelijk om de verplichtingen voor het gebruik van AI, op het gebied van transparantie en veiligheid. Dit om de rechten van betrokkenen te waarborgen. In onderstaande tekst lichten we de belangrijkste antwoorden op vragen toe.
Wat is de AI-verordering?
De AI-verordening is een Europese verordening die regels bevat voor alle zelfstandig handelende computersystemen en algoritmes die beslissingen nemen, teksten, afbeeldingen of filmpjes genereren of mensen assisteren.
Wat is het doel van de AI-verordening?
Het doel van de AI-verordening is om Europese regelgeving te creëren in een jungle vol opkomende AI-systemen. Dit om te realiseren dat mensen en bedrijven in de Europese Unie kunnen rekenen op veilige, transparante, niet bevooroordeelde AI-systemen.
Wat is de definitie van AI onder de AI-verordening?
Een AI-systeem is “een machine gebaseerd systeem dat, voor expliciete of impliciete doelstellingen, uit de input die het ontvangt afleidt hoe outputs moeten worden gegenereerd, zoals voorspellingen, inhoud, aanbevelingen of beslissingen die fysieke of virtuele omgevingen kunnen beïnvloeden.”
Voor wie gaat de AI-verordening gelden?
De nieuwe Europese regels uit de AI-verordening gaan rechtstreeks gelden voor iedereen die AI ontwikkelt, op de markt brengt of gebruikt. En ook voor burgers die dus onrechtmatig geraakt worden door de output van het AI-systeem. Denk dan bijvoorbeeld aan ontwikkelaars van AI-systemen of platforms of software. Iedereen die deze AI gebruikt moet zelf aantonen dat dit AI-systeem aan de voorschriften voldoet. Daarom moet je als gebruiker ook duidelijkheid daaromtrent verschaft krijgen van de leverancier. In de AI-verordening staan enkele uitzonderingen hierop in aangepaste regels voor opsporings- en veiligheidsdiensten.
De meeste verplichtingen uit de AI-verordening richten zich tot providers (“aanbieders”) of ontwikkelaars die high risk systemen op de markt brengen of in werking stellen in de Europese Unie (ongeacht of ze gevestigd zijn in de EU of niet).
Hoe zit de AI-verordening in elkaar?
Hanteert een risico gebaseerde aanpak van AI-systemen, onder te verdelen in:
- Onaanvaardbare risico’s (deze systemen zijn verboden)
- Hoge risico’s (deze systemen leiden tot veel verplichtingen)
- Beperkte risico’s
- Minimale risico’s
Voor bovenstaande verschillende risico categorieën bestaan dan ook weer verschillende regels. Hoewel de complexiteit c.q. lengte van deze regels ons belet om hier in detail op in te gaan, is het belangrijk voor bedrijven om zich bewust te zijn van de impact ervan op hun AI activiteiten.
Hoe zit het met de taalmodellen, zoals ChatGPT?
De Large Language Models (‘LLM’s) vallen onder ‘general purpose AI’, hetgeen inhoudt dat deze voor meerdere doeleinden gebruikt kunnen worden. LLM’s zijn getraind op een extreem grote hoeveelheid woorden, in bepaalde contexten. Hierdoor kunnen deze systemen antwoorden genereren en taal optimaliseren.
ChatGPT, één van de meest bekende LLM’s, valt onder een apart hoofdstuk in de nieuwe AI Verordening: het General Purpose AI (hierna ‘GPAI’) hoofdstuk. In de oorspronkelijke versie van de AI Verordening viel GPAI nog onder de ‘beperkte risico’s’ categorie. Maar met de komst van ChatGPT in november 2022 is toch besloten om een apart hoofdstuk te wijden aan GPAI. In dat hoofdstuk staan aparte regels voor GPAI.
Wat is de samenhang tussen de AI-verordening en de AVG?
In de tekst van de AI Verordening wordt geen aandacht geschonken aan de AVG. Wel is het goed om te realiseren dat waar het over persoonsgegevens gaat, de AVG natuurlijk nog steeds van toepassing blijft. In dergelijke gevallen zal bijvoorbeeld ook de Functionaris Gegevensbescherming (FG) moeten bijspringen. De AVG (Algemene Verordening Gegevensbescherming) blijft uiteraard ook naast de AI Verordening van kracht.
Hoe hoog zijn de boetes onder de AI-verordening?
Overtreders van de AI Verordening staan erg hoge boetes te wachten (net als bij de AVG). Deze boetes gaan tot 35 miljoen euro per overtreding of 7% van de wereldwijde omzet van het concern waarbinnen de overtreding wordt gemaakt. Voor ‘kleine’, administratieve overtredingen is dit 7,5 miljoen of 1.5%. Voor MKB komen lagere boetes maar dat moet nog nader worden uitgewerkt.
Wanneer treedt de AI-verordening in werking?
Naar verwachting wordt de wet officieel gepubliceerd in mei 2024, en daarna gaan de regels gefaseerd van kracht. Een Europese verordening heeft directe werking in de lidstaten, hetgeen betekent dat de regels automatisch in werking treden in Nederland en rechtstreeks door burgers van de lidstaten kunnen worden ingeroepen. De AI-verboden gelden zes maanden later voor iedereen. Dan zijn de grote tech-bedrijven in mei 2025 aan de beurt en de rest volgt in 2026.
Komen er nog meer regels over AI?
Naast de AI Verordening is er nog een Europees wetsvoorstel aanhangig, genaamd de Richtlijn AI-aansprakelijkheid (ook wel bekend als de ‘AI Liability Directive’). De richtlijn moet dan door de Nederlandse wetgever worden omgezet in nationale wetgeving. Die wetgeving moet dan de civielrechtelijke (tussen bedrijven en burgers) risicoaansprakelijkheid gaan regelen waardoor er vorderingen tot vergoeding voor een door AI-systeem veroorzaakte schade worden gereguleerd.
Conclusie AI-verordening
De regels uit de AI Verordening richten zich op transparantie en veiligheid bij de ontwikkeling en het gebruik van AI en zijn van toepassing op iedereen die AI ontwikkelt, op de markt brengt, inzet of ervaart. De wet introduceert een risico gebaseerde benadering en markeert een belangrijke stap naar een gereguleerde en veilige AI-omgeving.
Dit artikel is geschreven door ondernemingsjurist mr. Hella Vercammen van The Legal Company.
De ondernemingsjuristen van The Legal Company zijn voorbereid op deze veranderingen en kunnen u adviseren over deze nieuwe regelgeving. Bent u benieuwd hoe uw AI-systemen voldoen aan de vereisten van de AI Verordening? Of heeft u andere vragen op het gebied van AI? Neem dan contact met ons op via info@thelegalcompany.nl of 020 345 0152.
Geef een reactie