Het Europees Parlement en de Europese Raad hebben een akkoord bereikt over regelgeving voor de veilige toepassing van kunstmatige intelligentie (AI). Niet naleven van de regels kan leiden tot boetes van tientallen miljoenen euro’s.
De nieuwe richtlijn moet ervoor zorgen dat AI in Europa veilig wordt toegepast met respect voor fundamentele rechten en democratie, zonder het bedrijfsleven te beperken. Onder de voorgenomen AI Act worden de volgende zaken verboden:
- het gebruik van biometrische categorisering op basis van gevoelige data zoals politieke voorkeur, religie, filosofische overtuiging, seksuele oriëntatie en ras;
- het ongericht verzamelen van beelden van gezichten van internet of beveiligingscamera’s om te gebruiken voor gezichtsherkenning;
- emotieherkenning op de werkplek en in het onderwijs;
- scores toekennen op basis van gedrag of persoonlijkheidskenmerken;
- het manipuleren van gedrag met AI;
- het inzetten van AI om misbruik te maken van kwetsbaarheden als leeftijd, handicaps of economische situatie.
Er zijn wel uitzonderingen op het gebied van biometrische identificatie in openbare ruimtes voor het doel van wetshandhaving. Die gelden alleen bij voorafgaande toestemming en voor een beperkt aantal wetsovertredingen. Gebruik is alleen mogelijk om iemand op te sporen die is veroordeeld voor een ernstig misdrijf of daarvan wordt verdacht.
Soms vooraf veiligheid bewijzen
Voor toepassing van zogeheten AI-systemen met een hoog risico geldt onder meer een verplicht onderzoek naar de impact op fundamentele rechten voordat een systeem in gebruik wordt genomen. Dat geldt onder meer voor de bank- en verzekeringssector. Die moeten vooraf gaan aantonen dat de gebruikte AI-systemen veilig zijn. Ook systemen die worden gebruikt om de uitkomst van verkiezingen en stemgedrag te beïnvloeden worden als risicovol betiteld.
Verder moeten bedrijven die AI toepassen daar helder over zijn en – in sommige gevallen – ook ernstige incidenten rapporteren en verslag doen over het energieverbruik van de AI-systemen. Om mkb-bedrijven die willen innoveren niet in de weg te zitten, voorziet de richtlijn in zogeheten ‘regulatory sandboxes’ waarbij bedrijven hun AI-oplossing kunnen testen en vooraf de toezichthouders om goedkeuring kunnen vragen.
Boetes tot 35 miljoen
Wie de regels schendt, kan een boete krijgen die varieert van 7,5 miljoen euro of 1,5 procent van de omzet tot 35 miljoen euro of 7 procent van de omzet, afhankelijk van de overtreding en de omvang van het bedrijf.
De EU is de eerste die met regelgeving over AI komt. Het voorstel moet nog naar het Europees Parlement; naar verwachting gaan de regels niet in voor 2025.
Geef een reactie