Het (onbewust) toepassen van verboden AI-praktijken is een risico voor organisaties. Zij beschikken vaak niet over de nodige controlesystemen en richtlijnen om het verantwoord gebruik van AI-praktijken te waarborgen en het risicomanagement optimaal uit te voeren. Zeker omdat steeds meer software geleidelijk AI-functionaliteiten uitrollen in updates en omdat het niet duidelijk is of, waar en in hoeverre AI wordt ingezet. Dit leidt tot risico’s, zoals non-compliance, potentieel hoge boetes en zelfs reputatieschade.
Meer privacy en veiligheid voor burgers
Voor burgers pakt het verbod op specifieke AI- praktijken positief uit. AI-praktijken die de autonomie, privacy of veiligheid van burgers in gevaar brengen, zijn vanaf nu verboden. In de verordening is een specifieke lijst opgesteld van wat niet meer mag. Dit komt neer op een verbod op discriminatie, uitbuiting van kwetsbaarheden, bedreigingen voor de persoonlijke veiligheid, en het veroorzaken van machts-, hulpbronnen- of invloedsonbalans. Het verbod zorgt dus voor meer privacy en veiligheid van burgers.
De noodzaak van AI-geletterdheid
De AI Act wordt sinds augustus 2024 gefaseerd ingevoerd. Sinds februari zijn niet alleen specifieke AI-praktijken verboden (Prohibited Practices), maar moeten organisaties ook zorgen voor betere AI-geletterdheid (AI Literacy, kennis over AI). Vaak laten organisaties hun AI-geletterdheidalleen door specialisten verankeren, zoals datawetenschappers. Omdat steeds meer werknemers AI gebruiken, is het cruciaal dat zij ook weten hoe ze AI effectief kunnen gebruiken en wat de risico’s zijn. Het is niet langer optioneel om AI-geletterdheid op te bouwen; het is noodzakelijk om compliant en relevant te blijven.
De volgende stap: hoogrisico AI-systemen
De volgende implementatiefase van de EU AI Act, die ook dit jaar plaatsvindt, is nog belangrijker: de maatregelen adresseren die bij hoogrisico AI-systemen komen kijken. Deze AI-praktijken zijn niet verboden, maar brengen wel aanzienlijke risico’s met zich mee. Ze hebben een directe impact op onze fundamentele rechten, en dus op de burgers. Daarom is het uiterst belangrijk het risicomanagement hiervoor optimaal in te richten.
dr. Casper Rutjes is Chief Technology Officer bij data- en AI-consultancy ADC.
Deze bijdrage komt uit Accountancy Vanmorgen met als thema ICT en kengetallen. Dit magazine is verschenen in Juli 2025. Zie: https://www.accountancyvanmorgen.nl/kennisdoc/av-2-2025-ict-en-kengetallen/
Geef een reactie