De AP waarschuwt voor incidenten met AI en roept op tot zorgvuldige inzet en waakzaamheid van burgers, bestuurders en volksvertegenwoordigers.
Vertrouwen en risico’s
Het vertrouwen in AI is in Nederland lager dan in andere landen, concludeert de privacytoezichthouder. Mensen zullen vaker geconfronteerd worden met risico’s zoals cyberaanvallen, deepfakes, privacyschendingen en discriminatie. Voorzitter Aleid Wolfsen van de AP benadrukt dat hoewel AI veel kansen biedt, zoals in medische behandelingen, de risico’s groot zijn. De AP wijst op de noodzaak van strikte AI-regelgeving en een verantwoorde, arbeidsintensieve inzet van AI.
Beheersingsmaatregelen
Een effectieve maatregel om AI-risico’s te beheersen is de aselecte steekproef, die helpt discriminatie in AI-systemen te ontdekken en tegen te gaan. De AP benadrukt ook de risico’s van AI voor online informatievoorziening. Door de macht van sociale media en zoekmachines over welke informatie mensen zien, en de opkomst van generatieve AI, ontstaat een groot risico op misinformatie en desinformatie. Mensen moeten daarom begrijpen hoe aanbevelingssystemen werken en de juistheid van informatie kunnen controleren.
Democratische controle
De toezichthouder heeft onderzocht hoe goed gemeentelijke organisaties AI-systemen onder controle hebben. Uit een enquête blijkt dat er nog veel werk nodig is om volksvertegenwoordigers voldoende kennis en overzicht te geven. Gemeenteraadsleden en lokale rekenkamers moeten versterkt worden om democratische controle op AI te waarborgen.
Nationale AI-strategie
Tot slot roept de AP het kabinet op om algoritmeregistratie door overheidsorganisaties te prioriteren en te overwegen om ook semipublieke organisaties hun algoritmes te laten registreren. Dit is cruciaal in sectoren waar mensen kwetsbaar zijn, zoals onderwijs, gezondheidszorg en openbaar vervoer. Het aantreden van een nieuw kabinet biedt een kans om de nationale AI-strategie te herzien en te versterken.
Geef een reactie