De AI-act is Europese wetgeving die regels vastlegt voor de ontwikkeling en het gebruik van kunstmatige intelligentie. De wet moet ervoor zorgen dat AI-systemen veilig en betrouwbaar zijn. AI is in deze wetgeving bovendien geclassificeerd, in onder meer verboden AI en in hoog en laag risico. Hoe hoger het risico dat een AI-systeem vormt voor bijvoorbeeld burgers of de samenleving, hoe strenger de regels. Tot 2027 gaan verschillende onderdelen van de wetgeving in werking, per februari dit jaar ging AI-geletterdheid dus van kracht.
AI-geletterdheid
“Er is heel veel aandacht voor de mogelijkheden van AI”, legt Gillian Gordon uit. “Maar er is minder aandacht voor de geletterdheid die erbij komt kijken. AI-geletterdheid bestaat uit de kennis en vaardigheden die nodig zijn om AI op een verantwoorde manier te gebruiken. Want er zijn veel mogelijkheden, maar ook risico’s zoals op het gebied van privacy en veiligheid. Je bent nu dus verplicht om medewerkers daar op een veilige manier mee om te leren gaan.” Overigens is het geen niveau dat iedereen moet halen en veel hangt bovendien af van welk systemen en binnen welke klasse die vallen, je als organisatie gebruikt. “Het is vooral belangrijk om te weten of mensen binnen je organisatie de gevaren voldoende in beeld hebben.”
Meer bekendheid
Volgens Gordon begint de AI-act steeds meer te leven in de accountancy, maar mag de wetgeving nog een stuk beter op het netvlies komen te staan. “De wet geldt zowel voor makers als gebruikers, maar ik denk dat niet iedereen zich dat even goed realiseert. Maar ook mkb-kantoren die gebruik maken van AI-systemen moeten zich aan de wet houden en daar goed beleid op maken”, vervolgt ze. De boetes zijn overigens niet gering, want die kunnen oplopen tot in de miljoenen. “Maar dat gaat dan wel om organisaties die met hoog-risico AI werken en ernstige overtredingen begaan.” Ze besluit: “Je moet het ook niet doen omdat je bang bent voor een boete, het is vooral ook in je eigen belang dat je de risico’s binnen je organisatie beperkt door goed beleid.”
Wil je de hele podcast luisteren? Klik hieronder!
Wil je na het luisteren van de podcast met Extendum verder de diepte in? Bezoek dan het Hixtival en kom langs op het Kennisplein! Hier gaat Extendum verder in op de onderwerpen uit de podcast en kun je tijdens de interactieve sessie vragen stellen. Het Kennisplein is dé plek voor verdieping en dialoog met branche-experts – een unieke kans om actuele ontwikkelingen te vertalen naar jouw eigen praktijk.
Geef een reactie