In de wereld van de kunstmatige intelligentie (AI) gaat over een jaar of tien zo’n 1,2 biljoen euro om, volgens persbureau Bloomberg. Vorig jaar was dat nog een kleine 40 miljard. Met dat in het vooruitzicht moeten bedrijven serieus werk gaan maken van het instellen van een speciale AI-officer om de negatieve effecten binnen de perken te houden, zo betoogt Johan Traa, partner bij Boer & Croon.
Vooral Amazon, Microsoft en Google-moeder Alphabet zijn druk met AI, maar de groei zal exploderen, zo verwachten Bloomberg-analisten. ‘De technologie wordt een steeds belangrijker onderdeel van investeringen in IT, advertentie-uitgaven en cyberbeveiliging.’ AI zal de plaats innemen van mensen die nu bij de klantenservice of bij banken werken.
Verborgen vooroordelen
Met de sterke groei van AI moeten bedrijven in de financiële sector ook in actie komen om de negatieve bijeffecten, zoals mogelijke discriminatie, te beteugelen, vindt Traa. ‘Naarmate AI steeds alomtegenwoordiger wordt, brengt het ook bepaalde risico’s met zich mee die moeten worden aangepakt om eerlijke en ethische praktijken te waarborgen. In de financiële sector wordt het gebruik van AI bij kredietrisicoanalyse en fraudedetectie steeds gebruikelijker, maar de verborgen vooroordelen in de onderliggende gegevens kunnen discriminatie in de hand werken.’
Aangezien AI-algoritmen enorme hoeveelheden gegevens verwerken, inclusief historische informatie die discriminerende patronen kan bevatten, wordt het ontrafelen van het besluitvormingsproces moeilijk, aldus Traa. ‘Dit gebrek aan transparantie geeft aanleiding tot bezorgdheid over de verantwoordingsplicht en vraagt om maatregelen om mogelijke vooroordelen te herkennen en recht te zetten.’ Er is nog geen wet- en regelgeving over de risico’s die samenhangen met AI, al wordt daar in EU-verband wel aan gewerkt.
Verplichte functionaris
Ondertussen kunnen bedrijven wel aan de slag om risico’s te minimaliseren en transparantie te bevorderen. ‘Een eerste stap is het informeren van eindgebruikers wanneer zij in aanraking komen met AI-technologie. Deze transparantie helpt mensen te begrijpen dat bepaalde beslissingen, zoals beoordelingen van kredietrisico’s, worden genomen door AI-algoritmen. Overwogen kan worden om bedrijven met een omvang van meer dan honderd personen te verplichten om AI-Officers aan te stellen, vergelijkbaar met de gegevensbeschermingsfunctionarissen van de AVG’, zo betoogt Traa. ‘AI-Officers kunnen toezicht houden op het gebruik van AI binnen hun organisaties en zorgen voor naleving van toekomstige AI-regelgeving en andere maatregelen nemen, zoals het houden van workshops over ethische AI-praktijken en het uitvoeren van nalevingsaudits.’
Geef een reactie