Nederlandse consumenten zetten vraagtekens bij een eerlijk gebruik van algoritmen, stelt KPMG op basis van eigen onderzoek. In de Nederlandse samenleving wordt het nemen van beslissingen in toenemende mate toevertrouwd aan geautomatiseerde systemen die gebruik maken van algoritmen. Zo laten verzekeraars claims steeds vaker geautomatiseerd en zonder menselijke tussenkomst afhandelen, laten ziekenhuizen in sommige gevallen medische onderzoeksresultaten niet beoordelen door mensen maar computers en zet de politie een algoritme in om etnisch profileren tegen te gaan. ‘Algoritmen spelen een steeds grotere rol in de beslissingen die voor mensen worden genomen, in de zorg, in de financiële dienstverlening en in het publieke domein’, zegt Frank van Praat van KPMG’s AI in Control. Van Praat: ‘Maar veel Nederlanders hebben twijfels over de eerlijke toepassing en vinden dat het gebruik door bedrijven en instellingen onvoldoende transparant is.’
Digitale tweedeling
Uit onderzoek van KPMG onder Nederlandse burgers blijkt dat niet meer dan 11% denkt dat algoritmen alleen worden gebruikt als dat goed is voor mens en maatschappij. En 9% vindt dat algoritmen zorgen voor een eerlijke en rechtvaardige wereld. Ruim 30% is van mening dat algoritmen kunnen helpen bij het nemen van de juiste beslissingen. Van Praat: ‘Overigens bestaat er in de samenleving veel onbekendheid met het begrip algoritme, vooral bij mensen die lager opgeleid zijn. Mensen die aangeven bekend te zijn met het begrip en de toepassing van algoritmen in de samenleving zijn vooral jonge hoogopgeleiden. En onbekend maakt onbemind, want de groep mensen die bekend zijn met algoritmen laten ook blijken meer vertrouwen te hebben in de werking ervan. Het verschil duidt op een duidelijke tweedeling in de maatschappij als het gaat om het ‘digitale bewustzijn’ van mensen. Dat betekent dat veel meer aandacht besteed moet worden aan het waarom van het gebruik van een algoritme, dan alleen de vraag of het ethisch verantwoord is en de betrouwbaarheid van het gebruik.’
Weerstand bij banken en verzekeraars
Uit het onderzoek van KPMG blijkt dat Nederlanders zich vooral in beperkte mate comfortabel voelen bij de inzet van algoritmen door banken en verzekeringsmaatschappijen. Mensen vinden vooral dat financiële dienstverleners onvoldoende transparant zijn over het gebruik van een geautomatiseerde afhandeling van de contacten die zij met hun bank of verzekeraar hebben. Van Praat: ‘Het is voor veel Nederlanders in het algemeen niet duidelijk wanneer een advies of een beslissing afkomstig is van een robot of van een medewerker. Driekwart van de mensen is dan ook negatief over het gebruik van algoritmen door banken en verzekeraars. Bij banken en verzekeraars is de teneur duidelijk negatiever dan in andere branches. Het is goed mogelijk dat het ‘big data’ effect hierbij een rol speelt. Er bestaat maatschappelijke weerstand tegen financiële instellingen die ‘alles van je willen weten’. Mensen hebben klaarblijkelijk het gevoel dat computersysteem hiervan vooral misbruik maken. In andere sectoren is het beeld aanmerkelijk positiever. In de reisbranche bijvoorbeeld, maar ook bij boekingswebsites en in de retailsector. Burgers maken duidelijk onderscheid tussen sectoren bij de vraag of ze vertrouwen hebben in de vraag of algoritmes leiden tot betere beslissingen.’
Voordelen in het publieke domein
In het publieke domein ziet de burger volgens Van Praat wél een duidelijke bijdrage van algoritmes. Van Praat: ‘Zo is er bij de vraag of de politie en de overheid met algoritmes tot betere beslissingen komen een duidelijk positiever beeld dan in andere sectoren. Zo vindt bijna 92% dat de overheid algoritmen mag gebruiken om fraude met uitkeringen te voorkomen. En in het veiligheidsdomein is het nog aansprekender. Zo vindt in alle gevallen een ruime meerderheid dat de Politie algoritmen mag gebruiken voor het bepalen van flitslocaties, het voorkomen van georganiseerde criminaliteit en het assisteren bij de keuze of er preventief gefouilleerd dient te worden of niet. Dit suggereert dat mensen de inzet van algoritmen vooral vanuit het oogpunt van sociale controle gerechtvaardigd vinden.’
Meer toezicht op algoritmen
Een meerderheid van de Nederlanders vindt dat het in het algemeen schort aan voldoende transparantie over het gebruik van algoritmen. Van Praat: ‘Dit geldt eigenlijk over de hele linie. De behoefte aan meer controle is bovendien groot. Bijna 80% geeft aan dat toezicht op een verantwoord gebruik van algoritmen gewenst is. Volgens de meeste Nederlanders moet deze taak in handen worden gelegd van een combinatie van overheid en onafhankelijke deskundigen.’
Bron: KPMG
Geef een reactie