Amsterdam wil discriminatie, vals spel en andere ongewenste beslissingen uit alle algoritmen halen en heeft daarbij KPMG ingeschakeld voor hulp. De bedoeling is dat elke app en website die betrekking heeft op Amsterdam kan worden gecontroleerd, meldt het FD.
Niet alleen de eigen kunstmatige intelligentie van de gemeente moet worden gescreend, maar ook die van bedrijven. Dan gaat het om bijvoorbeeld de apps die winkels of restaurants aanbevelen bij toeristen, meldt ‘chief technology officer’ van de gemeente Amsterdam Ger Baron.
Stempel van accountant
‘Een algoritme moet precies doen wat je beweert’, licht Baron in het FD toe. ‘Het mag ook geen strafbare dingen doen zoals mensen discrimineren. De accountant moet hier een stempel voor kunnen geven. Net als bij de financiële verslaggeving van de gemeente.’
KPMG en Amsterdam experimenteerden de afgelopen maanden met de automatische afhandeling van klachten van inwoners over hun buurt. Een algoritme analyseerde de meldingen van bewoners en bepaalde welke prioriteit ze hadden. Ook werd er voor gezorgd dat de juiste ambtelijke dienst er op af werd gestuurd. Daar kwamen echter wel flinke manco’s in de kunstmatige intelligentie uit naar voren. Klagers uit rijkere buurten klagen namelijk vaker dan bewoners van andere gebieden. Als met dat gegeven geen rekening zou geworden gehouden zouden er bijvoorbeeld vaker schoonmakers naar wijken worden gestuurd waar vaker wordt geklaagd. Daarmee zou sprake zijn van discriminatie. De fouten zijn er uitgehaald en de gemeente Amsterdam is tevreden. Een volgende nieuwe toepassing voor accountantscontrole kan volgens Baron de matchmaking tussen werkzoekers en banen zijn.
Bron: FD
Geef een antwoord