Eind juli meldde de Financial Times dat PwC Middle East had geblunderd met vier rapporten over AI en elektrische auto’s. Daarin stonden veel voetnoten die verwezen naar niet-bestaande artikelen. De fouten werden ontdekt door AI-controleur GPTZero.
Eerder ging KPMG al de mist in met het rapport Redefining excellence in the age of agentic AI. Dat gaf voorbeelden van bedrijven, banken en instellingen die met succes AI gebruiken. Onder meer vermogensbeheerder UBS, de Engelse National Health Service en openbaarvervoerbedrijven in Londen en Zwitserland werden genoemd. Maar GPTZero ontdekte dat de voorbeelden niet klopten. EY struikelde in Canada met een rapport over loyaltyprogramma’s waarin verkeerde citaten en valse voetnoten stonden en Deloitte kreeg in Australië eveneens te maken met hallucinerende AI.
AI is geen zoekmachine
Dat is beschamend omdat de big four veel bedrijven over een correct gebruik van AI, maar de fouten doen zich breder in de zakelijke dienstverlening voor. Zo werd een advocaat berispt die in twee huurzaken niet-bestaande en onjuiste rechtspraak uit een AI-tool had overgenomen.
Aan de basis van de missers staat de verkeerde aanname dat AI een soort zoekmachine is, zegt advocaat en AI-trainer Julia van Leeuwen in het FD. “Er is vaak een te groot vertrouwen in het eerste antwoord dat de AI geeft, terwijl deze systemen zijn ontworpen om antwoorden overtuigend te laten klinken, ook als ze onjuist zijn.”
Die overtuigingskracht vergroot de risico’s volgens AI-consultant Pim Betist. “Daardoor ogen de systemen steeds kundiger en komen fouten minder vaak voor. Maar áls ze een fout maken, wordt die juist steeds moeilijker om te herkennen.”
Haastige spoed
In de zakelijke dienstverlening blijft de professional zelf verantwoordelijk, want die moet informatie blijven controleren. Volgens het FD vinden kenners het merkwaardig dat juist bij de big four fouten niet werden opgemerkt. Bert Vries, hoofd innovatie & technologie bij advocatenkantoor CMS, denkt dat het te maken heeft met de hoge tijdsdruk. “Medewerkers werken vaak met strakke deadlines, waardoor het risico bestaat dat ze de uitkomsten van AI-tools te snel overnemen en onvoldoende kritisch controleren.”
Tijd nemen voor AI moet beloond worden
Juist dan is kennis over de mogelijkheden en beperkingen van AI belangrijk. “Het opleiden in het gebruik van AI moet al op de middelbare school en tijdens de studie beginnen. De huidige generatie scholieren en studenten gebruikt AI vaak zonder kritische blik, in de veronderstelling dat alles wat eruit komt bruikbaar is.”
Beroepsorganisaties zouden richtlijnen voor het gebruik van AI kunnen opstellen, vindt trainer Van Leeuwen. Medewerkers zouden de tijd moeten krijgen om AI verantwoord te kunnen gebruiken. “Tijd investeren in het beter werken met AI zou meer beloond moeten worden.”
Geef een reactie