Het zou de nabije toekomst zijn: een bedrijf dat niet geleid wordt door mensen, maar door AI-agents, zelfstandig opererende artificiële werknemers die op eigen houtje de strategie bepalen, onderling overleggen en alle door AI-bedachte plannen in de praktijk brengen.
Experiment
De Amsterdamse hoogleraar AI en audit Sander Klous wilde deze belofte – onder meer gedaan door AI-bedrijven als Anthropic en OpenAI – in de praktijk testen. Hij liet AI eerst zelf een businessplan maken – iets met bitcoins – wat hij afwees. ‘We hebben wat randvoorwaarden gesteld: het moest een normaal bedrijf zijn, met klanten en leveranciers. Met een financiële afdeling ook,’ vertelt hij in de Volkskrant.
AI kwam met een idee T-shirts, mokken en canvas met AI-kunst te gaan verkopen. Van ontwerp tot het plaatsen van een order bij het bedrijf dat die producten bedrukt: alles gebeurde zonder menselijke tussenkomst.
Verzonnen voorbeelden
Helaas faalde de onderneming ‘big time’. Daarvoor waren verschillende redenen. In de eerste plaats hadden de AI-agents een enorme drang om te pleasen. ‘Ze zaten gewoon dingen te verzinnen die wij als supervisory board wilden horen.’ Op de vraag aan de artificiële controller naar inconsistenties in het bedrijfsproces, dingen die fout liepen, kwam AI met verzonnen voorbeelden.
Op eigen houtje
Nog kwalijker was dat de AI-agents zich niet aan afspraken hielden. Zo was vastgelegd dat de ‘CEO’ alleen mocht overleggen met de strategiedirecteur. Maar AI bedacht dat de CEO over juridische kwesties beter bij de Chief Legal Officer terechtkon. Daarvoor werd doodleuk het communicatieprotocol herschreven. Een doodzonde, meent Klous: ‘Als je te maken hebt met kritische bedrijfsprocessen, wil je niet dat agents hun eigen protocollen herschrijven. Dat kan enorme risico’s met zich meebrengen.’
Mensen nodig
Het falen bewijst volgens Klous waarom voorspellingen dat AI zal leiden tot massawerkloosheid niet kloppen. Dat soort prognoses zijn geredeneerd vanuit wat de technologie kan, zegt hij. ‘Maar de implementatie ervan vereist ook een menselijke transformatie. Dat betekent niet dat de arbeidsmarkt niet aan het veranderen is. Klous, die zijn presentatie hield bij KPMG, kon het dicht bij huis houden. Iedere medewerker van het accountants- en advieskantoor werkt inmiddels met AI-assistenten die helpen bij het schrijven van voorstellen, het maken van powerpointpresentaties en het uitvoeren van controles.
Bron: de Volkskrant
foto: UvA
Interessante post. Veel van wat dhr. Klous beschrijft herken ik ook in de praktijk, ik ontwikkel zelf een cloud management tool voor bedrijven met mensen en agents samen. Dus ik herken zeker wat dhr. Klous aangeeft, al zit er wel wat nuance in hoe dit zich vandaag de dag uitrolt.
Wat je ziet, is dat we AI steeds vaker “in toom houden” met zogeheten guardrails. Dat is nodig, omdat we in de kern nog steeds werken met generatieve modellen. Die systemen begrijpen de wereld niet zoals wij dat doen. Ze herkennen patronen en kiezen de meest waarschijnlijke vervolgstap. Dat verklaart ook het bekende “pleaser”-gedrag: ze neigen naar wat het vaakst voorkomt, wat volgens de statistiek van de modeltraining de meeste mensen zouden kiezen.
En dat is eigenlijk precies waarom ze goed werken in bijvoorbeeld een helpdesk-context. Daar wil je ‘pleasen’, daar wil ja vaak juist dat voorspelbare, dat consistente antwoord wat goed ligt bij de bevolking. Maar zodra je richting complexere objectieve beslissingen gaat, zoals op management- of directieniveau, wordt het spel anders. Dan heb je veel meer context nodig, en vaak wil je de ‘excellente’ oplossing, creatief, passend, iets dat in de hele complexiteit van jouw bedrijf en omgeving ‘werkt’, de win:win, en dat vind je soms eerder in de 2% uitzonderingen hoek dan de 98% massa-keuze. Ook als je nieuwe processen wilt ontwikkelen, dan is dat ‘pleaser’ gedrag soms erg contraproductief. Maar als klankbord is het vaak wel weer prima. De context kun je vergroten en aanscherpen door te werken met een management team van verschillende agents. Denk aan verschillende rollen die elkaar aanvullen, zoals finance, techniek en strategie. Ieder met een eigen bibliotheek, abbonnementen, data bronnen, budget, mandaten. Dat je vanuit een meer ingeperkte gefocuste hoek de zaak bekijkt per deelonderwerp.
Daar zit op dit moment ook een belangrijk onderscheid tussen AI-toepassingen: hoe goed wordt context gestructureerd en beheerd? Hoe wordt geheugen ingezet? Dat maakt vaak het verschil momenteel tussen een AI gimmick en iets dat echt waardevol is voor je bedrijf en omgeving.
Daarnaast speelt modelkeuze een grote rol. Kleinere, goedkopere modellen zijn prima voor afgebakende taken, maar hebben beperkingen in context en redeneervermogen. Zwaardere modellen kunnen meer verbanden leggen en betere afwegingen maken, maar daar hangt ook een prijskaartje aan. In de praktijk zie je dus een soort gelaagd gebruik ontstaan: lichtere modellen voor het uitvoerende werk, en zwaardere modellen voor complexere analyses.
Als je het zo bekijkt, lijkt het waarschijnlijk dat AI de komende jaren vooral veel operationele taken gaat overnemen, ergens in de orde van grootte van 60 tot 80% van het standaardwerk bij een 10% van de functies wereldwijd, ~300 miljoen mensjaren worden de komende jaren op deze manier vervangen. Vooral start- en uitvoerende functies op kantoor. Tegelijk zal het een ondersteunende rol spelen bij strategische keuzes, rapportages en analyses.
Een volledig autonoom bedrijf op basis van deze generatie AI (de LLM’s) voelt nog een stap te ver. Dat wacht op AGI, General AI en dat kan nog een paar jaar duren, Altman van OpenAI hintte op twee jaar, andere AI CEO’s denken aan 2-5 jaar, maar veel wetenschappers zeggen eerder 10 tot 20 jaar. Het zal nog grotendeels deze tech stack zijn de komende jaren. Dus ik ben het eens met Dhr. Klous, AI geleide bedrijven dat wordt het voorlopig niet, maar pak als ondernemer zeker voordeel bij de helpdesk en de klankbord functie, met deze generatie AI.