Een taalmodel kiest elk volgend woord op basis van kansen. Zelfs met de instellingen op “zo voorspelbaar mogelijk” is de uitkomst niet gegarandeerd gelijk. Onderzoekers van onder meer Microsoft lieten in 2024 zien dat modellen ook bij een temperatuur van nul merkbaar verschillende antwoorden geven op identieke invoer, en dat de nauwkeurigheid daardoor per run kan schommelen.
Daar komt bij dat modellen in de tijd veranderen. Onderzoekers van Stanford en Berkeley volgden in 2023 twee versies van ChatGPT een paar maanden en zagen dat de prestaties op dezelfde taken fors verschoven, soms van ruim 80 procent goed naar ruim onder de 10 procent.
En de prompt zelf is fragiel. Onderzoek uit 2023 liet zien dat kleine opmaakverschillen in een prompt, zoals een dubbele punt of een spatie meer, de nauwkeurigheid van een model met tientallen procentpunten kunnen laten verschillen.
Daarom is het belangrijk: een kantoor leeft van herhaalbaarheid. Dezelfde situatie moet bij elke klant en elke collega tot dezelfde boeking leiden. Een prompt geeft dat niet.
2. Overtuigend fout
Taalmodellen verzinnen. In de literatuur heet dat hallucinatie, en het is uitgebreid beschreven in overzichtsstudies. Het model produceert tekst die klinkt als een feit, maar het niet is.
Voor vakgebieden met regels is dat geen randverschijnsel. Onderzoekers van Stanford vonden in 2024 dat populaire taalmodellen bij juridische vragen in 58 tot 88 procent van de gevallen hallucineerden, en dat ze hun fouten met grote stelligheid brachten. Belastingrecht en verslaggevingsregels zijn niet anders dan recht in het algemeen: een verkeerd artikelnummer of een verlopen drempel ziet er net zo geloofwaardig uit als het juiste.
Daarom is het belangrijk: in een kantoor tekent iemand onder de uitkomst. Een overtuigend antwoord zonder bron is daar geen hulp, maar een risico.
3. Het model weet niets van jouw kantoor
Een generiek model kent de boekingsafspraken van jouw klant niet, de rechtsvorm niet, de kantoorinstructies niet. Alles wat het over jouw situatie zegt, is een gok op basis van wat gemiddeld waar is.
Wat er wel werkt
De oplossing zit niet in een betere prompt, maar in wat er om het model heen staat. Drie onderdelen, elk met onderzoek erachter.
RAG: het model krijgt de bron mee. Bij retrieval-augmented generation zoekt het systeem eerst de relevante stukken op in een gecontroleerde kennisbank, en laat het model daarmee antwoorden. De methode is in 2020 beschreven door onderzoekers van Meta en University College London, en zorgt dat antwoorden aantoonbaar meer op feiten rusten dan antwoorden uit het geheugen van het model. In Accountee staan in die kennisbank alleen gecontroleerde richtlijnen en wetgeving, met bronvermelding. Een agent mag geen regel toepassen die daar niet in staat.
Agentic controle: een tweede agent kijkt na. Modellen die hun eigen antwoord stapsgewijs verifiëren, of waarbij een tweede model het antwoord nakijkt, maken aantoonbaar minder fouten. Dat is onder meer aangetoond met methoden als Chain-of-Verification en met meerdere modellen die elkaar bevragen. In Accountee is dat ingebouwd: de ene agent zet een boeking klaar, een andere controleert bedrag, btw en rechtsvorm. Pas als dat sluit, komt het bij jou.
Vaste procedures: dezelfde stappen, elke keer. Variabiliteit los je niet op met een slimmer model, maar met een vaste werkwijze. Een workflow legt vast welke gegevens worden opgehaald, welke controles worden gedaan en op welk moment een mens beslist. Het model doet alleen het stuk waar taal nodig is. De rest is procedure, en procedure is herhaalbaar.
En omdat elk van die stappen wordt vastgelegd, is er een audit trail. Krijg je later een vraag, dan zie je welke bron is gebruikt, welke feiten en aannames erin zitten en wie akkoord gaf.
In het kort
Een goede prompt lost drie problemen niet op: hetzelfde model geeft verschillende antwoorden, het is overtuigend fout bij vaktechnische vragen, en het weet niets van jouw kantoor. Onderzoek laat zien dat RAG met een gecontroleerde kennisbank, controle door een tweede agent en vaste procedures die problemen wel aanpakken. Dat is wat Accountee doet, en dat is het verschil tussen een handig hulpmiddel en een uitkomst waar je voor tekent.
Benieuwd hoe jij AI voor je kan laten werken? Probeer Accountee gratis.
Bronnen
- Atil, B. e.a. (2024), Non-determinism of “deterministic” LLM settings, arXiv.
- Chen, L., Zaharia, M. en Zou, J. (2023), How is ChatGPT’s behavior changing over time?, arXiv.
- Sclar, M. e.a. (2023), Quantifying language models’ sensitivity to spurious features in prompt design, arXiv.
- Ji, Z. e.a. (2023), Survey of hallucination in natural language generation, ACM Computing Surveys.
- Dahl, M. e.a. (2024), Large legal fictions: profiling legal hallucinations in large language models, Journal of Legal Analysis.
- Lewis, P. e.a. (2020), Retrieval-augmented generation for knowledge-intensive NLP tasks, NeurIPS.
- Dhuliawala, S. e.a. (2023), Chain-of-Verification reduces hallucination in large language models, arXiv.
- Du, Y. e.a. (2023), Improving factuality and reasoning in language models through multiagent debate, arXiv.
Geef een reactie