‘Rijksambtenaren mogen geen AI-software meer gebruiken’

Het demissionaire kabinet wil rijksambtenaren voorlopig verbieden om AI-software zoals ChatGPT te gebruiken. Staatssecretaris Alexandra van Huffelen (Digitale Zaken) vindt de risico’s op het vlak van privacy en auteursrechten op dit moment te hoog. Dat schrijft De Volkskrant.

Het conceptvoorstel, waaruit De Volkskrant citeert, is gebaseerd op onderzoek van landsadvocaat Pels Rijcken en de Autoriteit Persoonsgegevens (AP). Zij concluderen: ‘Niet gecontracteerde generatieve AI-toepassingen voldoen over het algemeen niet aantoonbaar aan de Nederlandse privacy- en auteursrechtelijke wetgeving.’ Het voorgenomen verbod heeft betrekking op AI-programma’s die teksten, foto’s, audio of video kunnen genereren. Denk daarbij aan chatbots als ChatGPT en Bard of afbeeldingmakers als Dall-E en Midjourney. AI-toepassingen waarbij de overheid wél een contract afsluit met een aanbieder, zouden niet onder dit brede verbod moeten vallen.

Staatssecretaris Van Huffelen schrijft volgens De Volkskrant dat het ‘onduidelijk’ is of aanbieders zoals Google of OpenAI voldoende rekening houden met de rechten van auteurs. De taalmodellen achter programma’s als ChatGPT en Bard zijn getraind met grote hoeveelheden teksten, onder meer afkomstig uit krantenarchieven en van boeken waarop nog auteursrechten berusten. Voor afbeeldings-AI geldt hetzelfde principe.

Privacy

Het kabinet maakt zich ook zorgen over de privacy: ‘Ook kan een generatieve AI-toepassing zeer gevoelige informatie afleiden uit de interactie met de gebruiker.’ Bij diensten als ChatGPT is een extra probleem dat ambtenaren verplicht moeten inloggen met hun mailadres, waardoor eenvoudig bekend kan worden wie de vragen stelt aan de machines. Tot slot noemt de staatssecretaris nog een fundamenteel gevaar dat aan het gebruik van AI kleeft: de antwoorden van een programma als ChatGPT ‘kunnen worden gebruikt om een besluit over een persoon te nemen’. De nota zal binnenkort in de ministerraad worden besproken. Indien die instemt, dan zal het verbod behalve voor overheidsdiensten ook voor hun leveranciers gaan gelden.

‘Nederland op achterstand’

Sander Klous, hoogleraar big data ecosystems aan de Universiteit van Amsterdam en partner bij KPMG, erkent de in de nota genoemde risico’s, maar vindt een verbod te ver gaan. In de Volkskrant zegt hij: ‘Er zijn zoveel nuances in toepassingen van AI dat je beter grenzen kunt stellen aan het gebruik op grond van reële risico’s dan direct alles verbieden.’ Een breed verbod zou Nederland bovendien op achterstand kunnen zetten ten opzichte van landen die ruimer gebruik maken van generatieve AI, waarschuwt de hoogleraar.