De Jheronimus Academy of Data Science (JADS) gaat samenwerken met Deloitte. Ze zetten een onderzoekslab op dat zich richt op het auditen van betrouwbare AI-softwaresystemen. Doel is het onderzoeken en ontwikkelen van nieuwe auditingtheorieën en -tools.
De samenwerking resulteert in het SAFEGUARD lab, dat deel uitmaakt van het ROBUST AI programma. Met de nieuw te ontwikkelen audittheorieën, -tools en -methodologieën moet gecontroleerd kunnen worden of AI-toepassingen voldoen aan de eisen van eerlijkheid, verklaarbaarheid, transparantie, robuustheid en betrouwbaarheid, als mede de privacy en veiligheid waarborgen. Het lab krijgt in eerste aanzet 5 PhD-plaatsen, die later kunnen worden uitgebreid.
Impact
De oprichting van het SAFEGUARD lab werd afgelopen woensdag gevierd. Wiel Moonen, partner en Audit & Assurance Risk Leader bij Deloitte Accountants zei: ‘De impact van AI op besluitvorming neemt sterk toe. Gezien de impact op de maatschappij is het belangrijk dat AI transparant, controleerbaar en betrouwbaar is. Het SAFEGUARD lab is een opwindende kans om nieuwe benaderingen te ontwikkelen voor het auditen van AI-software. We kijken ernaar uit om met JADS samen te werken om het gebied van datawetenschap vooruit te helpen en te helpen zorgen voor een verantwoord en ethisch gebruik van AI.’
Het SAFEGUARD Lab zal onderzoek doen op verschillende gebieden, zoals het beoordelen van vooringenomenheid in AI en het vinden van manieren om AI uitlegbaar en transparant te maken. Onderzoekers zullen ook tools ontwikkelen om verantwoording en betrouwbaarheid te waarborgen door middel van audits en prototypes. Tot slot zullen ze een experimentele toolchain bouwen om AI-software te testen met machine-learning en continue testtechnieken als onderdeel van een DevOps-ontwikkellijn. Het Lab gaat in de herfst van 2023 van start.
ChatGPT
‘Deze samenwerking met Deloitte is een enorme sprong voorwaarts naar het vaststellen van betrouwbare AI-toepassingen’, zegt prof. dr. Willem-Jan van den Heuvel, hoogleraar aan JADS. ‘We zijn verheugd om met Deloitte samen te werken aan de ontwikkeling van nieuwe theorieën, tools en methodologieën die bijdragen aan een eerlijk, verklaarbaar en verantwoord gebruik van huidige en toekomstige AI-toepassingen zoals ChatGPT. Het bijzondere aan dit lab is dat het onderzoek is ontworpen om onderzoeksdisciplines te combineren die voorheen waarschijnlijk niet samenwerkten, variërend van theologie tot technologie.’
Robuuste AI
Het SAFEGUARD lab is onderdeel van het ROBUST AI programma, een nieuw initiatief van het Innovation Center for Artificial Intelligence (ICAI), ondersteund door de Universiteit van Amsterdam en 51 partners uit de overheid, industrie en kennissector. Het programma heeft als doel het Nederlandse ecosysteem voor kunstmatige intelligentie (AI) te versterken door fundamenteel AI-onderzoek te stimuleren. De Jheronimus Academy of Data Science (JADS) is een samenwerking tussen de provincie Noord-Brabant, de gemeente ‘s-Hertogenbosch, Tilburg University en de Technische Universiteit Eindhoven.
Geef een reactie