Product toegevoegd aan winkelmand
 
Terug naar nieuwsoverzicht

ToeZine: Functioneringsgesprek voor AI

Toezicht houden op de algoritmen van marktpartijen. Het klinkt nog als toekomstmuziek, maar binnen een paar jaar is het de normaalste zaak van de wereld. Deze week in ToeZine: Universiteit Utrecht (platform Utrecht Data School), de Nederlandse Voedsel- en Warenautoriteit (NVWA) en Rijksinspectie Digitale Infrastructuur ontwikkelen samen een toezichtinstrument: ‘Functioneringsgesprek voor AI’.

Hoe zou je het liefst toezicht houden op algoritmen van ondertoezichtstaanden? Projectleider Iris Muis van Utrecht Data School vroeg het de NVWA en het AT bij de start van hun samenwerking in het AI Lab van de Universiteit Utrecht (UU). De toezichthouders waren eensgezind: als het aan ons ligt, laten we 2 instanties controleren. Een laboratorium checkt de code en de robuustheid en accuraatheid van het algoritme en een onafhankelijke auditor checkt de governance eromheen. De toezichthouder checkt de 2 rapporten die de checks opleveren.

Tijdelijk overbruggen

“De labs zijn er wel, denk bijvoorbeeld aan TNO”, zegt Muis. “Die doen al checks van algoritmes, zoals het fraude-algoritme van de gemeente Nissewaard, maar ze doen het nog niet heel vaak. En ook die onafhankelijke auditors zijn er, maar zij wagen zich nog niet aan AI. Ze vinden het een te lastig onderwerp. Er zijn namelijk nog geen harde normen voor. Zelfs een breed gedragen definitie van AI ontbreekt nog. Als die harde normen er zijn, gaan deze auditbureaus wel overstag. De aankomende Europese wetgeving Artificial Intelligence Act is bijvoorbeeld een belangrijke stap. Maar in de tussentijd hebben toezichthouders wel een instrument nodig om hun werk te kunnen doen. Dat ontwikkelen we nu in het AI Lab van de UU.”

Lees het artikel verder op ToeZine.nl

© Centrum voor Criminaliteitspreventie en Veiligheid