AI, algoritmes en het Algoritmeregister

Op vrijdag 10 november 2023 is de algemene ledenvergadering gehouden. Ben Krekelaar, Adviseur Informatiemanagement en Automatisering (I&A) bij de gemeente Súdwest-Fryslân, en Mark Uiterwijk Winkel, Chief Portfolio Officer bij Centric Public Sector Solutions, begonnen de vergadering met een presentatie over AI, algoritmes en het Algoritmeregister.

AI, kans en/of bedreiging

Kunstmatige intelligentie of artificiële intelligentie (afgekort AI) ontwikkelt zich in een hoog tempo. De toepassingen van AI zijn talrijk en de markt hiervoor is groot. Dit kent zowel kansen als bedreigingen.

AI kan bijvoorbeeld antieke teksten leesbaar maken, huidkanker helpen detecteren of gesprekken voeren. Op dit laatste zet Centric in met Amelia. Andere projecten van Centric die op dit moment lopen en waarin AI een rol speelt, richten zich op het inlezen van loonstroken, het behandelen van WOZ-bezwaren van no-cure-no-pay bureaus, metamensen en virtuele ambtenaren. AI gebruikt echter ook veel energie en kan bijvoorbeeld de privacy van burgers aantasten of discrimineren.

De gevolgen van AI zijn moeilijk te overzien. Er zijn marktpartijen die daarom pleiten voor een pauze in de ontwikkelingen of voor (zelf)regulering. Politieke partijen gaan, afhankelijk van hun kleur, voor experimenteren of reguleren.

Algoritmegebruik bij de overheid

Nederlandse overheidsorganisaties, zoals de Belastingdienst, gebruiken algoritmes in hun werk. Deze algoritmes zijn een simpele toepassing van AI.

In Europees verband wordt gewerkt aan een verordening tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (Artificial Intelligence Act) en is een groep deskundigen aangewezen om advies te geven over de Europese strategie voor artificiële intelligentie (High-Level Expert Group on Artificial Intelligence).

De Verenigde Staten hebben hun eigen AI Act gelanceerd, genaamd ‘Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence’.

Als je in Nederland algoritmes gebruikt, moet je al rekening houden met de Algemene verordening gegevensbescherming (AVG) en de Algemene wet bestuursrecht (Awb). Ook is er de Werkagenda Waardengedreven Digitaliseren. Eén van de prioriteiten in deze werkagenda is ‘Algoritmes reguleren’ en de bijbehorende actie ‘Inrichten publiek algoritmeregister’.

Het Algoritmeregister

In het Algoritmeregister van de Nederlandse overheid zijn nu meer dan 200 algoritmes gepubliceerd. De gemeente Utrecht is koploper. Voorbeelden van andere overheidsorganisaties die algoritmes hebben gepubliceerd, zijn het Nederlands Forensisch Instituut, de Dienst Toeslagen en de Autoriteit Persoonsgegevens. Veel andere overheidsorganisaties moeten nog aan de slag. Hier wordt door staatssecretaris van Huffelen ook toe opgeroepen.

Quick start guide voor gemeenten

Organisaties die algoritmes willen publiceren, kunnen gebruikmaken van de handreiking ‘Aan de slag met het algoritmeregister’. Ook Centric biedt ondersteuning. Zij heeft een inventarisatie gemaakt van algoritmes die in haar software voor de overheid worden gebruikt en stelt deze inventarisatie proactief beschikbaar.

Als je software aanbesteed, kun je uitvragen of in de aangeboden software algoritmes worden gebruikt.

Het Impact Assessment Mensenrechten en Algoritmes (IAMA), een soort DPIA voor algoritmen, helpt (publieke) organisaties om op een verantwoorde manier algoritmes te ontwikkelen en in te zetten. Het gebruik van het IAMA wordt op termijn verplicht en het verdient aanbeveling om hier met een multidisciplinair team nu al ervaring mee op te doen.

Op Pleio kun je het laatste nieuws over algoritmes volgen en zien bij welke events je kunt aansluiten.