De overheid en het bedrijfsleven moeten grote stappen maken om meer grip te krijgen op algoritmes en artificiële intelligentie (AI). In afwachting op EU-wetgeving, zijn concrete acties wenselijk. Innovaties zoals intelligente chatbots en gebrekkig inzicht in bestaande algoritmes zijn de belangrijkste risico’s.
Dat blijkt uit de eerste Rapportage Algoritmerisico’s Nederland, die de nieuwe directie Coördinatie Algoritmes van de Autoriteit Persoonsgegevens (AP) heeft gepubliceerd. Om grip te krijgen op algoritmes en AI is overkoepelend zicht op het gebruik door de overheid en door (publieke en private) maatschappelijke organisaties cruciaal.
De AP is positief over het algoritmeregister voor overheidsorganisaties, maar wil meer aandacht voor algoritmes met een hoog risico. De AP adviseert om alvast aan te sluiten bij de (verwachte) classificatie van hoogrisico-systemen onder aankomende EU-wetgeving die nu in onderhandeling is.
Opsporen van fraude
Verder waarschuwt de AP voor de inzet van de meest recente AI-innovaties. Nieuwe toepassingen staan volop in de aandacht en het is verleidelijk om hiermee te experimenteren. Bijvoorbeeld bij het opsporen van fraude of bij het beoordelen van klanten als die iets willen kopen of een lening willen aangaan.
Maar dat kan alleen op een veilige manier als de risico’s adequaat worden beheerst. Zolang dat niet het geval is, doen organisaties er verstandig aan terughoudend te zijn, stelt de AP. Zo moeten voorafgaand aan de inzet de risico’s in kaart worden gebracht.
