Een school in de Chinese stad Hangzhou zet camera’s met gezichtsherkenning in om te controleren of de leerlingen wel opletten tijdens de les. Drie camera’s scannen elke dertig seconden de gezichtsuitdrukking van alle leerlingen. Zijn ze blij en verrast of juist verveeld? Kijken ze geconcentreerd naar hun leraar of het schoolbord of dwalen de blikken dromerig af naar buiten? Het systeem waarschuwt de leraar als een bepaalde leerling onvoldoende oplet. Critici stellen dat de school met deze vorm van monitoring de rechten van de leerlingen schendt. Ook is onduidelijk wat de verzamelde gegevens nu werkelijk betekenen. Allicht is een leerling wel verveeld omdat de lesstof te eenvoudig is voor hem of haar? Of omdat de leraar iets niet goed kan uitleggen?
We zitten midden in een technologische revolutie die ons dagelijks leven drastisch gaat veranderen. Dagelijks worden we overspoeld met voorbeelden van potentiële mogelijkheden die artificial intelligence (AI) kunnen bieden. Soms gaat het alleen om ideeën, andere keren om proeven en in de praktijk zijn inmiddels al vele toepassingen gerealiseerd. Met name China loopt voorop wat dat laatste betreft. Elke keer gaat het om systemen die geautomatiseerd grote hoeveelheden data vastleggen om op basis daarvan gedrag te voorspellen en zelfstandig acties te ondernemen. Voorstanders schetsen een wereld van big data en algoritmes die misdaad bestrijden en de hoogte van verzekeringspremies kunnen bepalen. Tegenstanders zien juist gevaar in het uit handen geven van beslissingen aan zelfdenkende machines.
Gaat artificial intelligence op lange termijn een bedreiging vormen voor de vrijheid en autonomie van de mens? Stephen Hawking en Elon Musk denken van wel, en naar dergelijke invloedrijke mensen wordt geluisterd. Bewapende robots die politieagenten en bewakers gaan vervangen, een computersysteem dat automatisch recht spreekt? Zelfrijdende auto’s die een ‘verdachte’ en ‘afwijkende’ bestemming direct rapporteert? Het lijkt een wedloop tussen wat mogelijk en wat wenselijk is. De technische ontwikkelingen lopen voor op de maatschappelijke discussie over wat ethisch en jurisisch verantwoord is of wordt. De angst bij sommigen voor AI is niet ongegrond, maar omdat iets mogelijk is wil dat nog niet zeggen dat het daarom ook breed en blijvend toegepast moet en zal worden.
Het is tijd voor een genuanceerd debat, opdat de potentiële voordelen op een verantwoorde wijze benut kunnen worden. Want de technologie zal zich blijven ontwikkelen, en wie het heft in eigen handen wil houden moet niet de regie daarover kwijtraken aan andere landen, waar heel anders over bijvoorbeeld privacy wordt gedacht.
