Hoe ben je in dit vakgebied verzeild geraakt?
‘Tijdens mijn studie moraalwetenschappen ontstond in 2007 de hype rond Second Life, een virtuele wereld waarin iedereen zijn eigen 3D-personage creëert. De belofte van de ontwikkelaars achter het platform was dat je kon worden wie je wilt zijn. De vraag die mij fascineerde, was wat voor persoon je wordt als je zoveel vrijheid hebt. Welke mechanismen zijn er om moraliteit te reguleren? Je kunt in Second Life bijvoorbeeld een tweede avatar maken om anderen te bespioneren. Vanaf toen ben ik mij met computerethiek gaan bezighouden. Ontwikkelaars denken dat ze neutraal zijn, maar ze hebben een grote invloed op gedrag en maatschappelijke ontwikkelingen. Ontwikkelaar Chris Wetherell bekende in 2019 dat hij er achteraf spijt van heeft dat hij de retweetfunctie voor Twitter introduceerde. Retweeten leidt ertoe dat onjuiste informatie zich in een oogwenk verspreidt.’

Is je kijk op AI de afgelopen jaren veranderd?
‘Heel erg. We worden verleid door technologie die zich opdringt. Als je iets opzoekt in Google, krijg je ongevraagd een AI-gegenereerd antwoord. AI scant je mailbox. Als ik een vergadering via de mail inplan, krijg ik automatisch leessuggesties voor documenten die misschien relevant zijn. Er zijn nu chatbot-apps waarbij je AI als therapeut kunt raadplegen. Het systeem kan in principe inschatten dat jij het bent, ook al ben je niet ingelogd. Alles wordt bijgehouden en omdat veel softwarebedrijven uiteindelijk onder een grote speler vallen, komt al die data samen op één plek. En het is technologie waar bestaande wetgeving geen vat op lijkt te hebben. In de EU vereist de GDPR (General Data Protection Regulation) bijvoorbeeld dat data over individuen accuraat moet zijn. De makers van chatbots als ChatGPT geven zelf aan dat ze dat niet kunnen garanderen, omdat feitelijke nauwkeurigheid in grote taalmodellen zich voortdurend ontwikkelt.’

Wat is een AI-toepassing waar je blij van wordt?
‘Zo simpel kun je die vraag niet beantwoorden. Het onderwerp is een kluwen van voor- en nadelen. In de geneeskunde zie je dat AI bijvoorbeeld als second opinion kan worden gebruikt om patronen en afwijkingen in röntgenfoto’s te ontdekken. Tegelijkertijd zie je een keerzijde. The Lancet publiceerde afgelopen zomer een onderzoek waaruit blijkt dat artsen die regelmatig AI gebruiken bij colonoscopieën slechter worden in het herkennen van vroege tekenen van darmkanker. Hun vaardigheid neemt af. De vraag is hoe je die cognitieve offloading kunt tegengaan. Je moet in ieder geval in het onderwijs vaardigheden blijven trainen en AI niet simpelweg als de toekomst omarmen. Wie bij zijn examen tegen de regels in ChatGPT gebruikt, is een fraudeur en geen visionair.’

Accountants zien AI als een slimme stagiair: een tool die klusjes voor je doet, maar die je wel moet controleren. Klopt die metafoor in jouw ogen?
‘Dat is de belofte van de technologie. Het neemt je werk uit handen zodat je tijd overhoudt voor belangrijkere zaken. En inderdaad is er niets mis met het uitbesteden van standaardklusjes aan AI, zolang je het controleert, want AI kan hallucineren. Er zijn voorbeelden van advocaten die in hun betoog refereren aan rechtszaken die niet bestaan. We staan echter op het punt om veel meer te omarmen dan alleen een ijverige stagiair. We worden afhankelijker van de technologie omdat we persoonlijke boodschappen uitbesteden. AI maakt een fotoboek voor je als je kind jarig is. Als je het uit wilt maken met je geliefde, laat je ChatGPT het afscheidsbericht schrijven. En we zijn voortdurend online. Wat doet die technologische verbondenheid met onze morele verbondenheid? Wat betekent het om autonoom volwassen te worden als kinderen continu worden getrackt door hun ouders? We moeten ons afvragen hoe ver we hierin willen gaan. Waar trekken we de grens? Daarin zijn we als maatschappij nog zoekende.’

 Fotograaf: Joey Roberts

Lees meer