Dilemma-interview

'We kunnen niet vertrouwen op de blauwe ogen van AI'

Kan AI een tool zijn voor accountants?

"Alles staat of valt met de vraag hoe je het gebruikt. Je moet vooraf nadenken over het probleem dat je wil oplossen. Als accountant ben je de deskundige die nadenkt over een plausibele uitkomst. Vervolgens kun je AI scenario's laten doorrekenen. Als je het zo gebruikt, kun je de uitkomst evalueren aan de hand van wat je vooraf hebt bedacht. Een AI-model kan bijvoorbeeld voorspellen of een lening wordt terugbetaald. Welke trend ziet hij in het terugbetaalgedrag? AI is als een stagiair. Hij neemt je werk uit handen, maar je moet hem wel controleren. Als AI je bevindingen bevestigt, is dat mooi maar hij kan nooit het bewijs leveren."

Waarom niet?

"AI is een black box. Je weet niet hoe hij tot een conclusie is gekomen. Daarom kun je niet controleren of het klopt. Stel dat je wil weten hoe groot de kans op fraude is in een bedrijf. Daar kan je een zelflerend AI-model voor gebruiken, maar niets garandeert je dat die uitkomst klopt, omdat je niet weet of AI gevoed is met de juiste gebeurtenissen in een oorzakelijk verband. Zijn alle triggers voldoende meegenomen? Ook bij het signaleren van ongebruikelijke transacties speelt dat probleem. AI maakt gebruik van algoritmes om te leren. Hij gebruikt honderdduizend beslissingen op basis waarvan hij tot uitkomsten komt. Maar hoe plausibel is die uitkomst? Dat moet je kunnen vaststellen. We kunnen niet vertrouwen op de blauwe ogen van AI. Daarom zal AI het werk van de accountant niet makkelijker maken. Integendeel. Je moet nog beter je vak begrijpen, want je wordt met veel meer input geconfronteerd. Het wordt eerder complexer. Als je AI alleen inzet om productiever te worden, ga je het verliezen."

Waarom is het idee van een black box zo verwerpelijk? Als je precies weet waar je de technologie op loslaat, kan het toch heel effectief zijn. Wat is het verschil tussen een AI-model dat ongebruikelijke transacties signaleert en de automatische piloot in een vliegtuig?

"Een automatische piloot handelt op basis van een vaste set van omstandigheden als route, hoogte en windsnelheid. In het geval van generatieve AI is die omgevingsscan heel onduidelijk, omdat je niet weet hoe deugdelijk de data is waarop hij zich baseert. Het kan zelfs zijn dat zijn aanname over de zwaartekracht niet klopt. Je creëert ook het probleem van cognitieve offloading. Wanneer mensen te veel vertrouwen op AI-tools neemt hun kritisch denkvermogen af. Dat is wetenschappelijk bewezen. Het zorgt ervoor dat mensen minder diep nadenken. Je verliest op den duur essentiële cognitieve vaardigheden."

Wat zijn dilemma's voor accountants in het gebruik van AI?

"Stel dat je de klant hebt beloofd dat hij morgen de conclusie met betrekking tot het financial statement ontvangt. Bij je laatste check met een AI-tool haalt deze je oordeel onderuit. Wat doe je in zo'n geval? Negeer je de uitkomst van het AI-model of ga je verder zoeken en haal je de deadline niet? Als het een beursgenoteerde onderneming is, heb je die keuze niet eens. Dan is uitstellen geen optie. En het is niet alleen het gebruik van AI binnen je eigen kantoor dat voor dilemma's zorgt. Ook het gebruik van AI door de klant is een risico. Wat doe je bijvoorbeeld wanneer het bedrijf wiens boeken je controleert AI gebruikt om beslissingen te nemen? Hoe weet je of de balans klopt als men blind vaart op AI? Er is veel te weinig discussie over. Dat vind ik wel een schrikbeeld. Iedereen is heel voorzichtig met het geven van kritiek. Er is ook bijna geen regelgeving die het gebruik van AI aan banden legt. Integendeel. Het aantal AI-patenten explodeert. Dat wordt een groot probleem."

Gebruik je zelf AI?

"ChatGTP is handig voor het schrijven van rapporten. Dat zie ik ook bij mijn studenten. Om te voorkomen dat ik het werk van een AI-tool nakijk, toets ik meer dan vroeger mondeling. Studenten mogen AI wel gebruiken tijdens het tentamen. Ik baseer mijn tentamens altijd op een casus. Wat zijn je basisveronderstellingen? Dan kom je er snel achter of ze zich achter AI verschuilen."