Dilemma-interview
´Drie principes zijn de voorwaarde voor AI-gebruik’
Generatieve AI-tools kunnen prima gebruikt worden in de audit, zolang er aan een aantal principes wordt voldaan, aldus AFM-toezichthouders voor accountantsorganisaties: Sean Weggelaar en Marc van Gestel. ‘Als je een fraudegesprek met je team hebt komt een AI-tool misschien met inzichten waar je nog niet aan gedacht had.’
De AFM is bezig met een onderzoek naar audittools binnen accountantskantoren. Wat vormde daarvoor de aanleiding?
Sean Weggelaar: ‘AI ontwikkelt zich razendsnel en het gebruik ervan biedt volop kansen. Als toezichthouder zijn we benieuwd hoe die ontwikkeling er binnen de accountantssector uitziet. AI-tools worden al veel gebruikt in de accountancysector. Dat zien we terug in de informatie die we jaarlijks ontvangen van accountants over de wettelijke controles die ze uitvoeren met geavanceerde tools. We zien generatieve AI-toepassingen in alle fases van de controles. In de afrondingsfase worden bijvoorbeeld tools gebruikt om vast te stellen of de conceptjaarrekening aan alle verslaggevingsstandaarden voldoet. Die tool leest de jaarrekening op een heel slimme manier en geeft suggesties. Daar worden we als AFM enthousiast van, zolang het verantwoord en beheerst wordt gebruikt.
Daarvoor zijn er drie principes: de mens moet deel uitmaken van de technologie, de uitkomsten moeten traceerbaar zijn en er moet sprake zijn van beheerste veiligheid. Die principes willen we terugzien bij het gebruik van een AI-tool. In december publiceren we een rapport waarin we een flink aantal concrete handvatten geven om aan die principes te voldoen.’
Wanneer is een data-analysetool een AI-tool?
Marc van Gestel: ‘Wij hanteren de definitie van de Europese Commissie. Die is heel ruim. Machine learning valt bijvoorbeeld onder AI. Maar wat wij daarbij vooral belangrijk vinden, is de wijze waarop de tool wordt toegepast door accountantsorganisaties. Vanzelfsprekend is het niet toegestaan om uit te sluiten of te discrimineren, maar ook bij geautomatiseerde besluitvorming is het belangrijk om oplettend te zijn op wat de tool doet en hoe de tool tot keuzes komt. De tool kan nooit een vervanging vormen voor de verantwoordelijkheid van de externe accountant.’
Sean Weggelaar: ‘Los van de definitie die wij hanteren, zijn wij op dit moment vooral geïnteresseerd in het bredere beeld: welke tools worden gebruikt en hoe verantwoord gebeurt dit? Daarvoor hebben we gesproken met elf RV-organisaties en twee OOB-kantoren. Op basis van de opgedane inzichten kunnen accountantsorganisaties verder verbeteren.’
Hoe hou je als AFM toezicht op een domein dat zo in beweging is?
Sean Weggelaar: ‘In principe verandert je rol als toezichthouder niet. We verkennen de markt, zorgen dat we de risico’s begrijpen en dat ze aangepakt worden als ze buiten de toleranties vallen. We leggen vervolgens uit aan de markt waarom we dat hebben gedaan. Die cyclus doorlopen we ook bij dit onderwerp. Wat het interessant maakt, is dat we in dialoog met de markt het onderwerp verkennen. Dat zijn heel inspirerende discussies. Soms ontdekken kantoren dat ze ergens nog niet over hadden nagedacht. Hoelang bewaar je data van klanten bijvoorbeeld in zo’n toolomgeving? Een jaar of veel langer? Is die data wel op de juiste wijze versleuteld bij deze derde partijen? Hoe ga je om met tussentijdse wijzigingen van de AI-tool? En gaat je toolleverancier misschien nog iets met je data doen?’
Marc van Gestel: ‘Primair ligt de verantwoordelijkheid bij de accountant om de risico’s te mitigeren naar een acceptabel niveau. Er zijn geen simpele stelregels. Het is niet zo dat je geen gratis versie van een AI-tool kunt gebruiken. Accountantskantoren kunnen best AI gebruiken, als het maar beheerst gebeurt. Dat kan bijvoorbeeld in sommige gevallen via een promptbibliotheek: een door Bureau Vaktechniek beheerde verzameling instructies die AI-tools aanstuurt. Zo zorg je voor uniforme uitvragen.’
Wat is het grootste misverstand over het gebruik van AI in de audit?
Marc van Gestel: ‘Dat het niet mag van de AFM. Wij zijn voorstander van tools. We denken dat AI-tools het werk leuker en efficiënter kunnen maken voor een accountant, zolang de drie principes: human in the loop, traceerbaar en beheerste veiligheid, worden nageleefd. De sleutel is dat je als accountant je verantwoordelijkheid neemt. Je moet kunnen uitleggen hoe je de tool gebruikt. De meer volwassen tools geven dat zelf al aan: hoe iets getoetst is, welk artikel is geraadpleegd. Daar zit een hele legenda met bronvermelding bij.’
Sean Weggelaar: ‘Wat we van veel accountantskantoren horen, is dat ze aanvankelijk met een kritische blik naar AI kijken. De eerste reflex is vaak om het gebruik van apps als ChatGPT te verbieden. Vervolgens blijken jongere medewerkers het op hun telefoon te gebruiken. Dat leidt ertoe dat accountantsorganisaties gaan nadenken over hoe ze het op een beheerste manier kunnen inrichten. Die nieuwe generatie accountants heeft het er echt doorheen geduwd.’