PwC-rapporten vol AI-hallucinaties onder vuur

PwC staat in de spotlights in Nederland vanwege de ontdekking van aanzienlijke fouten in haar recente adviesrapporten. Deze rapporten zijn blootgesteld aan kritiek vanwege de aanwezigheid van verzonnen feiten, niet-bestaande bronverwijzingen en opmerkelijke overeenkomsten in zinsstructuren. Deze tekortkomingen roepen vragen op over de kwaliteitscontrole binnen het advieswerk en leggen een zware druk op de transparantie-eisen die voortkomen uit de Europese AI-verordening.

De analyses en memo's van PwC bevatten passage met onjuistheden en ontoereikende referenties. Het gebruik van generatieve AI, welke gebaseerd is op het voorspellen van tekst, heeft geleid tot hallucinaties — dat wil zeggen, het fabriceren van feiten en bronnen die in werkelijkheid niet bestaan. Dit vormt een probleem voor de betrouwbaarheid van rapporten, des te meer als deze rapportages invloed hebben op beleidsbeslissingen en financiële implicaties.

Onder druk kan de snelheid van de productie van documenten tot onzorgvuldig gebruik van AI leiden, waarbij minder aandacht uitgaat naar de menselijke controle die essentieel is voor de accuraatheid van informatie. Dit probleem is vooral prominent bij publieke instellingen, waar de gevolgen van foutieve adviezen vergaande juridische en financiële gevolgen kunnen hebben. De druk om te voldoen aan regelgeving en toezicht op transparantie wordt hierdoor alleen maar groter.

Met de inwerkingtreding van de Europese AI-verordening zullen advieskantoren zoals PwC hun processen opnieuw moeten bekijken. De focus zal moeten liggen op duidelijke richtlijnen en het implementeren van systemen die risicobeheersing, bronverantwoording en kwaliteitscontrole waarborgen. Het inzetten van technieken als grounded generation en het waarborgen van menselijke verificatie bij AI-gegenereerde teksten zijn noodzakelijk om de betrouwbaarheid van advieswerk te herstellen en te behouden.

Lees het volledige artikel van AI Insider.