Nederlandse startup maakt AI-besluiten controleerbaar

De Nederlandse startup Deeploy heeft deze week een innovatief platform gelanceerd dat gericht is op het controleerbaar maken van AI-besluiten binnen organisaties. Dit systeem registreert de keuzes die algoritmes maken en biedt inzicht in de factoren die de uitkomsten beïnvloeden. Het platform is speciaal ontwikkeld voor organisaties die moeten voldoen aan de Europese AI-verordening en de Algemene Verordening Gegevensbescherming (AVG). Dit is met name relevant voor sectoren zoals overheid, zorg en financiën, waar veilig en transparant gebruik van kunstmatige intelligentie essentieel is.

Met het controlepaneel van Deeploy krijgen gebruikers gedetailleerd inzicht in de beslissingen van algoritmen. Hierin wordt niet alleen zichtbaar welke factoren hebben bijgedragen aan de uiteindelijke beslissing, maar ook welke versie van het model is gebruikt en in welke context. Door middel van audit-trails worden alle stappen digitaal vastgelegd, inclusief tijdstempels van invoer, resultaten en tussenstappen. Dit stelt organisaties in staat om beslissingen op een later tijdstip te controleren en te verifiëren, waardoor het vertrouwen in de systemen toeneemt.

Een belangrijk aspect van het platform is de focus op uitlegbaarheid en documentatie. Deeploy maakt het mogelijk om de belangrijkste kenmerken die tot bepaalde voorspellingen leiden te identificeren, wat de communicatie met klanten en toezichthouders vergemakkelijkt. Bovendien sluit het platform aan op de eisen van de Europese AI-verordening, die vereist dat hoog-risico systemen gedocumenteerd en controleerbaar zijn. Dit houdt onder meer in dat organisaties versiebeheer, testresultaten en duidelijke verantwoordelijkheden moeten kunnen aantonen, hetgeen het proces van certificering en interne audits versnelt.

Voor de toepassing van dit systeem in de zorg en bij gemeentelijke instanties ligt de nadruk ook op transparantie en kwaliteitsbeheer. Het biedt een controleerbare keten van data tot besluitvorming, voorbeeldig in triagesystemen binnen ziekenhuizen of vergunningstrajecten binnen lokale overheden. Ondanks de voordelen moeten organisaties rekening houden met de complexiteit van bepaalde modellen en de noodzaak om een gedisciplineerde integratie uit te voeren. Hierbij blijven verantwoordelijkheden voor privacy en gegevensbescherming bij de gebruikers liggen.

Lees het volledige artikel van AI Insider.