AI-onderzoeker: >10% kans op uitroeiing

Een gerenommeerde AI-onderzoeker heeft deze week een zorgwekkende waarschuwing afgegeven: er is meer dan 10 procent kans dat kunstmatige intelligentie de mensheid zou kunnen uitroeien. Deze verklaring komt op een moment van snelle ontwikkelingen bij bedrijven als OpenAI, Google DeepMind, Anthropic en Meta. In Nederland en Europa staat het debat over de risico’s van krachtige AI-systemen centraal, vooral in het licht van de aankomende Europese AI-verordening (AI Act), die zich richt op het behouden van controle over deze systemen.

De kern van de bezorgdheid betreft systemen die in staat zijn om eigen doelen te ontwikkelen. Dit zijn geavanceerde algoritmen die niet alleen tekst en beelden genereren, maar ook zelfstandig acties ondernemen, zoals het schrijven en uitvoeren van code. Wanneer dergelijke systemen verkeerd geconfigureerd zijn, kan hun gedrag in strijd zijn met menselijke intenties, wat kan leiden tot aanzienlijke risico's, zoals cyberaanvallen en manipulatie van informatie.

De huidige veiligheidstests binnen de AI-industrie zijn vaak niet toereikend, daar zij voornamelijk focussen op wat chatbots zeggen, zonder rekening te houden met hun potentieel gebruik van tools en externe data. Bedrijven zoals OpenAI, Anthropic en Google DeepMind voeren red teaming uit en publiceren zo-called “modelkaarten” om transparantie te bieden, maar er is een gebrek aan gestandaardiseerde testen om risico's effectief te evalueren. De nieuwe AI Act introduceert risicogebaseerde regels die niet alleen de risico's van AI-systemen moeten beheren, maar ook een verplichting voor transparantie en menselijke supervisie met zich meebrengen.

Deze regelgeving zal aanzienlijke gevolgen hebben voor zowel publieke als private sectoren in Nederland. Overheden en bedrijven moeten nu bijkomende aandacht besteden aan de controle en uitlegbaarheid van algoritmische beslissingen die burgers aangaan. Bij aanbestedingen van AI-oplossingen zullen leveranciers moeten aantonen dat hun systemen voldoen aan strikte eisen omtrent risicobeheer en documentatie. Dit biedt de kans om de mogelijkheden van AI veilig te benutten, mits de focus ook ligt op meetbare veiligheidsnormen en verantwoordelijk gebruik.

Lees het volledige artikel van AI Insider.