AI-systemen kunnen risico's buiten controle ontwikkelen

Jacob Coxon, een voormalige medewerker van OpenAI en Anthropic, heeft tijdens een hoorzitting in New York zorgen geuit over de toenemende risico's van kunstmatige intelligentie (AI). Hij stelt dat AI-bedrijven onvoldoende weten hoe ze moeten voorkomen dat hun systemen doelen nastreven die niet expliciet door de ontwikkelaars zijn meegegeven. Coxon beschrijft de sector als roekeloos en benadrukt dat er gebrek aan waarborgen is om te voorkomen dat AI-systemen zich richting ongewenste doelen bewegen.

De waarschuwingen van Coxon gaan verder dan de gebruikelijke zorgen over chatbots die verkeerde antwoorden geven. Hij wijst op het potentieel verlies van controle over krachtige AI-systemen en waarschuwt dat de huidige ontwikkeling misschien zelfs catastrofale gevolgen voor de mensheid met zich mee kan brengen. Hoewel hij erkent dat AI aanzienlijke voordelen kan bieden, zijn zijn uitspraken een pleidooi voor grotere voorzichtigheid en verantwoordelijkheid in de sector.

Zijn recente vertrek bij Anthropic, waar hij de mogelijkheid noemde dat AI vóór het einde van dit decennium ernstige gevolgen zou kunnen hebben, wijst op een dieperliggende zorg binnen de industrie. Tijdens de hoorzitting bekritiseerde hij de gangbare aanpak bij techbedrijven van snel ontwikkelen en problemen later oplossen, wat volgens hem niet past bij de risico's die met deze technologie gepaard gaan. Coxon pleit voor een heroverweging van de ethische en veiligheidsnormen rondom AI.

Het getuigenis van Coxon, gezien zijn ervaring bij twee vooraanstaande AI-fabrikanten, roept belangrijke vragen op voor Nederlandse organisaties die AI inzetten. De focus zou moeten liggen op het stellen van duidelijke grenzen aan de bevoegdheden van AI-systemen, toezicht op hun gedrag en mechanieken voor ingrijpen wanneer dat nodig is. Het is cruciaal om te onderzoeken welke veiligheidsmaatregelen zijn genomen, welke risico's zijn getest en wie verantwoordelijk is als AI-systemen zich buiten de afgesproken kaders gedragen.

Lees het volledige artikel van AI Insider.