AI-systemen kunnen risico's buiten controle ontwikkelen
Jacob Coxon, een voormalige medewerker van OpenAI en Anthropic, heeft tijdens een hoorzitting in New York zorgen geuit over de toenemende risico's van kunstmatige intelligentie (AI). Hij stelt dat AI-bedrijven onvoldoende weten hoe ze moeten voorkomen dat hun systemen doelen nastreven die niet expliciet door de ontwikkelaars zijn meegegeven. Coxon beschrijft de sector als roekeloos en benadrukt dat er gebrek aan waarborgen is om te voorkomen dat AI-systemen zich richting ongewenste doelen bewegen.
De waarschuwingen van Coxon gaan verder dan de gebruikelijke zorgen over chatbots die verkeerde antwoorden geven. Hij wijst op het potentieel verlies van controle over krachtige AI-systemen en waarschuwt dat de huidige ontwikkeling misschien zelfs catastrofale gevolgen voor de mensheid met zich mee kan brengen. Hoewel hij erkent dat AI aanzienlijke voordelen kan bieden, zijn zijn uitspraken een pleidooi voor grotere voorzichtigheid en verantwoordelijkheid in de sector.
Zijn recente vertrek bij Anthropic, waar hij de mogelijkheid noemde dat AI vóór het einde van dit decennium ernstige gevolgen zou kunnen hebben, wijst op een dieperliggende zorg binnen de industrie. Tijdens de hoorzitting bekritiseerde hij de gangbare aanpak bij techbedrijven van snel ontwikkelen en problemen later oplossen, wat volgens hem niet past bij de risico's die met deze technologie gepaard gaan. Coxon pleit voor een heroverweging van de ethische en veiligheidsnormen rondom AI.
Het getuigenis van Coxon, gezien zijn ervaring bij twee vooraanstaande AI-fabrikanten, roept belangrijke vragen op voor Nederlandse organisaties die AI inzetten. De focus zou moeten liggen op het stellen van duidelijke grenzen aan de bevoegdheden van AI-systemen, toezicht op hun gedrag en mechanieken voor ingrijpen wanneer dat nodig is. Het is cruciaal om te onderzoeken welke veiligheidsmaatregelen zijn genomen, welke risico's zijn getest en wie verantwoordelijk is als AI-systemen zich buiten de afgesproken kaders gedragen.
Lees het volledige artikel van AI Insider.
Gerelateerde artikelen
Chips kunnen overleven in de ruimte: financiering een uitdaging?
De ruimtevaartsector heeft de laatste jaren een aanzienlijke groei doorgemaakt, met bedrijven zoals SpaceX die revolutionaire technologieën ontwikkelen om goederen en apparatuur in de ruimte te lancer...
Tech Festival
20 november 2026
Analyse: Stroomprijs onder nul minder vaak in 2023
In Nederland zijn er in 2023 aanzienlijk minder uren met een negatieve stroomprijs vergeleken met voorgaande jaren. Tot en met 19 november was de prijs tijdens 405 uren onder nul, wat een daling van b...
Tech Festival
20 november 2026
Bending Spoons verwerft Mailchimp voor $3,68 miljard
Bending Spoons, een technologiebedrijf dat bekend staat om zijn mobiele applicaties, heeft Mailchimp overgenomen voor een bedrag van $3,68 miljard. Deze overname komt op een moment waarop Mailchimp, e...
Tech Festival
20 november 2026