Anthropic belooft vertragen van AI-releases: veiligheid eerst

Tijdens een recent overleg met de VN-Veiligheidsraad hebben Dario Amodei, topman van Anthropic, en Sam Altman, CEO van OpenAI, hun zorgen geuit over de risico's en veiligheidskwesties rondom kunstmatige intelligentie (AI). De gesprekken zijn een reactie op de toenemende bezorgdheid over AI-hacks en de versnelde ontwikkeling van krachtige AI-systemen. Amodei heeft AI-bedrijven opgeroepen om hun tempo van capaciteitsuitbreiding te matigen, een oproep die ook steun kreeg van prominente figuren zoals Elon Musk.

Amodei stelde dat Anthropic bereid is om het tempo van nieuwe AI-releases te vertragen wanneer de veiligheid dat vereist. Hij benadrukte dat de groei van veiligheidsprotocollen in lijn moet zijn met de mogelijkheden van de technologie. Dit is des te relevanter geworden door recente incidenten die de aandacht vestigden op potentiële gevaren van steeds geavanceerdere AI-modellen. "Zoveel zal vertragen als nodig is om ervoor te zorgen dat elke volgende AI-technologie die we uitbrengen ook echt veilig is," aldus Amodei.

Sam Altman sprak tijdens dezelfde bijeenkomst ook over de noodzaak van uiterste voorzichtigheid in de huidige fase van AI-ontwikkeling. Hij steunt de oproep om de capaciteiten van AI-modellen met opzet te matigen, wat een belangrijke stap zou zijn om veiligheidsissues te mitigeren. Altman benadrukte het belang van waakzaamheid en verantwoordelijkheid in een tijd waarin AI-systemen steeds krachtiger en complexer worden. "De huidige fase in de ontwikkeling van AI vraagt om uiterste voorzichtigheid," verklaarde hij.

Dergelijke uitspraken van toonaangevende figuren in de AI-industrie weerklinken als een belangrijke boodschap in het mondiale debat over verantwoordelijk AI-gebruik en de bijbehorende risico's. De toezegging om veiligheidsmaatregelen voorop te stellen kan van cruciaal belang zijn voor de toekomst van AI-technologieën en hun impact op de samenleving.

Lees het volledige artikel van AI Insider.