OpenAI pleit voor pauze in AI-ontwikkeling

OpenAI, de ontwikkelaar van ChatGPT, heeft besloten om het tempo van de ontwikkeling van zijn krachtigste AI-systemen te verlagen. Dit besluit is genomen naar aanleiding van groeiende zorgen over de risico’s van zogenaamde frontier-modellen. OpenAI wil verdergaan met de ontwikkeling van sterke modellen pas als er duidelijke en toetsbare veiligheidsnormen zijn vastgesteld. Deze stap heeft ook invloed op de Europese AI-verordening en de vereisten voor overheden en bedrijven die met dergelijke systemen werken.

Het bedrijf heeft aangegeven dat het zich zal houden aan afspraken met toezichthouders, waarbij ze zich verplichten om de uitrol van AI-systemen beter te beheersen. Hierdoor neemt de tijd voor belangrijke processen zoals evaluaties, red-teaming en externe audits toe. De verwachting is dat releases gefaseerd en met strengere beperkingen worden uitgerold, wat onder andere zal leiden tot strengere documentatie-eisen en API-regels voor ontwikkelaars.

Bovendien komt ChatGPT, net als andere generieke systemen, onder de nieuwe AI-verordening te vallen, die in Europa ontwikkeld wordt. Dit omvat een reeks extra verplichtingen voor modellen die systemische risico’s met zich meebrengen. De wetgeving benadrukt dat overheden zorg moeten dragen voor veilig gebruik en inkoop van dergelijke systemen, rekening houdend met privacywetgeving zoals de AVG.

Een trager ontwikkeltempo betekent dat organisaties in Nederland, die AI-toepassingen zoals ChatGPT gebruiken, mogelijk minder snelle upgrades kunnen verwachten. Echter, dit kan ook resulteren in meer gedocumenteerde en voorspelbare updates, wat gunstig zou zijn voor risicoanalyses en aanbestedingen. De aanpassing van de ontwikkelsnelheid bij OpenAI kan uiteindelijk bijdragen aan een beter beheersbare en veiligere AI-omgeving waar gebruikers profiteren van verhoogde veiligheidseisen en transparantie.

Lees het volledige artikel van AI Insider.