OpenAI en ChatGPT-agents: pauze in ontwikkeling voorgesteld

In een recente oproep hebben topbestuurders van toonaangevende AI-bedrijven, waaronder OpenAI en Google, gevraagd om een pauze in de ontwikkeling van AI-agents. Deze systemen, die niet alleen antwoorden geven maar ook zelfstandig acties kunnen uitvoeren, brengen significante veiligheidsrisico’s met zich mee. De CEO’s maken zich zorgen over het versnelde tempo van de ontwikkeling en pleiten voor een zorgvuldiger evaluatieproces om zowel modellen als de maatschappelijke impact ervan beter te begrijpen.

Het verschil tussen AI-modellen en AI-agents is essentieel. Terwijl traditionele modellen vooral ingezet worden voor conversaties, zijn agents ontworpen om in real-world situaties acties uit te voeren, zoals het beheren van digitale banktransacties of het manipuleren van bestanden. Dit vergroot de kans op ongewenste incidenten of misbruik. Door te pleiten voor een langzamere uitrol en strengere interne tests, zoals uitgebreide ‘red-teaming’ om kwetsbaarheden bloot te leggen, hopen deze leiders een veiligere implementatie te realiseren.

Daarnaast is de Europese AI-verordening een belangrijk referentiekader. Deze wetgeving legt extra verantwoordelijkheden op voor algemene AI-modellen met systemisch risico. Het biedt bedrijven de kans om hun processen af te stemmen op juridische vereisten, zoals veiligheidsrapportages en risicobeoordelingen. Voor Nederlandse overheden en instellingen biedt dit aanknopingspunten om met AI-agents aan de slag te gaan, mits deze in een gecontroleerde, gefaseerde aanpak worden geïmplementeerd.

De oproep tot vertraging heeft echter niet alleen een juridische en veiligheidsdimensie; ze biedt ook kansen voor bedrijven om vertrouwen op te bouwen bij gebruikers. Door samen te werken met erkende instellingen en transparante processen te hanteren, kunnen organisaties goed voorbereid de markt betreden. Het aanpakken van open vragen omtrent monitoring en transparantie zal verder helpen bij het vormgeven van een verantwoordelijke toekomst voor AI-agents.

Lees het volledige artikel van AI Insider.