OpenAI pleit voor vertraging van AI-ontwikkeling

OpenAI heeft aangekondigd de ontwikkeling van zijn meest geavanceerde AI-systemen te vertragen, totdat er strengere veiligheidsnormen en onafhankelijke tests zijn vastgesteld. Deze beslissing is van belang in het kader van de nieuwe Europese AI-verordening, die extra verplichtingen oplegt aan zowel aanbieders als gebruikers van AI-technologieën. Het doel is om risico's zoals ongelukken, misbruik en desinformatie te beperken.

Het bedrijf, bekend om zijn producten zoals ChatGPT en het multimodale GPT-4o, wil ervoor zorgen dat de opschaling van zijn systemen verbonden is aan het behalen van veiligheidscriteria. Dit betreft hoofdzakelijk de zogenaamde frontier-modellen, die een significante maatschappelijke impact kunnen hebben. OpenAI pleit voor gemeenschappelijke veiligheidsstandaarden en externe audits die door onafhankelijke derden worden uitgevoerd, zodat de modellen getest kunnen worden op helder gedefinieerde criteria.

De Europese AI Act, die systemen categorieert op basis van risicoklassen, vereist voor generatieve modellen met systemische risico's extra documentatie en audits. Dit betekent dat OpenAI technische documentatie en een samenvatting van de trainingsdata moet aanleveren voor Europese toepassingen. Voor overheden, zorginstellingen en scholen die gebruik maken van AI-technologieën, betekent dit dat zij kunnen rekenen op gestructureerde documentatie en processen, wat compliance en inkoop vergemakkelijkt.

De uitdagende balans tussen het voorkomen van snelgroeiende modellen zonder adequate veiligheidsnetten en het waarborgen van een competitieve markt wordt benadrukt. De vertraging in de ontwikkeling kan leiden tot een langzamere uitrol van nieuwe functies, maar ook tot minder systeemrisico's. In een concurrerend veld, waar spelers als Google en Meta ook actief zijn, kan dit op termijn zorgen voor een verbeterde veiligheid en bruikbaarheid van AI-toepassingen in publieke diensten.

Lees het volledige artikel van AI Insider.