OpenAI, Google en Microsoft schetsen doemscenario’s over AI

Grotere technologiebedrijven, waaronder OpenAI, Google en Microsoft, benadrukken de groeiende bezorgdheid voor potentieel schadelijke gevolgen van kunstmatige intelligentie (AI). Ondanks deze waarschuwingen zetten ze hun ontwikkeling van geavanceerde systemen, zoals ChatGPT en Gemini, in een hoog tempo voort. Dit leidt in Europa, en met name Nederland, tot kritiek dat als de technologie zo riskant is, er beter langzaam of niet uitgerold kan worden. De timing van deze discussie is relevant, nu de Europese AI-verordening (AI Act) op het punt staat om te worden geïmplementeerd, wat overheden dwingt om duidelijke keuzes te maken.

Bedrijven als OpenAI en Google erkennen de risico's van AI-systemen, zoals misbruik en desinformatie, maar blijven hun producten wereldwijd uitbreiden en verbeteren. Critici wijzen op de tegenstrijdigheid tussen de waarschuwingen en het voortdurende lanceren van nieuwe technologieën. Veel pleiten voor duidelijke normen en controles op de uitrol van AI-systemen, terwijl bedrijven beweren dat ze voldoende veiligheidsmaatregelen en testen hanteren. Wat betreft transparantie blijft echter veel informatie over de testprocessen achter gesloten deuren, waardoor het moeilijk is om de claims van deze bedrijven daadwerkelijk te toetsen.

De aanstaande AI-verordening legt een risicogerichte aanpak vast die nieuw ontwikkelde AI-systemen moet reguleren. Hoe hoger het risico van een systeem, des te strenger de eisen zijn voor ontwikkelaars en gebruikers. Dit houdt in dat generieke modellen zoals ChatGPT en Gemini strengere transparantie- en kwaliteitsregels moeten volgen, met mogelijke extra controle door het Europese AI Office. Voor organisaties in Nederland betekent dit dat inkoopcontracten moeten voldoen aan de nieuwe regelgeving, met vereisten zoals logging en uitlegbaarheid binnen AI-toepassingen.

Met de implementatie van de AI-verordening ligt de verantwoordelijkheid bij bedrijven om proactief te handelen. Het is nu aan hen om duidelijke “no-go”-criteria vast te stellen om ervoor te zorgen dat AI-modellen, voordat ze gelanceerd worden, voldoen aan veiligheidseisen. Hierdoor kunnen organisaties hun eigen risicobeheer versterken door in contracten afspraken over audits en incidentmeldingen op te nemen. De komende maanden, tijdens de uitrol van de AI-verordening, zal blijken of technologiebedrijven hun beloftes ook daadwerkelijk waarmaken.

Lees het volledige artikel van AI Insider.