EU eist transparantie van AI-aanbieders over veiligheid

De Europese Commissie heeft recentelijk extra verzoeken om informatie verstuurd naar ontwikkelaars van grote AI-modellen, waaronder OpenAI, Google, Anthropic, Meta en Mistral. Dit verzoek is een belangrijke stap in de uitvoering van de Europese AI-verordening en richt zich met name op aspecten zoals veiligheidstesten, risico op misbruik en maatregelen ter bescherming tegen schade. De Commissie vraagt documentatie van aanbieders van algemene AI-systemen, zoals chatbots en beeldgeneratoren, om te beoordelen of hun huidige veiligheidspraktijken voldoen aan de eisen in Europa.

Bij deze transparantie-eis ligt de nadruk op vooraanstaande modellen zoals GPT-4 van OpenAI en Google's Gemini. Deze technologiëen worden op grote schaal door bedrijven en overheden ingezet, waardoor hun veiligheid cruciaal is. Gezien recente incidenten waarbij beveiligingssystemen werden omzeild, onderstreept deze inspanning de noodzaak voor strengere regels en meer inzicht in de werking van deze AI-systemen.

De EU heeft duidelijke richtlijnen voor de AI-verordening vastgesteld, waarin aanbieders verplicht worden om technische documentatie en informatie over trainingdata te verstrekken. Voor modellen die als 'systemisch risico' worden beschouwd, is er een nog strengere regulering vereist, welke inhoudt dat ze aan uitgebreide risicobeoordelingen en robuuste cyberbeveiliging moeten voldoen. Ook zal het AI Office samen met nationale autoriteiten toezicht houden op de naleving van deze regels, waarbij sancties kunnen oplopen tot 7 procent van de wereldwijde omzet bij overtredingen.

Voor organisaties zoals overheden, zorginstellingen en scholen heeft dit directe implicaties voor hun inkoopprocessen. Leveranciers moeten kunnen aantonen dat hun systemen voldoen aan de eisen van de AI-verordening, wat kan leiden tot een verhoogde focus op gegevensbescherming en verantwoord datagebruik. Tegelijkertijd biedt de regelgeving kansen voor Europese aanbieders om een gelijk speelveld te creëren, mits ze voldoen aan de nieuwe normen. In de komende maanden zullen de reacties van aanbieders worden geëvalueerd, wat kan resulteren in helderdere veiligheidslabels en verbeterde documentatie bij AI-diensten.

Lees het volledige artikel van AI Insider.