Waarschuwingen van AI-experts: Gevaren en regelgeving

Topfunctionarissen van leidende AI-bedrijven, waaronder OpenAI, Anthropic en Google, hebben deze week in Washington gewaarschuwd voor de potentieel dodelijke gevolgen van krachtige AI-systemen. Ze dringen aan op strikte wettelijke regels en onafhankelijke veiligheidskeuringen vóór de uitrol van zulke systemen. Dit komt toevallig samen met de discussies over de Europese AI-verordening, die zich richt op het reguleren van AI-technologie voor zowel overheid als bedrijfsleven.

De ontwikkelaars van systemen zoals GPT-4, Claude 3 en Gemini pleiten voor het verplicht maken van veiligheidsaudits en onafhankelijke onderzoeken voor de krachtigste datamodellen, ook wel bekend als frontier-modellen. Dit houdt in dat laboratoria die dergelijke AI-modellen trainen, een licentie moeten verkrijgen. Ze vragen ook om voortdurende monitoring van de rekenkracht, risicovolle functies en audits door onafhankelijke teams, alsook een noodknop voor onmiddellijke uitschakeling van een defect model. Deze maatregelen zijn bedoeld om de risico's van fouten, misbruik en verlies van controle te minimaliseren.

In de Verenigde Staten ontbreekt het op dit moment aan een alomvattende AI-wetgeving. Terwijl het Witte Huis richtlijnen heeft opgesteld via een Executive Order, blijven veel van de veiligheidsmaatregelen vrijwillig en versnipperd over verschillende instanties. Dit creëert een onduidelijkheid voor bedrijven, aangezien sommige staten hun eigen regels ontwikkelen, wat leidt tot een gefragmenteerd reguleringslandschap. De sector roept op tot nationale minimumnormen voor tests, incidentmeldingen en aansprakelijkheid om innovatie mogelijk te maken binnen duidelijke kaders.

De Europese AI-verordening, die in 2025 en 2026 in werking treedt, introduceert strengere regels voor hoge-risicosystemen. Voor overheden houdt dit in dat ze algoritmen moeten registreren en de impact van hun AI-systemen moeten beoordelen. Bedrijven die krachtige datamodellen ontwikkelen, worden aangespoord om hun veiligheidsprocessen te verbeteren en transparante documentatie te bieden. Het is cruciaal dat de eisen voor compliance en transparantie in acht worden genomen om de risico’s te beheersen die gepaard gaan met de inzet van krachtige AI.

Lees het volledige artikel van AI Insider.