VS introduceert 'AI Kill Switch Act' voor toezicht

In de Verenigde Staten zijn congresleden bezig met de ontwikkeling van de AI Kill Switch Act, een wet die het mogelijk moet maken om kunstmatige-intelligentiesystemen snel uit te schakelen bij acuut gevaar. Dit initiatief is ontstaan uit zorgen over de veiligheid van AI, de impact op verkiezingen en de risico’s voor kritieke infrastructuur. Het voorstel, dat momenteel in Washington verder wordt uitgewerkt, kan aanzienlijke gevolgen hebben voor zowel de Europese AI-verordening als de verantwoordelijkheden van overheden en bedrijven.

De AI Kill Switch Act heeft als doel een juridische noodstop te creëren voor algoritmen die potentieel schadelijke gevolgen kunnen hebben, zoals onjuiste medische adviezen of cyberaanvallen. De maatregel richt zich op het verminderen van directe, aantoonbare risico’s en vereist mogelijk dat aanbieders van modellen en cloudplatforms een ingebouwde "uitknop" of veilige modus implementeren. Duidelijke criteria zijn noodzakelijk om ervoor te zorgen dat niet elk incident automatisch leidt tot een stillegging van systemen.

De verantwoordelijkheid voor het uitschakelen van systemen zou waarschijnlijk toekomen aan federale toezichthouders en veiligheidsinstanties, die kunnen ingrijpen bij bewezen acute risico’s op gebieden zoals energie en gezondheidszorg. Hierbij zijn juridische waarborgen essentieel, zoals schriftelijke onderbouwing en het snel horen van aanbieders, om misbruik en overreach te voorkomen. Een zorgpunt betreft de balans tussen noodzakelijke ingrepen en het beschermen van grondrechten, persvrijheid en innovatie.

Met de opkomst van de EU-normen, zoals de AI-verordening, moeten Nederlandse bedrijven rekening houden met de haalbaarheid van een noodstop voor open source-modellen. Dit heeft implicaties voor de uitvoering en coördinatie van AI-toezicht, vooral voor de publieke sector. Organisaties die AI-diensten bieden in de VS kunnen geconfronteerd worden met eisen voor een noodstopfunctie, en dienen nu al maatregelen te nemen om auditlogs en herstelplannen te waarborgen. Dit omvat ook transparante communicatie met toezichthouders om compliance te waarborgen.

Lees het volledige artikel van AI Insider.