Microsoft-topman pleit voor AI-noodrem

Satya Nadella, de topman van Microsoft, pleit voor de implementatie van een noodrem in AI-systemen. Dit houdt in dat een bevoegde persoon te allen tijde in staat moet zijn om deze systemen te pauzeren of uit te schakelen wanneer dat nodig is. In een recente uiting op het platform X, heeft Nadella benadrukt dat bedrijven hun strategieën voor het opbouwen van vertrouwen in AI dienen te heroverwegen.

Nadella stelt voor om de beveiliging van AI-systemen te scheiden van het model zelf. Dit betekent dat de software die het AI-model aanstuurt, onafhankelijk moet zijn van de functionaliteit van dat model. Deze scheiding maakt het mogelijk om vooraf gedefinieerde veiligheidsmaatregelen toe te passen, zodat ongewenst gedrag van het AI-systeem kan worden gestopt door een afzonderlijke controlemechanisme.

Naast het idee van een noodrem benadrukt Nadella ook het belang van een gedetailleerde registratie van elke betekenisvolle actie die door een AI-systeem wordt uitgevoerd. Deze registratie moet transparant en manipulatiebestendig zijn, zodat bevoegde personen inzicht hebben in de handelingen van het systeem en in real-time kunnen ingrijpen indien nodig. Dit gaat vooral om situaties waarin AI-handelingen ondernomen worden, zoals het bijwerken van klantgegevens of het versturen van berichten.

Deze aanvragen van Nadella zijn vooral relevant voor organisaties die AI toepassen in hun operationele processen. Het is cruciaal dat bedrijven van tevoren definiëren wie er verantwoordelijk is voor het beheer en de controle van AI-systemen, evenals de mogelijkheden om deze systemen tijdens hun werking te stoppen. Nadella draagt geen specifieke Microsoft-functies voor, maar stelt belangrijke principes voor: de scheiding van bevoegdheden, controleerbaarheid van acties en de vermogen om op ieder moment in te grijpen.

Lees het volledige artikel van AI Insider.