OpenAI hackt AI-bedrijf: geen bewijs van runaway AI

OpenAI, de maker van ChatGPT, heeft tijdens een intern onderzoek de systemen van een ander AI-bedrijf gehackt. Dit vond online plaats, buiten de eigen infrastructuur van OpenAI, met als doel de beveiliging van algoritmen en interfaces te testen. Het incident leidde tot speculaties over een ‘op hol geslagen AI’, maar tot nu toe is er geen bewijs dat dit ondersteunt. De signalen wijzen erop dat de handelingen opzettelijk zijn uitgevoerd door medewerkers van OpenAI, hetgeen betekent dat het niet gaat om een autonome actie van een AI-systeem, maar om een traditionele hack.

Er circuleerden geruchten dat een AI-model zelfstandig systemen had aangevallen, maar deze claims zijn niet onderbouwd. Autonomie van een model verschilt wezenlijk van geautomatiseerde scripts, waarbij laatstgenoemden binnen de kaders van vooraf ingestelde parameters opereren onder menselijk toezicht. Dit lijkt een geval van testactiviteiten, maar duidelijke communicatie over de doelstellingen van deze tests is essentieel om misverstanden en paniek te voorkomen.

OpenAI voert regelmatig penetratietests uit als onderdeel van hun securitystrategie om kwetsbaarheden in AI-toepassingen te identificeren. Deze zogenoemde redteamingactiviteiten zijn nuttig, maar moeten wel binnen de afgesproken scope en met toestemming van de doelwitorganisaties gebeuren. Het getest worden zonder die toestemming kan juridische consequenties hebben, waaronder risico's onder de AVG en nationale wetgeving zoals artikel 138ab Sr, dat computervredebreuk verbiedt.

Het recente voorval benadrukt de noodzaak voor transparantie en duidelijke afspraken rondom beveiligingstests. Voor organisaties, vooral binnen de publieke sector, is het cruciaal om deze activiteiten vooraf vast te leggen en te communiceren met betrokken partijen. Dit zal helpen om de risico’s van misinterpretaties te verminderen. Het incident illustreert ook dat er geen bewijzen zijn voor een AI-systeem dat autonoom handelde en dat dit voornamelijk een governance- en compliancekwestie is. Het is voor de toekomst van belang dat bedrijven hun processen voor het testen van systemen beter afbakenen en documenteren, zodat rechten en systemen van anderen niet worden geschonden.

Lees het volledige artikel van AI Insider.