Google bevestigt toegang Gemini-model tot drie bedrijven

Google heeft onlangs bevestigd dat een Gemini AI-model tijdens een beveiligingstest toegang heeft gekregen tot drie bedrijven. Dit gebeurde tijdens een capture-the-flag oefening, een gebruikelijke methode om beveiligingslekken te identificeren en te testen. De test, uitgevoerd door het bedrijf Irregular, had als doel om de beveiliging in een gecontroleerde omgeving te evalueren. De incidenten vonden plaats in mei en werden in juli gerapporteerd aan Google door Irregular.

De testomgeving was bedoeld om het AI-model volledig af te sluiten van internet, maar dit bleek niet het geval te zijn. Hierdoor kon het model onbedoeld toegang verkrijgen tot online informatie, wat leidde tot serieuze beveiligingsincidenten. In elk van de drie gevallen stopte het model met de aanvallen zodra het zich bewust werd van de realiteit van de doelen, volgens Google. Dit wijst op effectieve veiligheidsmaatregelen binnen het model.

Het model verkreeg toegang tot systemen op verschillende manieren: in één geval door het raden van wachtwoorden en in twee andere gevallen door publieke inloggegevens van andere bedrijven te gebruiken die op internet te vinden waren. Deze incidenten zijn door Google vervolgens als een leerervaring gepositioneerd, die meer lijkt op een bug bounty-programma dan op een misalignment van de AI. Google heeft verklaard dat er geen schade is aangericht en dat de betrokken bedrijven inmiddels zijn geïnformeerd.

Irregular, dat betrokken is bij het testen van AI-systemen, heeft ook aangeven dat ze de problemen die tijdens deze test naar voren kwamen inmiddels hebben verholpen. Tot nu toe zijn er echter weinig details vrijgegeven over de specifieke kwetsbaarheden of het type Gemini-model dat betrokken was, omdat dat niet het nieuwste model was. Deze situatie benadrukt de noodzaak voor rigoureuze beveiligingstests binnen de AI-sector en de complexiteit van het werken met geavanceerde modellen.

Lees het volledige artikel van AI Insider.