Hacktron AI kraakte OpenAI met Opus 5

Hacktron AI heeft tijdens een bug-bountyprogramma met succes bij OpenAI ingegrepen door twee kritieke kwetsbaarheden te combineren. Op 18 september werd bekend dat de onderzoekers toegang hadden verkregen tot meerdere ChatGPT-accounts van OpenAI-medewerkers. Dit incident legt belangrijke kwesties bloot met betrekking tot AI-veiligheid, vooral nu grote AI-bedrijven onder druk staan om hun systemen te beveiligen.

De onderzoekers, die gebruik maakten van de AI-modellen van Anthropic, wisten de kwetsbaarheden te exploiteren via de externe software van OpenAI, Discourse. De aanval startte met een onschuldige afbeeldingupload, die via een keten van tools leidde naar een kwetsbaarheid in libheif, een library die betrokken was bij het decoderen van afbeeldingsformaten. Ondanks dat de bug enige tijd geleden is opgelost door de makers van libheif, ontbrak het aan een officiële CVE-registratie, waardoor de kwetsbaarheid in gebruik bleef bij OpenAI's Discourse-installatie.

Na toegang tot de servers konden de onderzoekers een medewerkeraccount overnemen, dat was gekoppeld aan de GitHub-organisatie van OpenAI, waardoor de impact groter werd dan aanvankelijk voorzien. Dit incident toont aan hoe kwetsbaarheden in externe software doorwerken in interne systemen en wijst tevens op de noodzaak van goede registratie van beveiligingsoplossingen. De succesvolle hack met Opus 5 wijst op een toenemende vaardigheid van AI-modellen om kwetsbaarheden te identificeren en te exploiteren, een ontwikkeling die de aandacht vestigt op de noodzaak voor striktere beveiligingsmaatregelen binnen de sector.

OpenAI heeft inmiddels laten weten dat de aangewezen kwetsbaarheden zijn verholpen, wat samenvalt met de groeiende druk op techbedrijven om hun beveiliging te verbeteren. De gebeurtenissen rondom Hacktron en de rol van goedkope en toegankelijke AI-tools onderstrepen de snelheid waarmee cyberaanvallen kunnen worden uitgevoerd. Dit roept vragen op over hoe AI-ontwikkelaars en platforms gaan omgaan met de groeiende capaciteiten van modellen en de hieraan verbonden beveiligingsrisico's.

Lees het volledige artikel van AI Insider.