OpenAI’s GPT-6 Astra speelt Portal volledig uit

Het AI-model GPT-6 Astra heeft met succes de puzzelgame Portal zelfstandig uitgespeeld, zoals te zien was tijdens een recente online demonstratie. Dit systeem navigeerde door alle levels zonder handmatige hulp en demonstreerde zijn vermogen om complexe 3D-omgevingen te begrijpen en te besturen. De demonstratie roept belangrijke vragen op over de veiligheid van kunstmatige intelligentie en acteert relevant binnen de context van de nieuwe Europese AI-verordening voor overheden en bedrijven.

GPT-6 Astra functioneert als een vision-language-action model, wat inhoudt dat het beelden kan begrijpen, plannen maakt in natuurlijke taal en vervolgens acties uitvoert. In de uitdaging van Portal, waar logica en timing cruciaal zijn, moest het model objecten herkennen, routes kiezen en nauwkeurig springen. Dit proces heeft te maken met de noodzaak voor realtime waarneming en handelen, waarbij het model in korte cycli moet redeneren en actie ondernemen. Het succes in één spel garandeert echter niet dat dit ook werkt in andere toepassingen, gezien de veranderlijke aard van consumer software.

Een significante zorg is de herhaalbaarheid van de demonstratie. Zonder gedetailleerde logbestanden en meerdere runs is het moeilijk om de wetenschappelijke waarde van de claims te beoordelen. Transparantie over hulpmiddelen zoals hints of aangepaste instellingen is cruciaal voor het evalueren van de prestaties van het systeem. Ook zijn er veiligheidsrisico’s aan het zelfstandig opereren van AI-systemen verbonden. Ongewenste acties, zoals gegevensdeling of het verwijderen van bestanden, maken het noodzakelijk om adequate beperkingen, logging en sandboxing toe te passen.

Met betrekking tot de EU-regels moeten aanbieders van AI-systemen zoals GPT-6 Astra zich houden aan strikte eisen, waaronder risico-evaluaties en transparantie over trainingsdata. Dit heeft direct impact op Nederlandse instellingen die AI-agents willen implementeren in hun werkplekken. De aanpassing aan deze regelgeving biedt kansen voor de overheid om autonoom werkende systemen te integreren, maar vereist ook duidelijke kaders en een onafhankelijke evaluatie om te waarborgen dat de systemen voldoen aan de AVG en AI-act. Deze ontwikkelingen zijn cruciaal voor het waarborgen van een veilige en eerlijke toepassing van AI in alle sectoren.

Lees het volledige artikel van AI Insider.