OpenAI ChatGPT: Denkt het meer dan het zegt?

Recente onderzoeksresultaten tonen aan dat grote taalmodellen zoals GPT-4o, Gemini, Claude 3.5 en Llama 3 meer interne denkprocessen hebben dan in hun uiteindelijke output zichtbaar is. Door middel van nieuwe analysemethoden kunnen wetenschappers verborgen lagen van deze modellen bestuderen. Dit belangwekkende inzicht heeft gevolgen voor de discussie over bewustzijn in AI, vooral in het licht van de Europese AI-verordening, die producenten verplicht tot meer transparantie.

De werking van taalmodellen is gebaseerd op kansberekeningen en het genereren van tekst. Tijdens dit proces ontstaan interne representaties die niet altijd de uiteindelijke antwoorden beïnvloeden. Dit kan het gevolg zijn van veiligheidsregels of slecht geformuleerde vragen waardoor nuttige informatie verloren gaat. Het interne 'weten' van een model kan hierdoor impliciet zijn. Ontwikkelaars van bedrijven als OpenAI en Google ontwerpen deze modellen namelijk met het oog op bruikbaarheid en veiligheid, wat vaak ten koste gaat van de volledigheid van de antwoorden.

Wetenschappers maken gebruik van innovatieve tools zoals probes en sparse autoencoders om deze verborgen signalen te ontsluiten. Deze technieken helpen om de complexe interne werking van modellen te begrijpen, wat van belang is voor het verbeteren van de uitlegbaarheid. De resultaten tonen aan dat de interne representaties van modellen vaak informatie bevatten die niet in de gecommuniceerde output verschijnt, waardoor er een belangrijke discrepantie ontstaat tussen wat een model intern 'denkt' en wat het daadwerkelijk deelt.

Toch betekent de aanwezigheid van deze interne representaties niet dat de modellen zelf bewustzijn hebben. In de huidige wetenschap wordt bewustzijn gedefinieerd als subjectieve ervaring, wat statistische modellen simpelweg niet bezitten. Dit onderscheid is cruciaal voor beleidsvorming en publieke communicatie. De focus moet dan ook liggen op het begrijpen van de interne stappen en afwegingen van de modellen om de risico's en mogelijkheden beter te beheren, vooral in sectoren waar beslissingen met grote impact moeten worden genomen. De EU AI-verordening die in fasen wordt geïmplementeerd, vereist meer documenten en evaluaties van AI-systemen, waarbij techniek zoals probes en autoencoders ondersteuning kan bieden bij deze verplichtingen.

Lees het volledige artikel van AI Insider.