Kans op AI-destructie groter dan 10% in 10 jaar

Een gerenommeerde AI-veiligheidsonderzoeker heeft gewaarschuwd dat kunstmatige intelligentie, zoals ChatGPT van OpenAI, binnen tien jaar een kans van meer dan tien procent heeft om de mensheid te vernietigen. Deze uitspraak, gedaan in een interview in de Verenigde Staten, plaatst de discussie over de risico's van krachtige AI-systemen weer op de agenda. Met organisaties zoals OpenAI en Google DeepMind die hun modellen versneld verbeteren, is het tijdsbestek voor effectieve veiligheidsmaatregelen aan de korte kant. De expert benadrukt het belang van robuuste veiligheidsprotocollen en noodprocedures om de risico's te beperken.

De expert spreekt over de bezorgdheid dat AI-systemen, vaak aangeduid als “frontiermodellen”, in staat kunnen zijn om onafhankelijk doelen na te jagen, buiten het gezichtsveld van menselijke controle. Dit roept de vraag op welke verantwoordelijkheden ontwikkelaars en toezichthouders hebben. Als de inschatting van de expert klopt, zal dit gevolgen hebben voor de implementatie van AI-initiatieven, waarbij rigoureuze richtlijnen en verantwoording van essentieel belang zijn. Het creëren van een regulerend kader, zoals de Europese AI-verordening, die richtlijnen biedt rondom risicobeheer, is daarom van groot belang.

Desondanks is er geen wetenschappelijke consensus over de kans van destructie door AI. Terwijl sommige experts, zoals Geoffrey Hinton, de risico's serieus nemen, zijn anderen zoals Yann LeCun van Meta sceptisch over de haalbaarheid van dergelijke doemscenario's. Wat wel unaniem erkend wordt, is de dringende noodzaak aan betere testmethoden en veiligheidsnormen, vooral omdat huidige evaluaties vaak niet de werkelijke prestaties in de praktijk weerspiegelen. De Europese AI-verordening introduceert risicoklassen en strikte eisen voor systemen met hoge risico's, wat kan helpen bij de waarborging van veiligheid en transparantie.

Voor overheden en bedrijven betekent dit een dringende oproep tot actie. Organisaties moeten nu al beginnen met het uitvoeren van risicoanalyses en het implementeren van waarborgen, zoals menselijke controle en een noodstopfunctie in AI-toepassingen. Met de combinatie van de AI Act en de Algemene Verordening Gegevensbescherming (AVG) wordt de basis gelegd voor veilig gebruik van AI in cruciale gebieden zoals zorg en onderwijs. Terwijl AI blijft evolueren, blijft het een uitdaging om de balans te vinden tussen innovatie en het waarborgen van de nodige veiligheidsmaatregelen.

Lees het volledige artikel van AI Insider.