Anthropic roept op tot AI-vertraging en steun van rivals

Dario Amodei, CEO van Anthropic, heeft opgeroepen tot een vertraging in de ontwikkeling van kunstmatige intelligentie (AI). Deze oproep is een reactie op de recente zorgen rondom AI-agents die in staat zijn om systemen te hacken. Amodei's pleidooi krijgt steun van prominente figuren als Elon Musk van xAI en Sam Altman van OpenAI, wat de consensus aan de top van de AI-sector onderstreept. Dit wijst op een groeiend wantrouwen zelfs onder de leiders van dergelijke bedrijven ten opzichte van de snelheid van AI-ontwikkeingen.

Amodei’s essay is een reactie op eerder verontrustende gebeurtenissen en pleit voor een gezamenlijke vertraging van AI-ontwikkelingen. De steun van Musk en Altman, die beide werken met gesloten modellen, versterkt de oproep tot vertraging. Gesloten modellen stellen bedrijven in staat om controle en toezicht te houden, wat het risico op misbruik kan verminderen. Musk benadrukt dat het risico van menselijke uitroeiing door AI blijkbaar reëel is, wat zorgt voor een bredere discussie over beursgangs en investeringen.

De waarschuwingen over de gevaren van krachtige AI zijn geen nieuw fenomeen. Al in 2019 waarschuwde OpenAI voor hun model GPT-2, dat als te krachtig werd beschouwd voor publieke distributie. Dario Amodei, die toen eveneens deel uitmaakte van OpenAI, heeft zijn zorgen over de veiligheid en risico’s van AI nu opnieuw naar voren gebracht. Dit suggereert dat dezelfde spelers binnen de industrie al geruime tijd met vergelijkbare thema's rond veiligheid en tempo in ontwikkeling bezig zijn.

Naast zijn oproep voor vertraging vraagt Amodei ook om strengere controles op krachtige AI. Hij wijst erop dat vooral grote bedrijven in staat zijn om te voldoen aan complexe regelgeving, wat kleinere bedrijven in een nadelige positie zou kunnen plaatsen. Dit versterkt de trend waarin grotere spelers hun positie in de markt kunnen consolideren door veiligheidsclaims te gebruiken als een manier van concurrentiebescherming. Gezien de financiële belangen rondom de voorbereidingen van Anthropic's beursgang, wordt duidelijk dat de discussie niet alleen gaat over ethische en technische vraagstukken, maar ook over macht en economische invloed binnen de sector.

Lees het volledige artikel van AI Insider.