Anthropic-medewerkers overwegen grondkoop in VS

Medewerkers van Anthropic, een prominente speler in de kunstmatige intelligentie, maken zich zorgen over een mogelijke ontsporing van AI-technologie. Volgens berichten zijn veteranen van het bedrijf bezig met noodplannen, inclusief de overweging om grond te kopen in afgelegen delen van de Verenigde Staten. Deze plannen zijn niet zomaar fantasieën, maar blijken afkomstig uit gesprekken die teruggaan naar de beginjaren van het bedrijf, waar het idee van een 'Manhattan Project' scenario werd besproken. Dit zou een verhuizing naar een goed beveiligde, elektromagnetisch afgeschermde locatie in de woestijn inhouden.

Volgens een verslag hebben enkele langstzittende medewerkers hun bezorgdheid uitgebracht over de ontwikkelingen in de AI-sector en beschouwen zij het als noodzakelijk om voorbereid te zijn op een crisis. De gesprekken wijzen erop dat het bedrijf nu concrete back-upprojecten aan het overwegen is, wat aangeeft dat de angsten over ontwrichtende AI niet alleen zijn vastgelegd in beleidsdocumenten, maar ook weerspiegeld worden in persoonlijke plannen van deze medewerkers.

Het rapport benadrukt de sterke connectie van de oprichters van Anthropic met de beweging van Effective Altruism. Veel van de betrokken medewerkers maken deel uit van een netwerk van 'doomers' in de Bay Area, die zich al jaren zorgen maken over mogelijke catastrofale gebeurtenissen. Eliezer Yudkowsky, een invloedrijke figuur in deze kring, heeft al sinds de vroege jaren 2000 alarm geslagen over ongecontroleerde AI. Het is interessant om te zien hoe de huidige angsten van deze medewerkers worden voortgevloeid uit een bredere bezorgdheid over existentiële risico's, die voorheen gericht was op andere bedreigingen, zoals asteroïdeninslagen en supervulkanen.

De overweging om afgelegen land aan te kopen past dus binnen deze langlopende denkwijze over het beheren van risico's, en illustreert de serieuze benadering die sommige technologiebedrijven dan wel hun medewerkers aan de dag leggen bij het benaderen van de toekomst van AI-technologie.

Lees het volledige artikel van AI Insider.