Kritische oproep van 42 Royal Society-fellows over AI

In een open brief aan de president van de Royal Society hebben 42 fellows, waaronder gerenommeerde wiskundigen zoals Fields-medaillewinnaars, gewaarschuwd voor aanzienlijke risico's verbonden aan de voortgang van kunstmatige intelligentie (AI). De ondertekenaars, die geen banden hebben met AI-bedrijven, pleiten voor onmiddellijke acties van zowel de Britse overheid als de media om deze risico's onder de aandacht te brengen. Ze maken zich met name zorgen over de snelheid en schaal waarmee AI-systemen hun capaciteiten ontwikkelen.

De fellows wijzen niet enkel op recente wiskundige doorbraken, waarheen AI-modellen in staat blijken te zijn om grote open onderzoeksvragen op te lossen, zoals enkele van de Millennium-problemen. Hun waarschuwing heeft vooral betrekking op de bredere implicaties van deze technologische vooruitgang voor andere risicovolle domeinen, zoals cybersecurity, wapentechnologie, en de ontwikkeling van biologisch of chemisch gevaarlijke stoffen. De corresponderende zorgen gaan over de potentiële impact die vergelijkbare vooruitgang in die gebieden kan genereren.

Bovendien maken de fellows duidelijk dat de schattingen van AI-labs die het existentiële risico van AI boven tien procent schatten, niet als overwonnen hype dienen te worden beschouwd. Hiermee willen zij de nadruk leggen op de dringende noodzaak voor beleidsmakers om deze risico's serieus te nemen voordat het publiek zich bewust wordt van de risico's. De oproep voor snel handelen en publieke bewustwording is dan ook cruciaal, aangezien de tijd om adequaat te reageren mogelijk beperkt is.

De brief van deze fellows benadrukt de noodzaak van een actieve dialoog rondom de gevaren van AI, vooral in termen van technologie en veiligheid. Het potentieel voor ongelukken en de gevolgen van voortijdig handelen worden daarbij als grote zorgen genoemd. De oproep aan de Royal Society om te interveniëren richting de overheid en media is bedoeld om de discussie over deze problematiek te versnellen, met als doel om de samenleving rechtstatelijk voor te bereiden op de implicaties van een steeds machtiger wordende technologie.

Lees het volledige artikel van AI Insider.