Google verliest DeepMind-onderzoekers om militair AI-gebruik

Twee onderzoekers van Google DeepMind hebben hun functie neergelegd uit onvrede over de samenwerking tussen Google en het Amerikaanse ministerie van Defensie. Sofia Liguori en Andreas Kirsch hebben kritiek geuit op de mogelijkheid dat het leger de AI-modellen van Google gebruikt voor doeleinden die ze niet kunnen controleren. Liguori geeft aan zich te schamen voor het werken bij Google, terwijl Kirsch benadrukt dat Google geen vetorecht heeft over hoe de AI door het Pentagon wordt ingezet.

De aanleiding voor hun vertrek is een contract dat Google in het voorjaar heeft afgesloten met het Pentagon. Dit contract stelt het leger in staat om de AI-technologie van Google in geheime omgevingen te gebruiken voor diverse overheidsdoeleinden. Hoewel Google stelt dat de AI niet mag worden gebruikt voor massasurveillance of autonome wapens zonder menselijk toezicht, houden de onderzoekers serieuze twijfels over de werkelijke impact van deze afspraken, gezien het gebrek aan controle en transparantie.

De kritiek van beide onderzoekers komt niet alleen vanuit hun persoonlijke ervaringen, maar ook uit een bredere onvrede binnen Google. Medewerkers zijn bezorgd over hun invloed en de mogelijkheden om kritiek te uiten. Liguori opmerkt dat er een cultuur van angst heerst, en dat veel collega's het gevoel hebben dat ze worden gecontroleerd. Google heeft inmiddels verklaard dat medewerkers hun zorgen veilig kunnen uiten, hoewel de medewerkers in de praktijk zich vrijhouden van kritiek vanwege strenge contractuele bepalingen.

De kwestie of en hoe menselijk toezicht toegepast wordt op AI-toepassingen in militaire omgevingen is van groot belang. Nederland heeft in 2023 het initiatief genomen voor een wereldtop over verantwoord gebruik van AI door legers, waarbij 60 landen hebben ondertekend dat AI onder menselijke controle moet blijven. Het blijft echter onduidelijk hoe dit toezicht daadwerkelijk wordt gerealiseerd, vooral gezien de zelfregulerende aard van contracten zoals die van Google met het Pentagon.

Lees het volledige artikel van AI Insider.