AI-drone kiest mogelijk burgers als doelwit

In Oekraïne lijkt het voor het eerst voor te komen dat een Russische AI-drone zelfstandig een burger als doelwit heeft gekozen. Onlangs verschenen online beelden van een aanval door de Lancet-drone van ZALA Aero, een divisie van Kalashnikov Concern. Analisten signaleren dat de nieuwe software voor automatische doelherkenning een rol zou kunnen hebben gespeeld in de schotbeslissing. Dit voorval roept zorgen op over de implicaties voor het humanitair oorlogsrecht en de gevolgen voor militaire en defensiebeleid in Europa.

De opnames tonen de drone die een individu volgt en vervolgens aanvalt, zonder enige zichtbare militaire context, wat de vrees bevestigt dat hier een burger als doelwit werd geselecteerd. Het staat niet vast of de aanval volledig autonoom was, aangezien veel drones opereren met een mens als tussenpersoon die kan ingrijpen. Wanneer de software echter een grote rol speelt, kan er een aanzienlijke verschuiving in de controle plaatsvinden, wat mogelijk leidt tot een toename van fatale vergissingen.

De Lancet is geavanceerd uitgerust met automatische doelherkenning, een technologie die afhankelijk is van computervisie en duizenden voorbeelden om patronen te herkennen. Dit betekent dat de operator in plaats van zelf op zoek te gaan naar doelwitten nu voornamelijk kandidaten ontvangt van het systeem. Hierdoor neemt de kans op het onterecht beschouwen van een burger als bedreiging toe, zeker als de drempelwaarden niet goed zijn afgesteld. De complexiteit van verantwoordelijkheden in geval van fouten is zorgwekkend, met belangrijke vragen over wie aansprakelijk is voor verkeerd gedefinieerde doelwitten: de ontwikkelaar, de bevelhebber of de operator.

De EU-wetgeving sluit militaire toepassingen uit van de AI-verordening, waardoor staten zoals Nederland voor hun defensiebeleid eigen richtlijnen moeten formuleren. De Nederlandse Defensie benadrukt dat menselijke controle cruciaal blijft en dat operatoren goed geïnformeerd moeten zijn om besluiten te nemen. Dit vraagt om transparantie in systemen en solide mechanismen voor toezicht en documentatie. In het licht van deze ontwikkeling moeten beleidsmakers voorzichtig zijn, om te voorkomen dat automatisering leidt tot een afname van menselijke verantwoordelijkheid in beslissingen van groot belang.

Lees het volledige artikel van AI Insider.