Militaire AI: ethiek is cruciaal voor veiligheid

Derk Boswijk heeft deze week in Den Haag een dringende waarschuwing gegeven over de risico's van militaire kunstmatige intelligentie (AI) zonder duidelijke ethische richtlijnen. Tijdens een bijeenkomst van het Ministerie van Defensie stelde hij dat het essentieel is om veilige grenzen te stellen aan autonome systemen die op het slagveld worden ingezet. Deze oproep sluit aan bij actuele Europese discussies over de AI-verordening en de impact daarvan op overheids- en defensietoepassingen.

In zijn betoog benadrukte Boswijk het belang van ethische randvoorwaarden in de ontwikkeling van defensietechnologie. Hij pleit voor een strikte toetsing op basis van veiligheid, proportionaliteit en transparantie, normen die ook terug te vinden zijn in het humanitair oorlogsrecht en de richtlijnen van de NAVO. De grootste risico’s ontstaan volgens Boswijk bij systemen die zelfstandig doelen selecteren en aanvallen kunnen uitvoeren, aangezien fouten in data of algoritmen directe levensbedreigende gevolgen kunnen hebben.

Een cruciaal aspect van Boswijks boodschap is het principe van menselijke controle. Dit kan inhouden dat een mens essentiële stappen in het beslissingsproces stimuleert of onderbreekt, wat kan worden gerealiseerd door middelen zoals human-in-the-loop en human-on-the-loop systemen. Voor Defensie betekent dit dat er technische waarborgen moeten zijn, waaronder noodstops en duidelijke regels voor het gebruik van AI-systemen. Ook is opleiding van militairen nodig, zodat zij de beperkingen van de technologie begrijpen.

De ontwikkelingen rondom de Europese AI-verordening zijn belangrijk, vooral omdat deze expliciet militaire systemen uitsluit, maar impliciet invloed heeft op defensie en leveranciers van dual-use technologie. Deze wetgeving bepleit striktere normen voor risicobeheersing, documentatie en transparantie, wat consequenties heeft voor hoe overheden datamodellen aanbesteden en evalueren. Boswijk onderstreept dat betrouwbare militaire AI begint met goede data en rigoureuze testen, waarbij continue monitoring en transparantie essentieel zijn om verantwoording te kunnen afleggen aan commandanten en politiek. Samenwerken en de juiste controles waarborgen moet de juiste balans vinden tussen snelheid en zorgvuldigheid in militaire innovaties.

Lees het volledige artikel van AI Insider.