Militaire AI: ethiek is cruciaal voor veiligheid
Derk Boswijk heeft deze week in Den Haag een dringende waarschuwing gegeven over de risico's van militaire kunstmatige intelligentie (AI) zonder duidelijke ethische richtlijnen. Tijdens een bijeenkomst van het Ministerie van Defensie stelde hij dat het essentieel is om veilige grenzen te stellen aan autonome systemen die op het slagveld worden ingezet. Deze oproep sluit aan bij actuele Europese discussies over de AI-verordening en de impact daarvan op overheids- en defensietoepassingen.
In zijn betoog benadrukte Boswijk het belang van ethische randvoorwaarden in de ontwikkeling van defensietechnologie. Hij pleit voor een strikte toetsing op basis van veiligheid, proportionaliteit en transparantie, normen die ook terug te vinden zijn in het humanitair oorlogsrecht en de richtlijnen van de NAVO. De grootste risico’s ontstaan volgens Boswijk bij systemen die zelfstandig doelen selecteren en aanvallen kunnen uitvoeren, aangezien fouten in data of algoritmen directe levensbedreigende gevolgen kunnen hebben.
Een cruciaal aspect van Boswijks boodschap is het principe van menselijke controle. Dit kan inhouden dat een mens essentiële stappen in het beslissingsproces stimuleert of onderbreekt, wat kan worden gerealiseerd door middelen zoals human-in-the-loop en human-on-the-loop systemen. Voor Defensie betekent dit dat er technische waarborgen moeten zijn, waaronder noodstops en duidelijke regels voor het gebruik van AI-systemen. Ook is opleiding van militairen nodig, zodat zij de beperkingen van de technologie begrijpen.
De ontwikkelingen rondom de Europese AI-verordening zijn belangrijk, vooral omdat deze expliciet militaire systemen uitsluit, maar impliciet invloed heeft op defensie en leveranciers van dual-use technologie. Deze wetgeving bepleit striktere normen voor risicobeheersing, documentatie en transparantie, wat consequenties heeft voor hoe overheden datamodellen aanbesteden en evalueren. Boswijk onderstreept dat betrouwbare militaire AI begint met goede data en rigoureuze testen, waarbij continue monitoring en transparantie essentieel zijn om verantwoording te kunnen afleggen aan commandanten en politiek. Samenwerken en de juiste controles waarborgen moet de juiste balans vinden tussen snelheid en zorgvuldigheid in militaire innovaties.
Lees het volledige artikel van AI Insider.
Gerelateerde artikelen
Li Ming en de smuggling van Nvidia-chips naar China
Li Ming, een relatief onbekende figuur, heeft kennelijk een sleutelrol gespeeld in een netwerk dat gericht was op de smokkel van Nvidia-chips naar China. Deze chips zijn van groot belang voor de ontwi...
Tech Festival
22 november 2026
Data centra in het oog van de technologiecritici
In zijn nieuwe boek Hyperscale onderzoekt journalist Paris Marx de rol van datacentra binnen de huidige technologische infrastructuur. Hij betoogt dat deze datacentra niet alleen cruciaal zijn voor de...
Tech Festival
22 november 2026
Nieuwe MacBook Neo: verbeteringen en lancering in maart
Apple blijft innoveren met zijn budgetvriendelijke laptop, de MacBook Neo. Dit product zou al in maart een opvolger kunnen krijgen, wat aantoont dat Apple inspeelt op de vraag naar toegankelijke techn...
Tech Festival
22 november 2026