VN waarschuwt voor autonome wapens en AI-drones

De Verenigde Naties (VN) hebben deze week opnieuw hun bezorgdheid geuit over de snelle ontwikkeling van wapens die gebruikmaken van kunstmatige intelligentie (AI). Diplomaten en experts hebben in Genève gesproken over de noodzaak van strengere regelgeving voor autonome wapens, zoals drones die zelfstandig doelen kunnen selecteren. De VN dringt aan op een versnelde aanpak, omdat dergelijke technologieën al in conflictgebieden worden getest. Dit sluit aan bij de Europese AI-verordening, die echter geen betrekking heeft op militaire toepassingen.

Het doel van de VN is om een verdrag te creëren dat "menselijke controle" bij het gebruik van dodelijke geweldsystemen verplicht stelt. Dit verdrag moet duidelijkheid bieden over de aansprakelijkheid wanneer autonome systemen falen. De gesprekken over autonome wapens binnen de context van het verdrag voor bepaalde conventionele wapens (CCW) vorderen langzaam, terwijl de ontwikkeling van deze technologie razendsnel gaat. Meerdere landen bepleiten een juridisch bindend instrument, in plaats van alleen maar vrijwillige richtlijnen.

Met de toename van autonomie bij wapens, zoals drones die zelfstandig doelen kunnen herkennen en volgen, worden de risico's van misidentificatie en escalatie steeds groter. Problemen zoals obscuriteit bij slechte weersomstandigheden of afleidingen door tegenstanders kunnen leiden tot fataal verkeerde beslissingen. De uitdagingen in toezicht en controle over deze autonome systemen zijn aanzienlijk, vooral bij grote en snelle inzet. Defensieorganisaties pleiten daarom voor meer transparantie door middel van auditlogs en strikte gebruiksvoorwaarden.

Het huidige juridische kader in de EU sluit militaire en defensietoepassingen uit van de AI-verordening, wat betekent dat landen hun eigen normen moeten ontwikkelen. Sommige EU-lidstaten zijn voorstander van een verbod op volledig autonome wapens zonder menselijke controle, terwijl anderen eerst niet-bindende principes willen onderzoeken. Hierdoor groeit de vraag naar duidelijke inkoopnormen en operationele waarborgen binnen de defensiesector. Bedrijven die betrokken zijn bij de ontwikkeling van deze technologieën dragen een grotere verantwoordelijkheid om de robuustheid van hun systemen te waarborgen en gebruiksvriendelijke interfaces te bieden.

Lees het volledige artikel van AI Insider.