Adviesraad: inzet van autonome wapens moet altijd onder menselijke controle plaatsvinden

30 oktober 2015


Den Haag, 30 oktober 2015
 

Bij de inzet van autonome wapens zal altijd sprake moeten zijn van ‘betekenisvolle menselijke controle’. Dat schrijven de Adviesraad voor Internationale Vraagstukken (AIV) en de Commissie van Advies inzake Volkenrechtelijke Vraagstukken (CAVV) in het vandaag verschenen advies ‘Autonome wapensystemen: de noodzaak van betekenisvolle menselijke controle’. Autonome wapens zijn wapens die na activering vijandelijke doelen selecteren en aanvallen, zonder directe menselijke betrokkenheid. Het autonome wapen kiest alleen doelen die voldoen aan door de mens vooraf geprogrammeerde kenmerken. De mens bepaalt ook het gebied waar het wapen naar doelen zoekt en de tijdsduur van inzet. De mens speelt dus een cruciale rol tijdens de besluitvorming voordat het wapen wordt ingezet. Het internationale recht dat het gebruik van geweld reguleert, is ook van toepassing op autonome wapens. Militairen zullen moeten afwegen of inzet van autonome wapens in een specifieke context te rechtvaardigen is conform de eisen van het internationaal recht en ethische beginselen. Zolang de mens blijft beslissen over de inzet van autonome wapens kunnen mensen aansprakelijk worden gesteld als de regels van het recht worden geschonden.
 

Toekomstige inzet van autonome wapens

Autonomie wordt al decennia toegepast in offensieve wapens (bijvoorbeeld in fire and forget wapens) en in defensieve wapens zoals Patriot grond-luchtdoelraketten. Autonome wapens kunnen het aantal slachtoffers beperken, zowel onder eigen troepen als onder de burgerbevolking.

Het advies acht het onwaarschijnlijk dat autonome wapens de rol van de mens op het slagveld volledig of substantieel zullen overnemen. De aard van moderne conflicten compliceert namelijk de inzet van deze wapens. Ten eerste bevinden militaire doelen zich steeds vaker in gebieden met veel burgers. Ten tweede is het winnen van de hearts and minds van de bevolking vaak belangrijk. In dit soort conflicten zal de mens daarom een cruciale rol blijven spelen.

Het advies acht het onwaarschijnlijk dat de ontwikkeling van kunstmatige intelligentie er de komende decennia toe zal leiden dat autonome wapens aan menselijke controle kunnen ontsnappen. Het advies sluit echter niet uit dat als gevolg van de toenemende complexiteit van autonome wapens menselijke controle in de toekomst ten dele of grotendeels verloren kan gaan. Daarom is het belangrijk dat ontwikkelingen op het gebied van kunstmatige intelligentie en robotica nauwgezet worden gevolgd.

Het advies acht een moratorium op de ontwikkeling van autonome wapens op dit moment niet wenselijk en niet haalbaar. Kennis op het gebied van de ontwikkeling van deze wapens is cruciaal om goed inzicht te verwerven in de ethische, juridische en technische aspecten van autonome wapens. De technologie die nodig is om deze wapens te ontwikkelen kent ook civiele toepassingen. Het is daarom moeilijk onderscheid te maken tussen wat verboden zou zijn en wat niet. Verder zullen naar verwachting slechts een handvol staten een eventueel moratorium of verbod van autonome wapens steunen. Het advies sluit evenwel niet uit dat ontwikkelingen op het gebied van kunstmatige intelligentie en robotica in de toekomst kunnen vragen om herziening van dit standpunt.


Internationaal recht en aansprakelijkheid

Het humanitair oorlogsrecht stelt eisen aan de inzet van wapens. Wapens mogen alleen dan worden ingezet, wanneer er ten eerste onderscheid kan worden gemaakt tussen militaire doelen en burgers of burgerobjecten. Daarnaast moet er een afweging worden gemaakt tussen militair voordeel en nevenschade (proportionaliteit). Ten derde moeten burgers en burgerobjecten zoveel mogelijk gevrijwaard zijn van geweldstoepassing (voorzorg). De inzet van autonome wapens zal in specifieke situaties, zoals inzet op volle zee, onder water, in het luchtruim en in nauwelijks bevolkte gebieden, meestal aan deze eisen kunnen voldoen. Maar in veel andere situaties kan inzet van autonome wapens problematisch zijn, omdat niet bij voorbaat voldoende zekerheid bestaat dat aan deze drie eisen kan worden voldaan. Inzet waarbij deze eisen niet in acht worden genomen is daarmee onrechtmatig. Een commandant kan in dergelijke situaties aansprakelijk worden gehouden voor risicovolle inzet van autonome wapens die schendingen van humanitair oorlogsrecht tot gevolg hebben.