PAX: VN moet killer robots zo snel mogelijk verbieden - Vredesorganisatie PAX
https://www.paxvoorvrede.nl/newsroom/pax-vn-moet-killer-robots-zo-snel-mogelijk-verbieden
Want heeft de mens straks nog een rol bij killer robots, of kunnen die in de toekomst autonoom hun gang gaan en hoe erg is dat? De VN heeft nog nooit zoveel aandacht gegeven aan killer robots. En terecht, de techniek dendert voort, de diplomatie is traag. Vorig jaar spraken 22 landen zich al uit voor een verbod op killer robots. Daarnaast is er een steeds grotere groep landen die zich zorgen maakt over autonome wapens. Ook experts in robotica en kunstmatige intelligentie roepen op tot een verbod.
Nederland en killer robots
Het Nederlandse standpunt over autonome wapensystemen is gebaseerd op een rapport van twee adviesraden uit 2015. PAX is kritisch over dit rapport en het Nederlandse beleid dat hieruit volgde. Hoofdbezwaar van PAX is dat dit beleid stelt dat menselijke controle in de programmeerfase voorafgaand aan de inzet voldoende kan zijn en dat menselijke controle over de selectie en aanval van doelen niet altijd nodig is. Het Nederlandse beleid geldt tot en met 2020. PAX hoopt dat een eventuele update van het beleid de noodzaak voor betekenisvolle menselijke controle over het selecteren en aanvallen van doelen stelt als een fundamentele eis voor het garanderen van juridische en ethische normen.
En er is een flink aantal bezwaren. Het beeld van een rationele robot die alleen wenselijke beslissingen neemt, is naïef. Het ethische dilemma: mogen machines beslissingen nemen over leven en dood? Het juridisch dilemma: wie is verantwoordelijk voor het handelen van een killer robot? De programmeur, de commandant die de robot inzet, of de machine zelf? Het veiligheidsdilemma: wat als een dictator of terroristen deze wapens in handen krijgen? Temeer omdat de killer robots niet alleen door 'ons', maar ook tegen 'ons' kunnen worden gebruikt.
En wat is dan de oplossing? PAX is van mening dat mensen altijd betekenisvolle controle moeten houden over de selectie en het uitschakelen van doelwitten en dat dit vastgelegd moet worden in een internationaal juridisch bindend verdrag.