Socialisten willen 'killerrobots' verbieden: 'Kan zo'n wapen zien wie een vijand is en wie een burger?' | De Morgen
✦NieuwsKillerrobots
Een drone van het Reaper-type onderweg. In Libië zou onlangs een drone zonder menselijke tussenkomst zijn overgegaan tot de aanval. Beeld RV
Vooruit wil het gebruik en de handel in 'killerrobots' verbieden in ons land. Dat zijn dodelijke oorlogswapens die door artificiële intelligentie autonoom zijn. 'De gevaren zijn te groot.'
✦Exclusief voor abonnees doorJeroen Van Horenbeek 2 juli 2021, 03:00
Een kijktip voor op een regenachtige zomeravond: de bekroonde documentaire AlphaGo op YouTube, waarin het verhaal van de gelijknamige computer wordt verteld. AlphaGo, een creatie van Google, zorgde in 2016 voor een sensatie door het laatste bastion van de denksport te veroveren: het oosterse bordspel go. Het eeuwenoude spel met zwarte en witte steentjes is in al zijn eenvoud zo complex dat het voor een computer haast onmogelijk leek om 's werelds beste menselijke spelers te verslaan. Niet dus.
AlphaGo kreeg talloze bestaande gopartijen voorgeschoteld en leerde zichzelf zo de winstkansen van elke zet afwegen. In maart 2016 versloeg AlphaGo de Zuid-Koreaanse grootmeester Lee Sedol, de achttienvoudige wereldkampioen, met een droge 4 tegen 1. De wereld was met verstomming geslagen. In oktober 2017, slechts anderhalf jaar later, werd AlphaGo Zero voorgesteld, een verbeterde versie van AlphaGo, die zijn oudere broertje na drie dagen oefenen met een genadeloze 100 tegen 0 versloeg. Lee Sedol kondigde niet veel later zijn pensioen aan.
Het verhaal van AlphaGo illustreert de stormachtige groei van artificiële intelligentie (AI). Ook in minder onschuldige domeinen als de denksport.
Zo zou, volgens een rapport van de Verenigde Naties, vorig jaar in Libië een belangrijke grens zijn overschreden. Een drone van Turkse makelij zou er zonder menselijke tussenkomst zijn overgegaan tot de aanval op troepen van de opstandige generaal Khalifa Haftar. "De drone was geprogrammeerd om aan te vallen zonder dataverbinding met de operator", aldus de Verenigde Naties. De drone kon vijanden detecteren en mocht die vervolgens ook zelf aanvallen. Dit zou – de feiten zijn niet helemaal helder in het door oorlog verscheurde Libië – een historische stap zijn.
Voor Vooruit is het vooral een heel angstaanjagende stap. De partij heeft woensdag een wetsvoorstel ingediend in het federaal parlement om het gebruik en de handel van 'dodelijke autonome wapens' te verbieden in België. "Computergestuurde wapens die op basis van eigen algoritmes beslissen over leven en dood, zonder tussenkomst van een mens: daar hebben we nog veel vragen bij", reageert parlementslid Kris Verduyckt. "Hoe veilig is dit allemaal? Kan zo'n wapen zien wie een vijand is en wie een burger? Wie is verantwoordelijk als het toch misloopt? De ethische en juridische gevaren zijn gigantisch. Dit is waanzin."
In het parlement is de voorbije jaren al behoorlijk wat werk verricht rond killerrobots. In 2018 keurde het halfrond een resolutie goed waarin de inzet van dodelijke autonome oorlogswapens wordt afgekeurd. De resolutie kwam er op voorzet van de groenen. Vooruit wil nu nog verder gaan. "Een resolutie, dat zijn woorden. Een wetsvoorstel, dat zijn daden", vertelt Verduyckt. "Ons land moet opnieuw een voortrekker in de internationale discussie worden, net zoals destijds met ons verzet tegen antipersoonsmijnen."
Het Belgische leger heeft vorig jaar een contract afgesloten met de Verenigde Staten voor de aankoop van vier drones van het type MQ-9B Sky Guardian. De drones zullen worden geleverd tegen 2024 en kunnen ook bewapend worden. Een expertengroep samengesteld door minister van Defensie Ludivine Dedonder (PS) heeft recent aangeraden om dit ook daadwerkelijk te doen. Dit maakt de drones echter geen killerrobots. Ze blijven in handen van een piloot. Oud-minister van Defensie Steven Vandeput (N-VA) liet in 2015 al verstaan dat killerrobots hem deden "huiveren".
De echte discussie over killerrobots wordt internationaal gevoerd. Een speciaal panel binnen de Verenigde Naties werkt momenteel, onder Belgisch voorzitterschap, aan een reeks aanbevelingen voor de lidstaten. Binnen enkele weken worden die verwacht.
In 2017 schreef Tesla-topman Elon Musk, samen met nog 116 andere AI-specialisten uit 26 landen, een brief aan de Verenigde Naties. De groep bepleit daarin een wereldwijd verbod op killerrobots, die "het despoten en terroristen mogelijk zullen maken om gewapende conflicten op een grotere schaal dan ooit uit te vechten en met een snelheid die de mensheid niet kan bevatten". Volgens de experts zullen dodelijke autonome wapens voor een derde revolutie in de oorlogsvoering zorgen, na buskruit en kernwapens.
"Het debat over dodelijke autonome wapens is bijzonder complex", zegt Bram Vanderborght, professor robotica aan de VUB. "De inzet van dit soort robotten – in de praktijk zijn het meestal drones – biedt een aantal voordelen, daar kun je niet naast kijken. Zo stel je geen militairen bloot aan gevaarlijke missies. En de kosten zijn vaak relatief klein: een F-35 is honderden keren duurder dan een drone. Bovendien kan een robot ook in het heetst van de strijd nog rationele keuzes maken. Dat terwijl een menselijke soldaat dat soms niet kan, bijvoorbeeld door angst of stress. Anderzijds zijn er ook een aantal, heel zwaarwichtige gevaren."
Vanderborght wijst er vooral op dat de AI-technologie nog niet ver genoeg staat om killerrobots 'hun ding' te laten doen op een slagveld. "Dan moet je met grote zekerheid een vijand kunnen onderscheiden van een burger. Dat kan momenteel nog niet, zeker omdat oorlogen steeds minder een strijd zijn tussen twee duidelijk identificeerbare legers. De relatief beperkte kosten van dodelijke autonome wapens maken ook dat kwaadaardige regimes en terreurgroepen er snel mee weg zullen zijn. Daar waar bijvoorbeeld Iran al decennia tevergeefs probeert om kernwapens te maken."