Tech

Delftse onderzoekers vrezen 'killer robots': 'Het is het wilde westen'

21 augustus 2017 14:49 Aangepast: 13 november 2017 14:43
TU-onderzoeker Joachim de Greeff (links). Beeld © Interactive Robotics

Meer dan honderd robotica-experts hebben de Verenigde Naties opgeroepen om actie te ondernemen tegen oorlogsrobots die zelf beslissen tussen leven en dood. Vier robotica-experts komen uit Nederland.

In een brief aan de VN waarschuwen de onderzoekers voor 'de derde revolutie in oorlogsvoering', na buskruit en kernwapens. "Er is nog weinig tijd om actie te ondernemen", aldus de brief.

Zelfschietende drones en tanks zijn volgens de experts moreel verkeerd en moeten worden verboden om rampen te voorkomen.

Vier Nederlanders

De brief is ondertekend door experts en bekendheden in de wereld van kunstmatige intelligentie, zoals Tesla-baas Elon Musk en Mustafa Suleyman, de oprichter van Google’s AI-onderzoeksbureau Deepmind.

Verder staan er vier Nederlandse experts op de lijst: drie onderzoekers van de TU Delft en de ceo van het Diemense robotbedrijf Blue Ocean Robotics Benelux.

Een van de TU-onderzoekers is Joachim de Greeff, tevens mede-oprichter van Interactive Robotics. Volgens hem was de brief hard nodig. "Er wordt nu al een machinegeweer op wieltjes ingezet, die zelf zijn doelen selecteert en zelf afgaat."

Ook in Nederland

Autonome wapens lijken misschien ver van het bed van Nederlandse onderzoekers, maar volgens De Greeff is dat niet zo. "Op de TU Delft doe ik nu onderzoek naar robots die gebruikt kunnen worden bij rampenbestrijding, bijvoorbeeld bij het zoeken naar slachtoffers. Ironisch genoeg gebruiken we vergelijkbare technieken als bij het leger."

Zo zijn de robots gedeeltelijk autonoom en maken ze gebruik van persoonsherkenning- en warmte-sensoren.

Wat te doen?

Maar wat moet er dan nu gebeuren? Moeten alle autonome wapens verboden worden bijvoorbeeld?

De Greeff vindt de vraag moeilijk te beantwoorden. "Mijn persoonlijke overtuiging is dat ik helemaal niet aan wapentuig wil werken, maar ik begrijp dat er een leger nodig is. En autonoom is niet altijd slecht: zo heb je antiraketsystemen op schepen, die lijken me supernuttig en daar komt ook geen mens aan te pas."

De grens is dus moeilijk te bepalen, maar het gaat De Greeff vooral om iets anders: "Het moet een menselijke aansprakelijkheid houden. Degene die de beslissing neemt, moet weten wat het inhoudt en wat zijn beslissing teweegbrengt."

Verboden lijst

Het doel van de brief om een discussie aan te wakkeren over dodelijke autonome wapens. Uiteindelijk moet dat leiden tot een verdrag waarin het gebruik van dodelijke autonome wapens wordt geregeld, vergelijkbaar met de al bestaande verdragen over chemische- en nucleaire wapens. 

"Het is nu te veel wild west, we weten niet wat de technologieën doen of kunnen gaan doen. Daar moeten we over discussiëren", zegt De Greeff.

Wat is kunstmatige intelligentie? Techverslaggever Bram van Dijk legt het uit, in twee minuten.
`