Een Skyborgdroon van de Amerikaanse luchtmacht (afb: USAF)

Het ki-systeem van een droon van de Amerikaanse luchtmacht ‘besloot’ niet meer te reageren op de menselijke operator omdat die de droon ervan zou weerhouden zijn doel te bereiken. Kunstmatige intelligentie, in combinatie met zelfbewegende systemen, gaat ons ooit nog een opbreken, zeker als het om moordroons gaat. Het ging hier overigens om een proef van de Amerikaanse luchtmacht, maar zou een ki-systeem dat moeten kunnen doen?
Het verhaal werd verteld door luchtmachtofficier Tucker Hamilton op een congres in Londen in mei. Daarbij ging het niet om het negeren van de menselijke operator, maar om het doden ten einde de droon zijn opdracht te laten uitvoeren. Volgens de betrokken militairen had het systeem “erg onverwachte strategieën om zijn doel te bereiken”. De ki-droon had opdracht de luchtverdediging van de vijand uit te schakelen. Zodra de droon die ontdekt had, besloot de operator de actie af te blazen.

Het ki-systeem was zo geïnstrueerd dat het punten kreeg als het zijn opdracht met succes zou hebben uitgevoerd, maar ook om de operator niet te doden. Dat laat nog maar eens zien hoe hachelijk toepassing van die technologie, zeker als die wordt gebruikt bij zaken over leven en dood.

Vreemde wending

Het verhaal kreeg nog een vreemde wending toen een woordvoerster van de Amerikaanse luchtmacht op Insider ontkende dat er zo’n simulatie zou hebben plaatsgevonden. De luchtmachtkolonel zou het wat uit zijn verband getrokken hebben en het anekdotisch hebben willen brengen. Hij was alleen maar hoofd van een groep die zich bezighoudt met ki in luchtmacht. Kolonel Hamilton zal niet blij geweest zijn met de woordvoerster.

Wat daar ook van waar is, het laat onverlet dat autonome wapens een kwalijke uitbreiding van een uiterst kwalijke bezigheid (oorlog voeren) zijn. Inmiddels zijn al 125 van de bijna tweehonderd VN-lidstaten al weer een tijd bezig met het opstellen van regels voor autonome wapens.

Bron: Futura-Sciences