Twee ton springstof, geen piloot

Trends brengt iedere week het beste uit de toonaangevende financieel-economische media in Europa.

Binnenkort zijn superpiloten zoals in Top Gun niet meer nodig. Kunstmatige intelligentie leert nu ook gevechtsvliegtuigen te besturen. Critici roepen op tot een verbod op volautomatische moordmachines. Maar daar is het waarschijnlijk te laat voor.

De piloot van de Amerikaanse strijdkrachten had geen schijn van kans in zijn F-16. Keer op keer raasde zijn tegenstander frontaal op hem af, zonder angst. Het vijandelijke vliegtuig achtervolgde hem onvermoeibaar in nauwe lussen, waar serieuze middelpuntvliedende krachten bij kwamen kijken. Ondanks de wilde manoeuvres schoot de tegenstander vanaf grote afstand met grote precisie. Geen wonder: de piloot was niet menselijk. Het vijandelijke vliegtuig werd bestuurd door artificiële intelligentie (AI).

Het duel was een simulatie als onderdeel van het experimentele toernooi Alpha Dogfight. Het vond afgelopen augustus plaats in een laboratorium van de Amerikaanse Johns Hopkins University. Aan de ene kant van de virtuele krachtmeting stond een ervaren menselijke piloot met een virtuelerealiteitsbril en een elektronische stuurknuppel. Aan de andere kant stond een computersysteem van het bedrijf Heron Systems. De strijd tussen mens en machine eindigde in een verpletterende nederlaag voor de mens: 0-5.

De wedstrijd werd georganiseerd door Darpa, het wapenonderzoeksbureau van de Amerikaanse strijdkrachten. Darpa onderzoekt de toekomst van de luchtoorlogsvoering. Worden piloten binnenkort vervangen door machines die dagenlang in de lucht kunnen blijven, vrij van honger, vermoeidheid en angst? Dat vooruitzicht maakt de voorstanders blij. Critici waarschuwen voor vliegende killer robots zonder oordeel, mededogen en remming om te doden.

Te laat voor een verbod

Stuart Russell, docent aan de Universiteit van Californië in Berkeley, is een van de meest prominente critici van AI in oorlogsvoering. Al in 2015 waarschuwde hij voor automatische moordmachines en riep hij op tot een verbod, inmiddels gesteund door meer dan 4000 deskundigen.

Maar het lijkt te laat voor een verbod. Turkse gevechtsdrones hebben in maart 2020 mogelijk jacht gemaakt op tegenstanders in Libië, blijkt uit een rapport van de VN-Veiligheidsraad. Er is al lang een koortsachtige wapenwedloop aan de gang, waarbij veel grotere toestellen betrokken zijn. Verschillende bedrijven en onderzoeksinstellingen werken aan autonome gevechtsvliegtuigen die niet alleen in simulaties zullen opstijgen.

Eind juni bespreekt het Duitse parlement een wapenproject met door AI bestuurde drones. Midden mei werden Frankrijk, Spanje en Duitsland het eens over de ontwikkeling van het Future Combat Air System (FCAS). Het zal meer dan 100 miljard euro kosten, en vanaf 2040 de Eurofighter- en de Franse Rafale-gevechtsvliegtuigen vervangen. Het is een vliegtuig dat aanvallen kan uitvoeren in combinatie met een door AI gestuurde zwerm drones.

Andere landen staan al veel verder. Op de militaire basis van Woomera in Australië baart een nieuw type wapen opzien: het Airpower Teaming System, een vliegtuig zonder cockpit, dat Boeing samen met de Royal Australian Air Force ontwikkelt. Het heeft een bereik van ongeveer 3700 kilometer, aanzienlijk meer dan een conventionele straaljager. Sinds februari taxiet het toestel zelf naar de startbaan, stijgt op, vliegt gesimuleerde missies en landt weer, zonder piloot en zonder op afstand te worden bestuurd. In plaats daarvan gebruikt de boordcomputer camera’s en sensoren voor de oriëntatie.

De drone wordt aan een bemand gevechtsvliegtuig gekoppeld. Eén piloot kan zo een hele zwerm besturen. De zwerm onbemande straaljagers kan bijvoorbeeld als voorhoede fungeren, om vijandelijke posities te verkennen, en aanvallen terwijl de menselijke piloot op een veilige afstand blijft. De Verenigde Staten werken aan een soortgelijk concept onder de naam Skyborg. De autonome drone van Rusland heet Grom. Die zou met een snelheid van 1600 kilometer per uur kunnen vliegen en tot 2 ton bommen vervoeren.

Sneller dan mensen

Tot dusver werden militaire drones op afstand bestuurd door mensen via satellietverbindingen. Voor elke drone is een team van vaak tien piloten nodig, twintig dataspecialisten voor de bediening van de sensoren en extra analisten om de gegevens te evalueren. Die dataverbinding werkt het best in afgelegen oorlogsgebieden, zoals Afghanistan, waar nauwelijks luchtafweer of stoorzenders zijn. Maar China en Rusland bijvoorbeeld hebben een sterke luchtverdediging, om aanvallen door conventionele drones te voorkomen. Daar zou AI haar superioriteit tonen.

De nieuwe technologie zal ook de manier van vechten veranderen. Luchtgevechten zullen nauwelijks nog strategisch belang hebben. De toekomst is aan intelligente zwermwapens. De door AI bestuurde drones zouden in bepaalde situaties sneller kunnen reageren dan mensen in een ver hoofdkwartier, misschien zelfs in milliseconden.

Daar zijn veel onderzoekers bang voor. Toby Walsh, professor AI aan de Universiteit van New South Wales in Sydney, waarschuwt voor een flitsoorlogscenario. “Die systemen kunnen makkelijk een oorlog ontketenen”, zegt hij.

Mary Cummings ziet een ander gevaar. Ze was een van de eerste vrouwelijke gevechtspiloten van de marine. Nu is ze professor aan het Humans and Autonomy Lab van Duke University. Cummings waarschuwt ervoor dat volautomatische luchtaanvallen dodelijk geweld abstract doen lijken. Omdat de machine autonoom lijkt te handelen, verdwijnt de verantwoordelijkheid van de mensen naar de achtergrond. Dat kan leiden tot de verleiding om “sterk geautomatiseerde wapensystemen overhaast en roekeloos in te zetten”, waarschuwt ze.

Tot nu was het basisprincipe voor gevechtsdrones dat er een mens in de besluitvormingsketen moet zijn ingebed: zonder menselijk commando geen schot. Als twee computersystemen elkaar in een razend tempo bevechten, kunnen menselijke piloten niet langer elke stap controleren. Een piloot zou alleen als toezichthouder hoogstens zijn veto kunnen uitspreken over de beslissing. Als er geen veto is, schiet het systeem vanzelf.

Maar bijna geen enkele deskundige gelooft dat kunstmatige intelligentie alle piloten zal vervangen. Het is waarschijnlijker dat er almaar vaker een piloot met het vliegtuig meevliegt, die uitsluitend verantwoordelijk is voor het aansturen van de bijbehorende zwerm AI-drones. Niet langer met de vinger aan de trekker, maar slechts met vetorecht.