Witte pest en grijs slijm

Temidden de opzienbarende en steeds snellere technologische vooruitgang, met alle voordelen die ze meebrengt, is het tijd geworden om eens even halt te houden en na te gaan waar die explosie van wetenschappen ons naartoe leidt. Tijdens mijn carrière heb ik me voortdurend beziggehouden met het oplossen van problemen in verband met technologie, maar heb ik ook té weinig aandacht geschonken aan de uiteindelijke consequenties van de krachten die we aan het ontketenen zijn.

De meeste waarschuwingen weerklonken in de science-fictionliteratuur of waren afkomstig van tegenstanders van de technische vooruitgang die aan het debat enkel holle uitspraken tegen de technologie toevoegden. Dat mag echter geen excuus zijn om die kwesties uit de weg te gaan. Ikzelf heb steeds meer diepe twijfels over de weg die we aan het volgen zijn.

Verborgen risico’s.

Hoe schrikbarend de dreiging van nucleaire, biologische en scheikundige wapens in de 20ste eeuw ook was, de onderliggende technologie ervan diende grotendeels voor militair gebruik en werd angstvallig in de hand gehouden door een beperkt aantal landen.

Vandaag worden we geconfronteerd met een andere, veel ernstiger uitdaging voor het voortbestaan. De krachtigste technologieën van de 21ste eeuw – genetische manipulatie, nanotechnologie en robotica ( GNR) – houden verborgen risico’s in van grote omvang. Ze vertonen twee kenmerken die ze verschillend maakt van de voorgaande technologie: ze planten zichzelf voort en zijn kennisgemachtigd. Dat laatste wil zeggen dat ze door een heleboel individuen en kleine groepen kunnen worden gebruikt, waarvan sommige er wellicht op uit zijn om enorme catastrofes te veroorzaken.

Tenzij we krachtdadige maatregelen nemen, dreigen we opgezadeld te worden met een heel nieuwe categorie van technologieën voor massavernietiging die allemaal in gang kunnen worden gezet met in de handel verkrijgbare apparaten. Het meest dreigende gevaar bestaat in de verspreiding van een dodelijke ziektekiem: een biotechnische witte pest, die erg besmettelijk is, een lange incubatietijd heeft en gericht kan worden op specifieke bevolkingsgroepen.

De nanotechnologie creëert de dreiging van de ontwikkeling van een grijs slijm uit milieuvreemde materialen, dat de bestaande biosfeer kan verdringen. In beide gevallen is het onmogelijk om die bedreigingen ongedaan te maken. Een wereldcatastrofe ontketenen kan slechts een kwestie van weken zijn.

De dreiging van de robotica is voorlopig verder van ons verwijderd, maar zoals Hans Moravec laat verstaan “overleven biologische soorten zelden hun confrontaties met superieure concurrenten”. Als we de technologie aanwenden om intelligente robots te scheppen die verstandiger zijn dan wijzelf, zouden die wel eens tot het besluit kunnen komen dat wij overbodig zijn en opgeofferd kunnen worden.

Ethiek.

Uiteraard zijn die technologieën ook in staat om de wereld ongehoorde voordelen te bieden. Ze kunnen ons leven en onze levensverwachting aanzienlijk verbeteren, materiële armoede bannen en een einde maken aan de noodzaak om handenarbeid te gebruiken.

We wensen de voordelen van die technologieën te gebruiken, maar hebben tegelijk ook een ethische verantwoordelijkheid voor het voortbestaan van onze soort. We moeten alternatieven vinden voor onaanvaardbare machtiging, alternatieven ook tegen de democratisering van het extreme kwaad.

Dit is een lijstje van initiële stappen die kunnen worden genomen. Het berust op onze ervaring met massavernietigingswapens.

Laat wetenschapslui en technologen (en ook ondernemers) een soort eed van Hippocrates afleggen, om te vermijden dat er wordt gewerkt aan mogelijke of bestaande massavernietigingstuigen.

Creëer een internationaal orgaan dat openlijk de gevaren en de ethische consequenties van de nieuwe technologieën zal onderzoeken. Dat soort werk werd eerder deels uitgevoerd door het Amerikaanse Office of Technology Assessment, dat jammer genoeg in de jaren negentig werd opgedoekt.

Gebruik striktere noties van aansprakelijkheid, zodat ondernemingen worden verplicht om de verantwoordelijkheid te dragen voor de gevolgen, middels een mechanisme uit de privé-sector, met name een verzekering.

Zorg voor internationale controle over kennis en technologie die een groot potentieel vertonen, maar te gevaarlijk zijn om commercieel te worden vrijgegeven. Een dergelijk voorstel werd aan de vooravond van het atoomtijdperk al geformuleerd in het Acheson-Lilienthal-rapport betreffende de aanwending van kernenergie voor militaire doeleinden ten einde een nucleaire wapenwedloop te vermijden.

Verzaak aan de zoektocht naar díe kennis en de ontwikkeling van díe technologie die zo gevaarlijk zijn dat we vinden dat ze nooit beschikbaar mogen worden. Ik geloof zelf ook in het streven naar kennis en de ontwikkeling van de technologie, maar we hebben al gevallen meegemaakt – biologische wapens bijvoorbeeld – waarbij verzaking de verstandigste keuze was.

Veiligheidskleppen.

We moeten een gebundelde internationale actie op gang brengen om doeltreffende en praktisch toepasbare veiligheidskleppen te ontwikkelen. De GNR-technologieën worden commercieel uitgebaat, aangedreven door intense concurrentie en de steeds hogere snelheid van de computers. Indien ze niet beteugeld worden, kunnen ze genocide mogelijk maken en zelfs leiden tot de uitroeiing van het menselijk ras.

Gelukkig schijnen we nog wat tijd te hebben om de ethische kwesties onder de loep te nemen en de gepaste maatregelen te nemen, maar die tijd is beperkt. Niets doen en afwachten zou immoreel zijn. We zijn tot veel beter in staat.

bill joy