Gezond verstand versus computer

Naarmate de samenleving meer afhankelijk is van technologie, wordt ze ook kwetsbaarder. Onze veiligheid helemaal overlaten aan computers, is geen optie. Gezond verstand is de beste verdediging.

Dertig jaar geleden ontsnapte de wereld aan een nucleair armageddon, met dank aan het gezond verstand van één enkele Russische legerofficier. De man was van wacht in een nucleaire commandocentrum, toen plots de sirenes begonnen te loeien.

De VS hadden vijf kernraketten afgevuurd, zo leerde een blik op de computer. Binnen de twintig minuten zou een deel van Rusland veranderen in een niemandsland. De procedure was duidelijk: Rusland moest onmiddellijk zelf raketten richting de VS lanceren. Maar de officier ging af op zijn buikgevoel en gokte op een computerfout. De systemen hadden eerder al kleinere gebreken vertoond. Hij had gelijk: de reflectie van de zon op wolken was geïnterpreteerd als een vijandige raketlancering.

Vandaag zit onze leefwereld vol met dat soort ‘kritische systemen’. Sensoren en computers zitten overal. Binnenkort hebben we een ‘slim’ energie-, water- en gasnetwerk. In de havens worden containerschepen volautomatisch gelost. De zoekmachinegigant Google heeft nog enkele jaren nodig om zijn software te optimaliseren opdat auto’s zonder bestuurder kunnen rijden. Maar nu al rijdt zijn systeem veiliger dan menselijke chauffeurs.

Meer en meer is de mensheid afhankelijk van computers. De voordelen zijn enorm en daarom is die evolutie niet te stoppen. Maar we mogen nooit vergeten dat technologie altijd is ontwikkeld door mensen. En die zijn niet onfeilbaar. De recente onthullingen over de reikwijdte van het Amerikaanse cyberspionage- en cyberoorlogprogramma wakkeren de angst aan voor door technologie veroorzaakte rampen. Er wordt nu zelfs gewag gemaakt van een digitaal 9/11, waarbij terroristen vanop afstand vliegtuigen uit de lucht halen of kerncentrales ontregelen. Op dit moment is dat niet mogelijk.

Die kritische systemen zijn vaak volledig afgeschermd van extern netwerkverkeer en bovendien houdt goed getraind personeel een oogje in het zeil. Het komt erop aan die beveiliging stelselmatig te verbeteren, zodat ze gelijke tred houdt met de technologische vooruitgang. Zo’n systeem aanvallen, wordt dan simpelweg te ingewikkeld en te duur voor terroristen of criminele organisaties.

Maar het gevaar voor cyberrampen kan ook van een andere kant komen. De systemen worden zo complex dat zelfs een kleine panne grote gevolgen kan hebben. Bovendien kunnen systemen foute informatie krijgen, al dan niet met kwaad opzet. Wanneer een machine die klakkeloos verwerkt, kan dat rampzalige gevolgen hebben. Menselijke controle zal bijgevolg altijd nodig zijn. De scepsis van de Russische officier is de mooiste illustratie van die stelling. Zonder zijn gezond verstand waren de raketten gelanceerd.