Artificiële intelligentie: sommige beslissingen zijn te belangrijk om over te laten aan een algoritme

Ondanks de voorspellingen dat machines alle banen zullen overnemen, zijn sommige beslissingen te belangrijk om over te laten aan een algoritme. In zorgvuldig ontworpen ‘hybride systemen’ zullen mensen en machines samenwerken.

Het menselijke ras is nog niet afgeschreven. Er werd de afgelopen jaren volop voorspeld dat de mens door de vooruitgang in de artificiële intelligentie en de robotica voor allerlei taken zou worden vervangen. Maar de meeste experts zien een minder drastisch resultaat. In hun versie van de toekomst zullen mensen nog altijd een rol spelen door samen te werken met intelligente systemen. Ofwel zal de technologie nog niet in staat zijn alles over te nemen, ofwel zullen de gevolgen van de beslissingen te groot zijn om ze helemaal aan een machine toe te vertrouwen.

Dat hybride beslissingsproces zou tot betere resultaten moeten leiden dan wanneer een van beide alleen werkt. Dat zegt David Mindell, docent aan het Massachusetts Institute of Technology en auteur van Our robots, ourselves. Er is één probleem: de samenwerking tussen mensen en semi-intelligente systemen loopt niet altijd goed af.

Dat werd dit jaar op rampzalige wijze gedemonstreerd in Tempe in het Amerikaanse Arizona, toen een overstekende voetganger overleed nadat hij was aangereden door een testauto van Uber uitgerust met de recentste zelfbesturingstechnologie van het bedrijf. Zoals bij bijna alle autonome voertuigen was er een noodchauffeur aanwezig om in te grijpen als de software tekortschoot. De plaatselijke politie concludeerde na onderzoek dat de chauffeur op het fatale moment afgeleid was. Mogelijk door een tv-programma op zijn smartphone.

Het Uber-voertuig vertrouwde op een graad van autonomie die dit jaar op grotere schaal zal worden geïntroduceerd. Het zogenaamde Level 3-systeem is ontworpen om in de meeste verkeerssituaties zelfstandig te rijden, maar de besturing weer aan een mens over te dragen in situaties die het niet aankan. Een systeem dat bedoeld is om volledig autonoom te zijn, maar onverwachts daarvan afwijkt, stelt volgens critici onrealistische eisen aan mensen. “Als je maar één minuut per dag nodig bent, zal het niet werken”, zegt Stefan Heck. Hij is de CEO van Nauto, een Amerikaanse start-up die technologie maakt die voorkomt dat beroepschauffeurs worden afgeleid.

Zodra mensen beseffen hoe beperkt de machinale leersystemen zijn, zullen hun overdreven verwachtingen snel vervliegen, waarschuwt Roger Schank, een expert in artificiële intelligentie. Hij voorspelt een nieuwe ‘AI-winter’, een verwijzing naar het einde van de jaren tachtig, toen de teleurstelling over de vorderingen van artificiële intelligentie ertoe leidde dat het onderzoeksgebied werd verlaten. Om dat te voorkomen moeten de verwachtingen over nieuwe autonome systemen realistischer zijn en is ook een doordacht ontwerp nodig om ze in de menselijke wereld te passen. De semi-autonome auto is een sprekend voorbeeld van een bijna volledig geautomatiseerd systeem dat berust op een nauwe samenwerking met mensen. Maar met de vooruitgang van de artificiële intelligentie zullen zulke hybride systemen oprukken op allerlei gebieden.

Machinaal leren is het soort van artificiële intelligentie dat de opvallendste stappen vooruit heeft gedaan. Het is een geavanceerde vorm van patroonherkenning. Het heeft al bewezen de mens te overtreffen bij taken zoals het herkennen van beelden en bij spraakherkenning. Maar het is minder doeltreffend als het een oordeel moet vormen op basis van data waarmee het is getraind. In de echte wereld nemen mensen vaak beslissingen over situaties die ze voor het eerst tegenkomen. Het probleem zit in het feit dat systemen data kunnen vergelijken, maar de betekenis ervan niet begrijpen. “Het zijn machtige dingen, maar ze hebben geen begrip van de wereld”, zegt Vishal Sikka, een gewezen topman van SAP en Infosys.

Wederzijds begrip

De nieuwe vormen van samenwerking tussen de mens en de machine krijgen op drie manieren gestalte. Ten eerste zijn er scenario’s waarbij mensen als begeleiders van de robots fungeren. Ze nemen het over zodra de machines de grenzen van hun kunnen bereiken. Veel arbeidsprocessen worden op die wijze opnieuw ingericht. Een voorbeeld zijn de geautomatiseerde callcenters waar systemen die de taal begrijpen, de vragen van de bellers proberen af te handelen en alleen overschakelen op een menselijke operator wanneer de technologie in de war raakt.

Het auto-ongeluk van Uber was een extreem voorbeeld van wat er mis kan gaan. Onderzoek van de Universiteit van Stanford heeft uitgewezen dat een menselijke chauffeur zeker zes seconden nodig heeft om zijn aandacht weer op de weg te richten en het stuur over te nemen, zegt Heck. Maar zelfs als de mens genoeg tijd heeft om weer te focussen, kan degene die ingrijpt de situatie anders inschatten dan de machine zodat de overdracht allesbehalve naadloos verloopt.

“We moeten werken aan een wederzijds begrip tussen softwaresystemen en mensen. Dat is heel lastig”, zegt Sikka. Het gebruik van taal illustreert het probleem. Mensen kunnen met enkele woorden een betekenis overbrengen. Doordat de spreker en de luisteraar allebei de context begrijpen, krijgen die woorden betekenis. Computerwetenschappers zijn er nog niet in geslaagd dat wederzijdse begrip aan machines door te geven, legt hij uit.

Bij een tweede vorm van samenwerking tussen de mens en de machine wordt gewaarborgd dat delicate taken altijd van een mens afhangen, zelfs wanneer het systeem perfect in staat zou zijn de taak zelf uit te voeren. Een voorbeeld zijn de militaire drones met menselijke ‘piloten’ die vaak vanaf duizenden kilometers afstand de beslissing nemen op een doelwit te vuren. Een ander voorbeeld zijn de gezichtsherkenningssystemen die immigratieambtenaren moeten helpen verdachte reizigers aan te wijzen. Ze bewijzen allebei dat artificiële intelligentie mensen veel efficiënter kan maken zonder dat ze daarbij de controle kwijtraken, zegt Heck.

Maar een punt van kritiek op de semi-autonome wapens zoals drones is dat er geen technologische belemmeringen zijn om ze in volledig autonome wapens te veranderen. De huidige procedures en voorzorgsmaatregelen kunnen snel worden gewijzigd. Volgens Stuart Russell, docent artificiële intelligentie aan de Universiteit van Californië, zou het maar een kleine stap zijn om de drone bij een noodsituatie zonder piloot te laten fungeren. Daarmee zou een tijdperk aanbreken waarin robotwapens zelf beslissen of ze mensen doden.

Bij een laatste type van systemen waarin mensen en machines samenwerken, wordt artificiële intelligentie gebruikt die niet in staat is de taak helemaal zelfstandig uit te voeren. Ze dient alleen als hulp voor de mens om beslissingen te nemen. In het dagelijkse leven duiken steeds meer algoritmes op die op grond van massa’s data aanbevelingen doen of mensen vertellen wat hun volgende stap moet zijn.

Maar die algoritmes zijn maar zo goed als de data waarmee ze getraind zijn. Ze kunnen niet omgaan met nieuwe situaties. Mensen die afhankelijk zijn van die systemen, moeten ze vaak in goed vertrouwen volgen. Schank wijst op de rol van algoritmes in het honkbal. De analyse van de sterke en zwakke kanten van slagmannen heeft geleid tot nieuwe veldopstellingen die de honkbaltraditionalisten zouden doen steigeren. De resultaten van de computerbegeleide beslissingen kunnen weleens veel slechter zijn dan die van beslissingen die alleen zijn gebaseerd op menselijke analyse, zegt hij.

Technologie tegenspreken

Dat zijn nog relatief onschuldige situaties waarin de machine weinig schade heeft aangericht. Maar wat gebeurt er als er meer op het spel staat?

Medische diagnose is een van de voornaamste doelen van Watson, het systeem dat IBM oorspronkelijk had ontworpen om een tv-quiz te winnen en daarna heeft omgebouwd tot een ‘cognitief systeem’. Zulke systemen zijn ontworpen om de definitieve beslissing over te laten aan een expert. IBM blijft erbij dat mensen altijd het laatste woord zullen hebben. Maar zou een arts een aanbeveling negeren die komt van een computer die per definitie meer vergelijkbare situaties heeft geanalyseerd en meer gegevens heeft verwerkt dan hij? Het tegenspreken van de technologie kan weleens moeilijker zijn wanneer dat gevolgen voor de verzekering of andere financiële implicaties zou hebben.

Wie geen expert is, zal niet snel durven te twijfelen aan een machine waarvan hij de werking niet begrijpt. Dat dilemma is niet nieuw. Meer dan dertig jaar geleden zorgde een fout in de software van de Therac-25, een toestel voor bestralingstherapie, dat sommige patiënten massale overdoses kregen. De technici konden de fout niet vinden, waardoor het toestel veel langer in gebruik bleef, zegt Nourbakhsh.

Vooruitgang

De technologie van de geavanceerdste vorm van machinaal leren – neurale netwerken – zorgt voor bijkomende uitdagingen. Die netwerken zijn opgebouwd op basis van een theorie over de werking van het menselijke brein. Ze halen data door lagen artificiële neuronen tot er een identificeerbaar patroon uit komt. In tegenstelling tot de logische circuits van een traditioneel softwareprogramma kun je dit proces niet volgen om vast te stellen waarom een computer met een bepaald antwoord komt. Dat vormt een groot obstakel bij de invoering van neurale netwerken. “Dat is de vreemde ironie van artificiële intelligentie: de beste systemen zijn vandaag degene die het moeilijkste uit te leggen zijn”, zegt Nourbakhsh.

Toch zeggen sommige experts dat er vooruitgang wordt geboekt en dat systemen van machinaal leren binnenkort in staat zullen zijn aan te geven welke factoren hen tot een bepaalde beslissing hebben gebracht. “Het is niet onmogelijk. Je kunt in ze kijken om te zien welke signalen ze oppikken”, zegt Heck.

Zoals veel anderen uit de sector spreekt hij de optimistische verwachting uit dat mensen en machines die samenwerken, veel meer kunnen bereiken dan dat ze afzonderlijk hadden gekund. Maar bij het ontwerp moeten eerst nog serieuze problemen worden opgelost.