‘AI houdt ons een spiegel voor’

In een open brief die eind maart door het Future of Life Institute werd gelanceerd, vragen ruim vijftigduizend wetenschappers, beleidsmakers en ondernemers om een moratorium van zes maanden op de verdere ontwikkeling van artificiële intelligentie (AI). Bij de ondertekenaars zijn zwaargewichten als Elon Musk, Steve Wozniak en Yuval Noah Harari. We moeten ons eerst afvragen of de impact van AI op de samenleving wel wenselijk is en of de risico’s beheersbaar zijn, stellen ze. Ethische vragen over technologie, lang de bezigheid van een kleine groep sociale wetenschappers, krijgen plots publieke aandacht. De inzet is dan ook enorm.

Volgens de auteurs kan AI het leven op aarde diepgaand veranderen en moet ze dus met grote zorg gepland en beheerd worden. Helaas gebeurt dat niet. AI-labs zijn verstrikt in een race om almaar krachtigere machines te lanceren die niemand nog kan begrijpen, voorspellen of controleren, zelfs hun ontwerpers niet. In veel taken presteren AI-systemen al even goed als mensen, en dat werk kunnen we dus aan hen overlaten. De vraag is of we dat ook wíllen. Willen we zinvolle banen automatiseren? Laten we ons overspoelen door informatie die weliswaar op massa’s data berust, maar niet aan de feiten getoetst wordt? Hoe wijs is het een niet-humane intelligentie te ontwikkelen, die ons op een dag kan overtroeven, overbodig maken en vervangen? Willen we het risico lopen de controle over onze beschaving te verliezen?

In feite houdt AI ons een spiegel voor.

Het is niet de eerste keer dat technologie op zo’n kantelpunt komt. Zo gaven antibiotica een enorme boost aan de geneeskunde en de agro-industrie, tot de Wereldgezondheidsorganisatie ze in 2019 uitriep tot het grootste risico voor de menselijke gezondheid ooit. Zodra technologieën het lab verlaten, zetten ze sociale, economische en ecologische processen in gang die niet vooraf voorzien of gepland zijn, maar waarvan de samenleving wel de gevolgen draagt. De open brief over AI verzet dus de bakens door éérst naar de maatschappelijke impact te vragen. Maar of het veel zal uithalen? De kern van het probleem is niet zozeer dat we tegenover machines staan die onze beschaving en welzijn bedreigen, het punt is dat die machines het product van onze beschaving zelf zijn, van ons blinde geloof in vooruitgang en drang naar controle. In feite houdt AI ons een spiegel voor.

Welk ijkpunt hanteren we om vooruit- van achteruitgang te onderscheiden? Meestal is technologie zelf de maatstaf: hoe krachtiger, gesofisticeerder of geavanceerder, hoe beter. De digitalisering van zowat alle levensdomeinen is onstuitbaar. Ook financiële waardemeters vertroebelen het zicht op goed en kwaad. Technologieën die geld opbrengen, lijken vanzelfsprekend goed. Om de paar jaar moet je een nieuwe gsm kopen, want voor je het weet zijn de updates van allerlei apps niet meer compatibel met jouw toestel. Voorwaarts! De impact op mens en planeet laat men gemakshalve buiten beeld. Het doet wat denken aan een voetbalploeg die triomfantelijk de gescoorde doelpunten etaleert, maar de tegendoelpunten verzwijgt. Zo win je altijd.

Ook de covidcrisis hield ons een spiegel voor. Door haar ongebreidelde groei vernielt de economie steeds meer wilde natuur, met pandemieën, klimaatrampen en biodiversiteitsverlies als zware tegendoelpunten. Grenzen aan de groei, we weten het. Toch werd na de lockdown het ‘herstel van de groei’ meteen toegejuicht. Zelfs miljoenen doden en een maandenlang platgelegde wereldeconomie volstonden niet om onze mentale modellen te herzien. Zal AI daar wel in slagen?

ChatGTP wist me te melden dat ons industriële systeem kwetsbaar is voor zonnestormen, ruimte-afval, klimaatverandering en door AI aangejaagde oorlogen. Telkens luidde de slotsom dat betere technologie nodig is. Ethische keuzes bracht de chatbot niet ten berde. Nu ja, ethiek is een kwestie van waarden, oordelen en kiezen, meer dan van data, kennis en rekenen. Alvast één domein waarin AI de mens niet kan evenaren.