‘AI is op de maatschappij losgelaten zonder nadenken, maar de balans is nog altijd zeer positief’

“We hebben artificiële intelligentie op de maatschappij losgelaten zonder goed na te denken over de consequenties”, zegt Mieke De Ketelaere. De AI-expert blijft wel hoopvol en optimistisch over de impact van de technologie.

Sinds OpenAI vorig jaar zijn taalrobot ChatGPT lanceerde, is een hype rond artificiële intelligentie (AI) ontstaan. De technologie fascineert velen, maar jaagt ook angst aan. Sam Altman, de CEO van OpenAI, was vorige week op tournee bij Europese bedrijven en beleidsmakers. Zijn tournee past in een lobbyoffensief van big tech, omdat gevreesd wordt dat de Europese Unie artificiële intelligentie te sterk aan banden wil leggen.

Mieke De Ketelaere, een van de bekendste AI-experts in België, begrijpt de angst voor de software die teksten en afbeeldingen kan genereren. “Dit is geen onverwacht fenomeen”, zegt De Ketelaere, die aan de Vlerick Business School doceert over duurzaam en ethisch gebruik van artificiële intelligentie. “Toen ik in 2019 mijn eerste boek over artificiële intelligentie publiceerde, wees ik al op de ontwikkeling van het taalmodel GPT-3 (de technologische basis voor taalrobot ChatGPT, nvdr). Dat zat toen nog vooral in de academische sfeer. Nu is generatieve AI echt doorgebroken. Ik ben verrast door de snelheid waarmee ChatGPT en andere generatieve AI-toepassingen enorm populair geworden zijn. Ik vind dat fout. We hebben artificiële intelligentie op de maatschappij losgelaten zonder goed na te denken over de consequenties. Ik neem het de ingenieurs die ChatGPT en co ontwikkelen niet kwalijk. Ze hebben nooit geleerd over de ethische impact na te denken.”

Heel wat techgiganten hebben hun ethische teams opgedoekt, op een cruciaal moment voor de samenleving

Zowat alle techgiganten commercialiseren AI. Hebben ze genoeg juristen, compliance officers en ethici in dienst?

MIEKE DE KETELAERE. “Er is wat arrogantie, omdat ze vooroplopen in de race. Winst gaat boven alles. Heel wat techgiganten hebben zelfs hun ethische teams opgedoekt, op een cruciaal moment voor de samenleving. Toen AI nog vooral een academische discipline was, was het een technologie die vooral onzekerheden wegnam. Ze werd almaar beter in voorspellingen doen en verbanden leggen. In deze nieuwe fase creëert AI maatschappelijke onzekerheid. We kunnen onze ogen en oren niet meer geloven, omdat we niet weten of ChatGPT en co hun output verzonnen hebben.

“Er zijn altijd mensen die technologie voor slechte doeleinden inzetten. Dat is nu niet anders. Cybercriminelen zijn er al in geslaagd iemand een miljoen dollar te laten overschrijven, omdat ze de stem van een familielid hadden laten klonen. Er komt overal een wedloop. Verzekeraars willen bijvoorbeeld met artificiële intelligentie schadegevallen sneller afhandelen door automatisch foto’s te analyseren. Wel, er bestaat al software om foto’s bij te werken, zodat de schade veel erger lijkt dan een krasje en je meer kunt terugkrijgen.”

De EU wil de techgiganten tot voorzichtigheid dwingen.

DE KETELAERE. “Dat wordt zeer moeilijk. Je moet opletten dat je de innovatie niet afremt. Bovendien zullen bedrijven manieren vinden om de regels te omzeilen, of ze zullen de Europese markt links laten liggen. Het principe dat je bedrijven verplicht hun technologie niet zomaar op de maatschappij los te laten, is goed. De vraag is hoe adequaat je de technologie kunt testen. Men hecht bijvoorbeeld te veel belang aan testen in een afgesloten omgeving, het sandbox-principe. Hoe kun je de situatie simuleren, waarin een eenzame mens wekenlang vragen stelt aan een companion chatbot (een virtuele vriend of vriendin, nvdr) en de toon steeds depressiever wordt? Onlangs was zo’n companion bot een factor in een zelfmoord. Er zijn ook de culturele verschillen. In het Westen hebben de EU en de Verenigde Staten bijvoorbeeld sterk verschillende waarden en normen.”

Wat is de oplossing?

DE KETELAERE. “Er moet meer bewustwording komen bij alle partijen, van gebruikers tot ontwikkelaars. Iedereen moet veel kritischer worden en veel meer kennis hebben over artificiële intelligentie. Pas dan zullen we een gedegen maatschappelijk debat kunnen voeren. Iedereen kan zich een AI-expert noemen. Van artsen zouden we nooit aanvaarden dat ze zich specialist in neurologie of cardiologie noemen nadat ze enkele onlinecursusjes gevolgd hebben. Ik ben voor een soort eed van Hippocrates. Net als artsen moeten ook ingenieurs beloven dat ze de ethische standaarden van de maatschappij naleven.”

Sam Altman en anderen waarschuwen voor doemscenario’s. De technologie lijkt te gevaarlijk.

DE KETELAERE. “De balans is nog altijd zeer positief. Met AI worden fantastische dingen gedaan. Onder meer in de biotech, de scheikunde en de geneeskunde kan ze onderzoek enorm versnellen. In het bedrijfsleven zijn de verwachtingen nog te hooggespannen. De technologie wordt getraind met data en zal nooit 100 procent zekerheid garanderen. Er is altijd een kans dat ze niet het juiste patroon herkent, door een veranderende context of een fout in de kwaliteit van de data. Daarom vertrouwt de geneeskunde niet volledig op AI bij het analyseren van beelden en resultaten. Het komt altijd op hetzelfde neer: AI is een fantastisch hulpmiddel, maar je moet het correct gebruiken, voldoende controle inbouwen en vooral de menselijke kritische geest bewaren alvorens beslissingen te nemen.”

Ik ben verrast door de snelheid waarmee ChatGPT en andere generatieve AI-toepassingen enorm populair geworden zijn. Ik vind dat fout

Het potentieel is enorm, maar de technologie vreet energie en computerchips.

DE KETELAERE. “Voor bepaalde toepassingen valt dat op te lossen, als we de software zo dicht mogelijk bij de databron of de sensoren laten draaien. In de sector noemen we dat edge AI. Niet langer alle data en verwerking in grote datacenters laten gebeuren, biedt veel voordelen. Het maakt de ecologische voetafdruk kleiner, we kunnen de privacyrisico’s veel beter beheren, systemen kunnen blijven werken op plaatsen met een beperkte connectiviteit en de verwerking gebeurt ook sneller. De academische wereld staat al heel ver met zulke gedecentraliseerde systemen, maar ze breken nog niet door. Dat komt deels door het overwicht van de techgiganten, die veel geld verdienen met hun clouddiensten en hun netwerk van enorme datacenters.”

Zelfs als we die scherpe kantjes van de technologie vijlen, blijft dan niet het probleem dat ze veel banen zal kosten?

DE KETELAERE. “Voorstanders van de technologie mogen daar inderdaad niet licht over gaan. Zij mogen het zaligmakend vinden dat de technologie het potentieel heeft elke repetitieve of gevaarlijke taak weg te automatiseren, maar je mag niet de arrogantie hebben ervan uit te gaan dat mensen aan de band hun werk saai vinden. Zeker ingenieurs moeten daarin bescheiden zijn. Er is zelfs een grotere kans dat hun taken sneller geautomatiseerd kunnen worden dan banen waarin sociale en empathische skills doorwegen. Generatieve AI kan programmeren, maar ze kan geen bloed afnemen. Het vermogen om te gaan met de moeilijke of onduidelijke dingen, een e-mail met de juiste toon schrijven of de juiste ader vinden, zal almaar belangrijker worden in het professionele leven.”

Lees ook: