Hans Diels, toekomstdenker bij het ondernemersplatform Etion, wijst op signalen dat artificiële intelligentie (AI) de digitalisering, en ons vertrouwen, aan het ondergraven is.
Tot voor 2020 werd het ingangsexamen voor artsen in een van de grote hallen op de Heizel gedaan, op papier. Sindsdien, gepusht door de coronapandemie, wordt het digitaal en gedecentraliseerd georganiseerd. Dat liep voor zover we weten zeer goed. Tot het dit jaar misliep. De boosdoener: ChatGPT. Studenten konden een extra browservenster openen en hun antwoorden even checken bij een digitale vriend.
Vroeger ging je, als je van vintage kleding hield, tweedehandswinkeltjes afschuimen op zoek naar unieke stukken. Vandaag doe je dat gewoon via Vinted. Maar nu blijkt dat Vinted meer en meer problemen krijgt doordat gebruikers foto’s bewerken met AI. Verkopers stellen hun kleren beter voor dan ze zijn. Sommige laten ze dragen door een model. Gebruikers sturen achteraf foto’s die moeten aantonen dat de gekochte stukken vuil of beschadigd aankwamen. Dat doen ze ook met AI.
In een interview stelde Hema Budaraju, de vicevoorzitter van Google Search, dat Google niet verantwoordelijk is als mensen geloven wat de AI-samenvattingen van Googles zoekmachine als antwoord geeft.
Oorspronkelijk waren heel wat digitale platformen er juist op gericht het vertrouwen in digitale toepassingen te verbeteren. Dat deden ze beter dan veel niet-digitale oplossingen. Denk maar aan alle digitale reviewsystemen van Uber-chauffeurs tot hotels, restaurants en de lokale klusjesman. Digitale platformen zorgden ervoor dat we van een vakantiebestemming niet alleen de prachtige foto’s van de verhuurder zagen, maar ook de ongezouten mening van de laatste gebruikers konden lezen. De digitalisering verhoogde toen nog het vertrouwen. Vandaag worden ook reviewsites meer en meer overspoeld door bots die fake reviews plaatsen.
De content op het internet wordt ook steeds meer AI-materiaal. De snelheid waarmee je met AI nieuwe inhoud kan produceren als tekst, beeld, video, muziek zorgt ervoor dat het World Wide Web overspoeld wordt met niet meer door mensen gemaakte inhoud. De sciencefictionschrijver Cory Doctorow noemt dat de “enshittification” van het internet.
AI ondermijnt ons vertrouwen
Het zijn allemaal signalen die wijzen in de richting van een toekomst waarin AI de digitalisering op bepaalde vlakken zal versnellen maar tegelijkertijd die digitalisering op andere vlakken aan het ondergraven is. AI ondermijnt ons vertrouwen. Het zorgt dat digitale examens moeilijker te organiseren vallen, papier kan veel sluitender zijn. Het betekent dat, als je zeker wil zijn dat jouw vintage Nike-jasje er echt zo cool uitziet als je denkt, dat je misschien beter naar de lokale vintage winkel trekt. En voor antwoorden op belangrijke vragen kan je misschien toch maar beter niet op AI vertrouwen. Weg met dokter ChatGPT, dan maar?
Uiteraard heeft het geen zin om dan voor alles maar terug analoog te gaan, pen en papier, fysieke winkels, face-to-facegesprekken. Daarvoor is het te laat en zo zouden we heel wat voordelen van onze digitale wereld en AI missen. Maar we moeten wel enkele zaken anders aanpakken.
Ten eerste zijn er heel wat technische oplossingen. Nadat de berichten over het artsenexamen in de pers verschenen, werden we overspoeld door ideeën van IT’ers die (digitale) oplossingen hebben voor dat probleem. Vinted zal systemen opzetten om AI-manipulatie van beelden na te gaan. Reviewplatformen kunnen enkel uitnodigingen voor reviews sturen naar betalende gasten.
Maar die technische oplossingen zullen niet volstaan. We zullen een cultuuromslag moeten maken en kritischer omgaan met AI. Als je je als examencommissie bewust bent van de risico’s van AI voor fraude, kun je misschien op zoek gaan naar IT-oplossingen die sluitend zijn. Zolang je daar niet zeker van bent, kun je het examen tijdelijk op papier organiseren. In het algemeen moeten we veel kritischer leren omgaan met AI in plaats van ervan uit te gaan dat alles waar is. Daar heeft Google gelijk in.
Tot slot zal er ook regelgeving nodig blijven. Ondanks alle geroep over hoe regelgeving innovatie verstikt en de druk van de Verenigde Staten op Europa om onze digitale regels op te geven, is er wel slimme regelgeving nodig. Regelgeving die niet te detaillistisch te werk gaat zodat ze innovatie verstoort, maar regelgeving die wel een duidelijk kader schept waarin technologiebedrijven zich kunnen bewegen.
We moeten artificiële intelligentie dus niet de rug toekeren. Dat zou niet meer kunnen. We moeten er wel voor zorgen dat we het zo kunnen inzetten dat het ons vertrouwen in elkaar en in informatie kan ondersteunen in plaats van te ondermijnen.