TikTok-filter loopt uit de hand: hoe laten we bedrijven ethisch omgaan met generatieve AI?

Een nieuwe filter op TikTok zorgt overal voor verontwaardiging. Hij gebruikt een algoritme op basis van artificiële intelligentie (AI) om je gezicht volledig op maat te transformeren in lijn met de typische schoonheidsidealen. Dat gebeurt op een manier die we nooit eerder zagen in een socialemedia-app. Hoe dwing je bij bedrijven af dat ze AI op een ethische manier gebruiken?

Filters zijn niets nieuws op sociale media zoals Instagram, TikTok en Snapchat. Maar een nieuwe filter op TikTok zorgt al de hele week voor verontwaardiging vanuit verschillende hoeken. ‘Bold Glamour’ heet het effect en het is in feite een variant op de bekende schoonheidsfilters. Het legt een virtuele laag make-up op je gezicht, maar dat gebeurt op een bijzonder geloofwaardigere manier, volledig op maat van de gebruiker.

De bedoeling is dat de nieuwe schoonheidsfilter realistischer oogt dan wat eerder al mogelijk was met beeldeffecten in socialemedia-apps. Maar veel mensen zijn er niet mee opgezet. “Absoluut griezelig” en “dit zou illegaal moeten zijn”, zijn reacties die vaak terugkeren bij verontwaardigde TikTok-gebruikers. Bold Glamour is al door meer dan 9 miljoen mensen over de hele wereld gebruikt.

Generatieve AI

Het verschil tussen Bold Glamour en de schoonheidsfilters die je in heel wat andere apps ziet, is een nagelnieuwe techniek op basis van generatieve AI, de technologie achter chatbots zoals ChatGPT en Google Bard. Het is een vorm van artificiële intelligentie die zelf unieke teksten of beelden creëert met behulp een enorme databank aan informatie.

Een normale beautyfilter plaatst een virtuele laag make-up bovenop de 2D-camerabeelden die je met je smartphone maakt. Dat is in feite een vorm van augmented reality (AR). Je kan normaal duidelijk zien dat het om een virtueel effect gaat, voornamelijk wanneer je je gezicht voor de camera kantelt en het effect plots een stuk minder natuurlijk lijkt, of wanneer het effect volledig verloren gaat als je je hand voor je gezicht houdt.

Bold Glamour werkt anders, want de generatieve AI maakt in real-time een volledige analyse van de beelden die je smartphone maakt. Het model zoekt overeenkomsten tussen jouw neus, mond en oren enerzijds en anderzijds de gezichtskenmerken van foto’s uit een grote beelddatabank. Alsof de AI de hele tijd een puzzel legt, vermengt het jouw gezichtskenmerken met delen uit verschillende foto’s waarmee het vergelijkt. Het voorspellende model is zo complex dat het vaak ononderbroken blijft doorwerken wanneer je op video normale bewegingen maakt met je hoofd en wanneer je hand voor je gezicht komt.

Fictie en realiteit vermengd

Dat fictie en realiteit op video’s van personen soms moeilijk van elkaar te onderscheiden zijn, zagen we de voorbij jaren al in de zogenaamde deepfakes. Dat zijn video’s waarin het hoofd van een bekende persoon met computertechnieken op het gezicht van een imitator wordt geplakt. “Een deepfake wordt door experts gemaakt en het is een arbeidsintensief proces. De nieuwe filter op TikTok leidt mensen om de tuin met video’s die iedereen zelf op een paar minuten met zijn smartphone maakt”, zegt Stijn Viaene, professor digitale transformatie aan de Vlerick Business School in een gesprek met Trends.

Het resultaat is dat de aanpassingen die de Bold Glamour-filter aan je gezicht maakt, wel voor echt kunnen worden aangenomen. Tot je op een dag misschien de persoon achter de filter in het echt ontmoet. Soms slaagt de filter er namelijk in om het gezicht van mensen op een eerder subtiele manier te maquilleren, alsof het een echte laag make-up betreft, maar dat lukt niet altijd. TikTok’ers merken dat hun gezichtslijnen en bepaalde verhoudingen van hun lippen, ogen of andere kenmerken soms vervormd lijken wanneer ze van Bold Glamour gebruik maken.

‘Bijzonder zorgwekkend’

“Het is bijzonder zorgwekkend dat technologiebedrijven die deze generatieve AI toepassen, het voor gebruikers gemakkelijk maken om zich op een geloofwaardige manier anders voor te doen dan wie ze in werkelijkheid zijn. Dit komt nu voor in video’s, maar bedenk dit op termijn in een context van de metaverse waar je mensen virtueel ontmoet aan de hand van avatars. Dat geeft gegarandeerd problemen, los van de ethische bezwaren.”

“Er is een beweging aan de gang waarbij gebruikers steeds meer transparantie verwachten als het om privacy gaat en dat zal bij communicatie over AI niet anders zijn. De toekomst is aan de bedrijven die dat ook oppikken”
Stijn Viaene

Viaene vindt dat het gebruik van generatieve AI door bedrijven op verschillende niveaus moet worden gereguleerd. “Dat kan bijvoorbeeld vanuit de onlinecommunities en de influencers zelf, die samen afspreken en hun volgers oproepen om steeds duidelijk aan te geven wanneer er sprake is van gegenereerde content. Anderzijds kunnen techbedrijven ook samen een charter ondertekenen waarin ze afspraken maken en regels opstellen voor het gebruik van de techniek. Maar daar komt veel bij kijken”, waarschuwt de professor. “Je kan bijvoorbeeld in socialemedia-apps automatisch een soort brandmerk laten verschijnen bij content die door AI is bewerkt, maar dat is ook weer te eenvoudig. Zo’n disclaimer zou eigenlijk moeten uitleggen welke techniek wordt gebruikt en wat er precies is aangepast. En zelfs als die duiding er komt, blijft het de vraag of die ook effect heeft. Het verleden toont aan dat de inhoud van de kleine lettertjes bij sociale media maar weinig mensen bereikt.”

Europees AI-beleid

Stijn Viaene merkt daarnaast op dat het moeilijk zal worden om alle belangrijke stakeholders bij zo’n charter te betrekken. “TikTok, waar het hier over gaat, is een Chinees bedrijf. Dat is traditioneel sterk gericht op de eigen markt, en het functioneert met bepaalde oogkleppen als het gaat om waarden en normen die buiten China van belang zijn. En zo beland je bij een geopolitieke kwestie. Om zulke bedrijven mee te krijgen, moet je gaan werken met Europese regelgeving. Enkele jaren geleden was TikTok ook al voor een korte tijd verbannen uit de Amerikaanse versie van de App Store en Google Play Store. Maar het is natuurlijk geen oplossing om zomaar strenge maatregelen te nemen voor elk Chinees techbedrijf dat afwijkt van ons waardepatroon. Dat zou ook politieke en juridische gevolgen hebben.”

TikTok wil zelfs niet bevestigen dat er daadwerkelijk artificiële intelligentie aan te pas komt, schrijft de Amerikaanse techsite The Verge. We zijn dus nog ver verwijderd van transparante communicatie op bedrijfsniveau over het gebruik van kunstmatige intelligentie. “Bedrijven hebben er nochtans alle baat bij om open te communiceren”, benadrukt professor Viaene. “Er is een beweging aan de gang waarbij gebruikers steeds meer transparantie verwachten als het om privacy gaat en dat zal bij communicatie over AI niet anders zijn. De toekomst is aan de bedrijven die dat ook oppikken. Tegelijk geeft deze beweging ook aan politici het platform om een gericht beleid te voeren en dat is zeker een positieve evolutie.”