AI in marketing: ‘De grens tussen personalisatie en manipulatie is dun’

Met artificiële intelligentie kunnen bedrijven hun marketing almaar meer op steroïden zetten. Maar hoever kunnen – en mogen – ze daarin gaan?

Marketing verkent met artificiële intelligentie (AI) volop de mogelijkheden van hyperpersonalisering, oftewel marketing die helemaal is gesneden op de maat van de individuele consument. De grondstof daarvoor zijn enorme hoeveelheden data. Maar het verzamelen en analyseren van die data roept ook ethische vraagstukken op.

Een van de eersten die het ethische debat over AI openden, was onze landgenoot Mark Coeckelbergh, die als hoogleraar media- en technologiefilosofie verbonden is aan de Universiteit van Wenen. In 2020 verscheen zijn boek AI Ethics. “De grens tussen relevante personalisatie en manipulatie is dun”, waarschuwt hij. “Als AI exact weet hoe een consument denkt en reageert, is de verleiding groot om dat in een commercieel voordeel om te zetten. Het risico bestaat dat bedrijven consumenten sturen op een manier die hun autonomie ondermijnt.” Dat wordt nog prangender bij kwetsbare doelgroepen, zoals kinderen of ouderen, die zich minder bewust zijn van hoe AI hun gedrag kan beïnvloeden.

Transparantie

Opvallend genoeg is de toepassing van AI in marketing nog maar weinig gereguleerd. De Europese AI Act, die in 2024 werd aangenomen, legt wel strenge regels op voor toepassingen met een hoog risico zoals gezichtsherkenning, maar de impact op marketing is voorlopig beperkt. “De wetgeving loopt achter op de technologie”, bevestigt Mark Coeckelbergh. “Toch is er een groeiend bewustzijn dat AI-marketing niet volledig vrij spel mag krijgen.”

Een belangrijk referentiepunt blijft de GDPR, de Europese richtlijn die de verwerking van persoonsgegevens aan banden legt. Maar AI creëert nieuwe juridische vragen, bijvoorbeeld over transparantie. Moeten consumenten expliciet op de hoogte worden gebracht als een advertentie door AI is gegenereerd? En in hoeverre mogen bedrijven data combineren en analyseren om gedrag te voorspellen? Al midden 2023, vrij kort na de doorbraak van ChatGPT, publiceerde Harvard Business Review een rapport waaruit bleek dat 70 procent van de consumenten denkt dat bedrijven niet transparant genoeg zijn over hoe ze persoonlijke gegevens gebruiken.

Daarbovenop komen de vragen over de vooroordelen in de AI-algoritmes. Die kunnen bijvoorbeeld discriminatie in reclamecampagnes aanwakkeren – denk maar aan het onbewust uitsluiten van bepaalde groepen. De AI-platformen ervoeren al snel dat strategieën om de creatie van stereotiepe afbeeldingen te vermijden tot ongelukkige resultaten konden leiden. Vroeg je Gemini, de AI-assistent van Google, bijvoorbeeld beelden van Duitse soldaten uit de jaren veertig te creëren, dan produceerde het – door een nochtans goedbedoelde correctie – beelden van nazi’s met een gediversifieerde etnische afkomst.

Pleidooi voor transparantie

Zolang de technologie en de regelgeving ruimte laten voor schemerzones, komt de verantwoordelijkheid grotendeels bij de bedrijven zelf te liggen. “Veel bedrijven willen AI inzetten voor marketing, maar hebben geen strategie om dat op een ethisch onderbouwde manier te doen”, zegt Mark Coeckelbergh. “Dat vereist interne richtlijnen, bewuste keuzes en een kritische blik op hoe AI wordt toegepast.” Een optie is het installeren van ethische commissies of specifiek op ethiek gerichte AI-teams, maar tot vandaag is het aantal voorbeelden daarvan beperkt. Bovendien tonen de recente ontslagen bij techgiganten als Microsoft – dat zijn Ethics & Society-team opdoekte – dat ethische overwegingen al snel opzij worden geschoven als de commerciële of politieke druk stijgt.

Bij het creëren van een ethisch kader over het gebruik van AI in marketing en communicatie in ons land namen de reclamebureaus en adverteerders in 2024 zelf het initiatief. De vakverenigingen ACC (communicatiebureaus) en UBA (adverteerders) werkten een set van tien richtlijnen uit die houvast moeten bieden bij het inzetten van AI in commerciële communicatie. De richtlijn omvat principes zoals het ontwikkelen van AI-geletterdheid, de bescherming van kwetsbare groepen en een duidelijk label voor AI-gecreëerde of gemanipuleerde content.

Voorts pleiten de twee verenigingen voor transparantie tussen merken en bureaus over het gebruik van AI en maken ze de brug naar de impact van AI op ecologie en inclusiviteit. Wettelijk verwijst de richtlijn naar de GDPR- en privacywetgeving, maar ook naar het auteurs- en portretrecht. “Gezien de voortdurende ontwikkeling van AI-technologie en het bijbehorende juridische landschap, zijn die richtlijnen dynamisch van opzet”, benadrukt de ACC op zijn website. “Zo blijven ze relevant te midden van de voortdurende technologische en juridische ontwikkelingen.”

Twee kanten

Daarnaast zette ook de Federation of European Data and Marketing (Fedma) een belangrijke stap met de publicatie van het Ethical AI-Powered Marketing Charter, een initiatief van de Belgian Association of Marketing (BAM). Met dat charter engageert de sector zich voor een kader voor verantwoorde AI-integratie in datamarketing via een set richtlijnen rond transparantie, eerlijkheid en het ethische gebruik van AI. Dat de ethiek van AI de sector bezighoudt, bleek ook al uit een enquête van de World Federation of Advertisers (WFA) bij grote adverteerders. Daaruit bleek dat 80 procent zich zorgen maakt over hoe hun bureaupartners AI namens hun bedrijf gebruiken. Ze citeerden juridische, ethische en reputatierisico’s als belangrijkste obstakels voor een bredere acceptatie van AI.

Het debat over ethische AI in marketing zal zonder twijfel nog aanhouden. De technologie ontwikkelt zich sneller dan de wetgeving en zelfregulering kunnen bijbenen. Wat vandaag als ethisch verantwoord geldt, kan morgen ter discussie worden gesteld. Daarom moet ethiek een vast onderdeel worden van hoe bedrijven AI implementeren, besluit Mark Coeckelbergh: “Het zal van twee kanten moeten komen. Bedrijven moeten initiatieven nemen, maar ook de overheid moet een duidelijk kader scheppen. Dit is ook een debat over democratie, want ook de burger moet daarin een stem hebben. Burgers moeten de mogelijkheid krijgen om klachten te uiten over het gebruik van AI, zelfs als die niet puur juridisch zijn.”