'We moeten veel meer nadenken over de gevolgen van artificiële intelligentie'

‘Als je niet betaalt voor het product, dan ben jij het product.’ Hiervoor werd regelmatig gewaarschuwd in de beginperiode van de sociale media, toen de meeste gebruikers nog niet begrepen dat een free lunch niet bestaat. Achteraf bleek de prijs soms hoger dan verwacht. Hetzelfde dreigt nu te gebeuren met de prijs die we betalen voor artificiële intelligentie, zegt Laurence Van Elegem, Content & Communications Director bij nexxworks.

Vandaag doet iedereen daar heel blasé over. “Ja, natuurlijk worden onze data gebruikt.” “Natuurlijk heeft dat gevolgen voor onze context. Duh.” “Gelukkig zijn controle-instanties druk bezig met het bewaken van onze privacy en veiligheid en het ethisch gedrag van al die techreuzen.” Dat laatste valt volgens mij heel erg tegen, maar daar wil ik het nu even niet over hebben.

‘De gebruiker als product’ was pas fase 1 van de grote digitaliseringsopmars. Vandaag wordt de inzet wel iets hoger. Spannend.

Bossware is het koosnaampje voor de werknemersmonitoringsoftware waarmee grote bedrijven controleren of hun brave werknemers niet te veel van hen profiteren als ze thuis werken. Het programma houdt het aantal toetsaanslagen van thuiswerkers bij, gebruikt gezichtsherkenning en weet hoe lang iemand de werkplek verlaat. Volgens Digital.com gebruiktliefst 60 procent van de bedrijven dit type tools – in California is dat zelfs 78 procent – en 90 procent daarvan heeft daardoor al werknemers ontslagen.

Hoewel blijkbaar erg populair, heeft de software ook een erg slechte reputatie. In de woorden van tech- en ‘trust’-experte Rachel Botsman: “Het creëert een cultuur waarin mensen het systeem proberen te bedriegen of waarin ze zich gestresseerd, ongelukkig of niet geëngageerd voelen omdat ze gemicromanaged worden. Zo blijkt 32 procent van de werknemers die onderhevig zijn aan dit type controle, te klagen over mentale welzijnsproblemen.

Ik zag onlangs een artikel passeren waarin stond dat bosswaredata eigenlijk ook best gebruikt kunnen worden om te leren van werknemers. Het pikt er dus niet enkel de low performers uit, het leert ook uit het gedrag van de beste presteerders. Beeld je in wat dat gaat geven als ‘private’ generatieve AI voor bedrijven doorbreekt. Ik heb het niet over werknemers die de openbare systemen zoals ChatGPT of Bard gebruiken, maar over bedrijven die hun eigen informatiesystemen inpluggen in large language models (de systemen die aan de basis liggen van generatieve AI modellen zoals ChatGPT). Zo heeft Walmart een eigen My Assistent-systeem, heeft Albert Heijn AH GPT en JPMorgan heeft IndexGPT. Die worden allemaal getraind op hun eigen interne informatie.

Digitale kopieën van mensen

Kennismanagement is een van de grootste uitdagingen voor hedendaagse bedrijven aangezien informatie bijvoorbeeld heel moeilijk doorstroomt tussen de aparte departementen. Dergelijke private LLM’s zijn dan een echte goudmijn voor organisaties. Het officiële discours errond is vaak voorzichtig, want AI maakt veel mensen heel bang en zenuwachtig. “Die systemen zijn er niet om jullie te vervangen, maar om jullie te helpen, jullie efficiënter te maken en jullie productiviteit te verhogen”, gaat het doorgaans.

Maar die systemen leren natuurlijk ook van de werknemers. En zo worden ze steeds beter. Het is als het klassieke ‘the student becomes the master‘. Ironisch genoeg zijn wij de technologie aan het trainen om velen van ons als werknemers te vervangen. Waar onze data vroeger gebruikt werden om ons producten of ideeën te verkopen, worden die nu op de werkvloer gebruikt om – kort door de bocht – digitale kopieën van ons te maken die onafhankelijk van ons kunnen werken. En ons dus overbodig maken.

Ironisch genoeg zijn wij de technologie aan het trainen om velen van ons als werknemers te vervangen.

Aan die evolutie valt niet veel te doen. Automatisering valt niet te stoppen, en kan in sommige gevallen uiteraard nuttig zijn. Voor heel repetitief werk, bijvoorbeeld, waar de waarde van menselijke creativiteit bijna nihil is. Velen beweren ook dat AI wel jobs zal afnemen, maar dat het ook voor veel nieuwe jobs zal zorgen. Dat is behoorlijk speculatief, maar het kan natuurlijk.

Software is eating the world

Ik denk dat de politieke en maatschappelijke instanties beter moeten nadenken over een toekomst met minder jobs. Nu zijn ze vooral bezig met privacy, veiligheid en copyright als het over AI gaat. Neem nu de recente ‘overwinning’ van de Writers Guild of America, die gedaan heeft gekregen dat AI nooit als schrijver gebruikt mag worden voor literair materiaal. Terwijl ze anderzijds toestaat dat de Hollywood-studio’s hun scripts mogen gebruiken om hun AI-modellen te trainen. Die studio’s gaan natuurlijk ook niet zomaar investeren in die AI-modellen, en dat zal uiteraard impact hebben op de schrijvers, op lange termijn.

Ik denk dat de politieke en maatschappelijke instanties beter moeten nadenken over een toekomst met minder jobs.

Sam Altman, de CEO van OpenAI, is er bovendien van overtuigd dat AI de ‘mediaanmens’ zal vervangen: AGI zou het “equivalent zijn van een mediaanmens die je als collega zou kunnen inhuren.” Dat concept van de mediaanmens is best vaag – is het de mediaan van intelligentie, creativiteit, uit welke sectoren, zal het ook mediane ‘experts’ vervangen,…? Maar het kan potentieel ook betekenen dat 50 procent van de mensen op de arbeidsmarkt wordt vervangen. Want als AI de mediaanmens kan vervangen, zal die ook alle mensen onder de mediaan vervangen.

Nu, AGI is waarschijnlijk nog ver weg, dus dit is voornamelijk marketingtaal van een CEO wiens missie het is om ‘mensen’ vertrouwd te maken met de mogelijkheden van AI. Maar ik geloof oprecht dat we ons beter moeten voorbereiden op een toekomst met veel minder banen voor mensen. Maatschappelijk, economisch en politiek zijn we niet voldoende voorbereid om dit op te vangen. En de meeste van ons kijken in de verkeerde richting. Ja, copyright, privacy, monopolisering en veiligheid zijn belangrijk. Uiteraard. Maar er moet ook meer naar het grotere verhaal gekeken worden.

‘There is no such thing as a free lunch‘ leerden we met zijn allen dankzij de opkomst van sociale media. Vandaag zijn wij misschien wel de lunch. Marc Andreessens ‘software is eating the world‘ was nog nooit zo letterlijk te nemen. En daar moeten we veel meer over nadenken.