‘Artificiële intelligentie mag niet discrimineren’

Omina Technologies heeft met Justifai een platform ontwikkeld waarmee organisaties artificiële intelligentie kunnen inzetten om problemen op te lossen. “Met onze software hoeven ondernemingen geen leger AI-experts in te schakelen”, zegt CEO Rachel Alexander, een Amerikaanse die eerder voor Studio 100 werkte.

Almaar meer bedrijven schakelen artificiële intelligentie (AI) in om slimme beslissingen te nemen of prognoses te maken. Die technologie maakt vaak een groot verschil, maar bedrijven moeten wel verantwoordelijk omgaan met hun data. Als ze artificiële intelligentie onethisch gebruiken, kunnen ze juridische problemen krijgen of reputatieschade oplopen. Dat het fout kan lopen, bewees het Cambridge Analytica-schandaal, waar data onrechtmatig werden gebruikt tijdens de campagne voor de Amerikaanse presidentsverkiezingen in 2016. Ook in de sollicitatieprocedure van Amazon zat een vooringenomenheid voor mannelijke profielen.

“Wanneer je algoritmes beslissingen laat nemen, moeten die ethisch, betrouwbaar en transparant zijn”, zegt Rachel Alexander. Ze richtte in 2016 Omina Technologies op, dat de missie heeft om bedrijven businessproblemen te laten oplossen met ethische en betrouwbare artificiële intelligentie. Het bedrijf telt een twintigtal medewerkers en werkte onder meer voor Belfius, Telenet en UCB.

De activiteiten van Omina Technologies steunen op drie pijlers: consultancy, trainingen en software. Met het platform Justifai kunnen gebruikers businessproblemen oplossen met artificiële intelligentie. “Bedrijven die die technologie willen inzetten en de richtlijnen willen volgen, hoeven geen leger AI-experts in te schakelen. Justifai controleert proactief of er juridische risico’s zijn.”

Wetgeving loopt achter

Voorlopig loopt de wetgeving nog achter op de technologie, maar internationale organisaties zoals de Europese Commissie werken richtlijnen en een regelgeving uit voor ethische en betrouwbare artificiële intelligentie. “Als bedrijf moet je proactief optreden. Om in orde te zijn en de risico’s te beperken, kun je maar beter vanaf dag één ethische en verklaarbare artificiële intelligentie hebben.”

Want die risico’s zijn er. Er kan discriminatie of vooringenomenheid in de algoritmes sluipen. Rachel Alexander geeft een voorbeeld: “Stel dat je het AI-systeem vraagt je te helpen om medewerkers te rekruteren of te ontslaan. Wat de beslissing ook is, het algoritme mag niemand benadelen of discrimineren. Je moet kunnen uitleggen waarom de artificiële intelligentie die beslissing nam.”

Alexander beseft ook dat het niet mogelijk is alle vooroordelen uit de data te halen. Mensen hebben nu eenmaal vooroordelen. Het komt er volgens Alexander op aan met de juiste techniek en tools die vooroordelen zichtbaar te maken en ze zo veel mogelijk te beperken. “Het is mogelijk dat je met een bepaalde vooringenomenheid akkoord gaat”, zegt ze. “Stel dat je bedrijf historisch gezien veel meer mannelijke CEO’s heeft gehad en je wilt nagaan wie de beste CEO was. Dan moet je het systeem op een geavanceerde manier vertellen dat er een vooroordeel is tegenover de mannelijke profielen en dat je die wilt beperken. Heel wat AI-bedrijven weten zelfs niet hoe ze die technieken van betrouwbare artificiële intelligentie moeten implementeren, want het is een compleet ander design. Daarom hebben we een academy, die de kennis doorgeeft aan concullega’s.”

Ondernemersgeest

Alexanders fascinatie voor artificiële intelligentie (een niet-menselijke vorm van intelligentie in de brede zin) en machinelearning (algoritmes en technieken om artificiële intelligentie te bereiken) ontstond dertig jaar geleden, toen ze fysica studeerde aan de universiteit van Indiana. Ze verliet de Verenigde Staten in 2001 en kwam in België wonen en werken. Ze ging aan de slag bij onder meer CSC en Studio 100.

“Ik heb altijd gewerkt in functies waar ik een technologische oplossing moest zoeken voor businessproblemen. Veel AI-bedrijven zijn opgericht door mensen die artificiële intelligentie hebben gestudeerd aan de universiteit en een cool algoritme op de wereld willen loslaten, maar ik bekijk de zaken meer met een businessperspectief. Het gaat niet zozeer om de technologie, maar om wat de bedrijven nodig hebben en wat hun doel is. Soms vertel ik ondernemingen dat artificiële intelligentie niet de oplossing is voor hun probleem en dat ze iets anders moeten overwegen. Technologie kan faciliterend zijn, maar als die niet op de juiste manier wordt gebruikt, zal ze niet de return geven die bedrijven ervan verwachten.”

Als IT-director van Studio 100 werd Rachel Alexander sterk geïnspireerd door de CEO’s Hans Bourlon en Gert Verhulst. “Ik heb veel respect voor wat ze doen. Ze moedigden de ondernemersgeest altijd aan bij hun medewerkers. Het hielp me de stap te zetten naar de oprichting van mijn eigen bedrijf.” Na vijf jaar Omina Technologies is Rachel Alexander klaar voor de volgende stap: de internationale lancering van haar ethische AI-software Justifai. Daarvoor organiseert ze een crowdlendingcampagne in Europa en de Verenigde Staten. “We hebben 50.000 euro van de kmo-groeisubsidie van Vlaio en zoeken nog 250.000 euro met winwinleningen en crowdfunding. We willen investeerders meer rendement uit hun spaargeld laten halen en hen tegelijk doen bijdragen tot het realiseren van onze missie om grote en kleine ondernemingen bedrijfsproblemen te laten oplossen met artificiële intelligentie op een manier die ethisch, begrijpbaar en betrouwbaar is.”