Italiaanse computerwetenschappers zetten hun AI-systemen regelmatig in de slaapstand. Daardoor zouden die beter moeten onthouden wat ze hebben geleerd.
Soms droomt de artificiële intelligentie (AI) van Simone Palazzo vreemde dingen. Ze ziet dan een vrachtwagen met luipaardprint en een speelgoedauto met een hondenkop. Of ze ziet een zetel met een te groot glas donker bier op het kussen. De Italiaanse computerwetenschapper zet zijn AI af en toe in een soort slaapstand, omdat hij hoopt dat dat de prestaties verbetert.
Voor mensen is slaap essentieel om te overleven. Als hersenen slapen, verwerken ze onbewust de indrukken en ervaringen van de afgelopen uren. Dat sorteert de informatie, verplaatst wat belangrijk is naar het langetermijngeheugen en maakt zo ruimte voor nieuwe indrukken. Dromen helpen vermoedelijk om ervaringen op te slaan.
Machines vergeten
De kunstmatige neurale netwerken van een AI worden nooit moe en hebben geen pauze of slaap nodig. Maar hun geheugen lijdt eronder: als ze een nieuwe taak krijgen aangeleerd, vergeten ze vaak eerdere kennis. “Als we een model trainen met foto’s van honden en luipaarden en het vervolgens panda’s en giraffen laten zien, kan het opeens geen honden meer van luipaarden onderscheiden”, zegt Palazzo.
Het is discutabel of de AI daadwerkelijk ‘slaapt’ en ‘droomt’.
Palazzo en zijn collega Concetto Spampinato, beiden van de Universiteit van Catania op Sicilië, ontwikkelen AI-modellen voor medische toepassingen. Ze trainen ze om röntgenfoto’s van tanden te analyseren of om huidziekten te diagnosticeren op basis van beelden. Een AI die een ziektebeeld verwijdert wanneer het een nieuwe leert, is voor niemand nuttig.
In hun experimenten simuleren Palazzo en Spampinato waak- en slaapfases. Eerst wordt het model getraind in de waakfase zoals een normale AI: de onderzoekers voeren beelden in het neurale netwerk in, bijvoorbeeld van papegaaien of kikkers. Het koppelt dan zijn kunstmatige neuronen en leert patronen te herkennen. Als het dan een afbeelding van papegaaien of kikkers ziet, kan het die met een hoge mate van zekerheid identificeren.
In een tweede stap zetten de onderzoekers het systeem in een soort slaapstand. Ze laten het niet langer nieuwe afbeeldingen zien, maar alleen de afbeeldingen die het al eerder heeft gezien. Die herhaling zou moeten werken alsof de machine beelden uit het geheugen ophaalt.
Als ze een nieuwe taak krijgt aangeleerd, vergeet ze vaak eerdere kennis.
Tot slot krijgt het neurale netwerk in de droommodus gemengde beelden te zien, zoals een zetel en een glas bier of een luipaard en een vrachtwagen. Palazzo hoopt dat dit het systeem voorbereidt op nieuwe indrukken. Om dat te doen, laat hij zijn neurale netwerk lange tijd slapen. De slaapfase duurt ongeveer 50 keer zo lang als de waakfase.
Controversieel
Palazzo wil het menselijke brein zo getrouw mogelijk nabootsen. Maar die benadering is controversieel. De Britse AI-expert Andrew Rogoyski zegt in het tijdschrift New Scientist dat het brein het resultaat is van miljoenen jaren evolutie. Het is daarom een soort biologisch compromis tussen prestaties en energieverbruik. “We moeten het menselijke brein niet beschouwen als de enige maatstaf voor intelligentie”, schrijft hij.
Het is discutabel of Palazzo’s AI daadwerkelijk ‘slaapt’ en ‘droomt’. De onderzoeker geeft toe dat zijn neurale netwerken nog lang niet leren zoals een mens. Zijn modellen creëren de droombeelden ook niet zelf – de Italiaanse onderzoekers genereren ze in een door AI ondersteunde beeldgenerator.
