Drie dimensies, maar dan vele malen meer…
Het hyperdimensionale rekenen zou kunstmatige intelligentie niet alleen minder hongerig (=energievretend) maken, maar ook doorzichtiger. Grote problemen met de huidige ki-systemen (neurale netwerken) is dat ze niet alleen enorm veel energie vreten, maar dat ook volslagen duister is hoe die namaakhersens aan hun resultaten komen (ook voor wetenschappers). Die hyperdimensionale rekenaar zou die problemen niet hebben.
Die energiehonger en ondoorzichtigheid zou het gevolg zijn van de structuur van die kunstmatige neurale netwerken. Die bestaan uit kunstmatige neuronen (hersencellen). Die neuronen voeren berekeningen uit waar iets uitkomt (de uitvoer). Als je bijvoorbeeld ronde vormen van vierkante vormen wilt onderscheiden heb je twee neuronen nodig. Als je daar dan nog twee kleuren daarvan wilt onderscheiden heb je er vier nodig enz. Dan kan snel oplopen.
Het wordt ingewikkelder als je met wat minder eenvoudige dingetjes wil werken en dat kan niet zijn zoals onze hersens werken hebben diverse ki-onderzoekers bedacht. Een beeld zou de representatie zijn van talloze neuronen die met elkaar verbonden zijn. In een oogwenk herkent een mens een bekend gezicht en niet een maar vele.
Wiskundig vertaald zou je moeten zeggen dat elk beeld een entiteit is: een hyperdimensionale vector, in feite een geordende reeks getallen. Een drie dimensionale vector heeft drie getallen (de x-, y- en z-waarde) en meer dimensionale dus meer. Die objecten (vectoren) en de wiskunde om ze te manipuleren zijn flexibel en krachtig genoeg om daar mee te rekenen zonder de beperkingen van de huidige neurale netwerken, is de gedachte. Hyperdimendionaal rekenen/redeneren zou de toekomst zijn: minder hongerig en ondoorzichtig dan de huidige ki-systemen.
De wiskunde om met die hypervectoren te kunnen rekenen is al in de jaren ’90 ontwikkeld. Je kunt ermee vermenigvuldigen, optellen en permuteren (herschikken). Die bewerkingen zouden genoeg zijn om te kunnen werken met hypervectoren. Ergens in 2018 stopte een student, Eric Weiss, alle kenmerken van een complex beeld, inclusief zijn positie, in een enkele hyperdimendionale vector. Dat toonde de verbluffende mogelijkheden van die rekenwijze. Toen ging kennelijk pas een lichtje branden.
Pas een begin
Dit zou het begin zijn van beloftevolle rekenmethode. De kracht van de hyperdimensionale methode zou liggen in de mogelijkheid om hypervectoren op te bouwen en af te breken voor het beredeneren. In maart werd daarvan een demonstratie gegeven door Abbas Rahimi en collega’s van IBM Research in Zürich.
Ze gebruikten de hyperdimensionale methode met neurale netwerken om een klassiek probleem op te lossen dat voor de ‘oude’ neurale netwerken en soms ook mensen een probleem vormen. Dat klassieke probleem, een soort boter/kaas/eieren-figuur, gaat over een tabel van drie bij drie met daarin verschillende figuren en een blanco hokje. Je moet dan vertellen welk figuur in dat hokje hoort uit een reeks kandidaten; een vorm van visueel redeneren.
Je begrijpt het al: de hyperdimensionale methode scoorde beter dan het ‘antieke’ neurale netwerk (88% juist tegen 62%) en maar liefst tweehonderdvijftig keer zo snel.
Het antieke systeem moest steeds in dik regelboek zoeken om zijn stappen te controleren en dat scheelt een hoop energie (nog even afgezien van wat je kwijt bent om zo’n klassiek neuraal netwerk zijn kennis bij te brengen). Het hyperdimensionale systeem had dat soort rekenproblemen niet en zou dus al minder energie vergen.
Bovendien zou dat hyperdimensionale systeem soepeler omgaan met fouten. Zelfs als in een hypervector wat getalletjes fout zijn, dan zijn die altijd nog dicht in de buurt van het bedoelde beeld (of wat dan ook). In traditioneel kan een 0 die een 1 wordt een wereld van verschil vormen.
De hyperdimendionale rekenwijze zou ook volkomen transparant zijn. De gebruikte wiskunde zou je precies aangeven op basis waarvan het systeem voor een bepaald antwoord heeft gekozen. Het systeem zou ook, net als de echte hersens, geheugen en processor te gelijk kunnen zijn.
De energiebesparing zou vooral komen van het gebruik van analoge onderdelen. Die veroorzaken voor de oude computers te veel ruis, waar de hyperdimensionale systemen geen problemen mee zouden hebben.
Als ik dit lees vraag ik me af waarom we nog verder zullen klungelen met kwantumcomputers (of zeg ik=as nu weer heel iets doms?). Misschien moet ik er ook bij vertellen dat deze techniek nog wel heel erg in de ontwikkelfase zit (de kinderschoenen, dus). Als het allemaal ook maar deels waar is wat beweerd wordt dan zullen we hier zeker nog van horen: de hypervectorwereld wacht op ons.
Bron: Quanta Magazine