‘Menselijke’ ki zou energieverbruik drastisch verminderen

Topografische zuinige kartering

Een idee van de ‘afslanking’ van topografische zuinige kartering (afb: Roman Bauer et al./Neurocomputing)

Hersengeïnspireerde kunstmatige intelligentie, die wel wat weg heeft van biologische neurale netwerken, zou het energieverbruik van ki 99% zuiniger en ook sneller kunnen maken, denken onderzoekers van de universiteit van Surrey, zonder de nauwkeurigheid geweld aan te doen.
Hun onderzoek zou hebben aangetoond dat kunstmatige neurale netwerken die de bedrading en structuur van hun biologische voorbeeld nabootsen de kunstmatige ‘broeders’ sneller en energiezuiniger kunnen maken. Een van de (vele) nadelen van ki is de waanzinnige energieverspilling door de huidige ki-systemen. Dat zou nog niet zo erg zijn als ki niet, zoals nu, te pas en te onpas wordt gebruikt.
Hun methode hebben ze, vertaald, topografische zuinige kartering genoemd; TSM. Die is op een andere manier bedraad. Anders dan de machineleermodellen, zoals die gebruikt worden voor beeldherkenning en taalverwerking, die elk neuron in de ene laag verbinden met alle neuronen in de volgende laag verbindt TSM elk neuron alleen met nabijgelegen of verwante neuronen, vergelijkbaar met hoe het visuele systeem van de hersenen informatie efficiënt organiseert. Dat maakt, is het idee, TSM energiezuiniger. Door dit ontwerp elimineert het model de noodzaak van enorme aantallen onnodige verbindingen en berekeningen.

Een verbeterde versie (ETSM) gaat een stap verder door een biologisch geïnspireerd ‘snoeiproces’ te introduceren tijdens het leerproces, vergelijkbaar met hoe de hersenen geleidelijk hun neurale verbindingen verfijnen terwijl ze leren. Samen stellen deze benaderingen ki-systemen in staat om een ​​gelijke of zelfs hogere nauwkeurigheid te bereiken met slechts een fractie van de parameters en energie die conventionele modellen nodig hebben.
“Het leerproces van veel van de huidige populaire grote ki-modellen kan meer dan een miljoen kilowattuur aan elektriciteit verbruiken, wat gelijkstaat aan het jaarlijkse verbruik van meer dan honderd Amerikaanse huishoudens en tientallen miljoenen dollars kost”, zegt Roman Bauer. “Dat is simpelweg niet vol te houden gezien de snelheid waarmee ki blijft groeien. Ons werk toont aan dat intelligente systemen veel efficiënter kunnen werken, waardoor de energiebehoefte kan worden verlaagd zonder dat dit ten koste gaat van de prestaties.”

99% besparing (?)

Het verbeterde model van Surrey zou 99% besparen. Dat betekent dat het bijna alle gebruikelijke neurale verbindingen kon verwijderen. Het evenaarde of overtrof dan nog steeds de nauwkeurigheid van standaardnetwerken in vergelijkingen. Omdat het Surrey-systeem de constante fijnafstemming en herbedrading vermijdt die andere ki-systemen gebruiken, leer dat sneller, gebruikt het minder geheugen en verbruikt het minder dan 1% van de energie van een conventioneel ki-systeem.

“De hersenen bereiken een opmerkelijke efficiëntie dankzij hun structuur, waarbij elk neuron verbindingen vormt die ruimtelijk goed georganiseerd zijn”, zegt medeonderzoeker Mohsen Kamelian Rad. “Wanneer we dit topografische ontwerp spiegelen, kunnen we ki-systemen bouwen die sneller leren, minder energie verbruiken en net zo nauwkeurig presteren. Het is een nieuwe manier van denken over neurale netwerken, gebaseerd op dezelfde biologische principes die natuurlijke intelligentie zo effectief maken.”
De onderzoekers denken dat een uitbreiding naar diepere lagen de netwerken nog ‘slanker’ en efficiënter kunnen maken. Ze kijken nu ook hoe de aanpak kan worden gebruikt in andere toepassingen, zoals realistischere neuromorfische computers, waar de efficiëntiewinst een nog grotere invloed zou kunnen hebben.

Bron: Alpha Galileo

Geef een reactie

Je e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze site gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie gegevens worden verwerkt.