Al eerder begrepen computerbouwers dat de ultieme computer naar de structuur en werking van het menselijk brein ontworpen zou moeten worden. Tegen de achtergrond van de huidige AI-hype wordt dit streven alleen maar sterker. Ondanks westerse tegenwerking lopen Chinese onderzoekers voorop in het ontwikkelen naar chips die bij deze trend aansluiten.
De chip als de hart van AI; illustratie CGTN (disclaimer)
Brein
Ook al spreekt het vanzelf dat kunstmatige intelligentie het menselijk brein als voorbeeld zou moeten nemen, is dat voor de meeste leken moeilijk te bevatten. Hoe, immers, kan door de mens ontwikkelde hardware zoiets enorms als het menselijk brein ook maar benaderen. Software-ontwerpers spreken echter al jaren in termen van ‘neurale netwerken’, software die menselijk denkprocessen moet imiteren. Een van de grootste struikelblokken daarbij is dat de hardware bij deze ontwikkeling achterblijft. Ook de snelste chips zijn tergend langzaam in vergelijking met de snelheid van levende neurale netwerken. De AI-hype versnelt daarom ook de ontwikkeling van nieuwe chips die het brein van computers en andere intelligente apparaten vormen.
Chinese primeur
Chinese onderzoekers hebben ’s werelds eerste neurale dynamische systeemchip ontwikkeld op basis van memristors. Een memristor (een samentrekking van ‘memory resistor’) is een elektronisch onderdeel met twee uiteinden waarvan de weerstand verandert op basis van de geschiedenis van eerder toegepaste stroom of spanning. Het behoudt deze weerstandstoestand, zelfs wanneer de stroom wordt uitgeschakeld. Daarom is het zeer gewild voor dichte, energiezuinige, gegevensopslag en AI-computers die de werking van het menselijk brein imiteren. Hierdoor wordt de rekenlatentie in één stap verminderd tot 2,12 milliseconden; een verbetering van 50 tot 478 maal de snelheid de huidige geavanceerde grafische processors; zoals b.v. die de A100 van NVIDIA.
Doorbraak
De doorbraak, gepubliceerd in het gezaghebbende academische tijdschrift Science op vrijdag, werd geleid door professor Yang Yuchao van de School of Integrated Circuits van de Universiteit van Peking. Hij legt uit dat het in staat stellen van machines om de fysieke wereld in realtime te modelleren en te begrijpen een ‘neuraal dynamisch systeem’ vereist dat neurale netwerken combineert met differentiaalvergelijkingen. Dergelijke systemen kunnen b.v. soepele, nauwkeurige 3D-hersenstructuren reconstrueren uit onvolledige en door ruis beïnvloede gegevens, met een enorm toepassingspotentieel.
Geheugen vs berekeningen
Traditionele computerarchitecturen hebben te kampen met een basaal knelpunt: de scheiding van geheugen en berekeningen. Tijdens het oplossend proces moeten computers herhaaldelijk tussen geheugen en processors schakelen, zoals een enorme datafabriek die tijd verspilt aan transport, wat resulteert in een enorme vertraging en een hoog stroomverbruik. Om dit aan te pakken, maakte het team gebruik van een unieke fysieke eigenschap van memristors, dat binnen een bepaald tijdsvenster voorspelbaar en nauwkeurig beheersbaar is. Op basis hiervan stelden ze een nieuw paradigma voor genaamd ‘controllable in-memory computing’. In eenvoudige bewoordingen, wat vroeger herhaalde digitale berekeningen, cachetoegang en gegevensverplaatsing vereiste, wordt nu uitgevoerd door de eigen fysieke evolutie van het apparaat. In dit opzicht benadert de werking van deze nieuwe technologie die van kwantumcomputers.
Hersenschors
Bovendien heeft het team neurale netwerkgewichten in kaart gebracht op geleidingstoestanden op meerdere niveaus van memristors, waardoor matrixvermenigvuldiging en accumulatie binnen dezelfde array mogelijk is geworden. Deze twee kerncomputertaken werden dus in een geheugencomputerarray met een totale oppervlakte van slechts 0,28 vierkante millimeter geïntegreerd. De chip bereikt een enkele iteratielatentie (de tijd die nodig is om een enkele cyclus van een lus of één passage van een algoritmisch proces te voltooien.) van 2,12 milliseconden, wat de eerste keer is dat neurale dynamische hardware bij het millisecondebereik is aangekomen.
Volgens Yang presteert de chip beter dan de huidige state-of-the-art speciale versnellers met 3,82 tot 36,27 keer in snelheid, terwijl het stroomverbruik aanzienlijk wordt verminderd. Bij een reconstructie van het hersenschorsoppervlak bleek het tot 478,18 keer sneller dan geavanceerde externe GPU’s, zoals die van NVDIA.
Dementie
Yang voegt eraan toe dat deze doorbraak nieuwe mogelijkheden opent voor hersen-computerinterfaces en diagnose van hersenziekten. Al eerder meldden we dat door de vergrijzing van de Chinese bevolking het voorkomen van dementie evenredig toegenomen is. In de toekomst kunnen door deze nieuwe technologie geïndividualiseerde en dynamische digitale kopieën van de hersenen gemaakt worden, die een realtime hardwarebasis bieden voor neurale navigatie tijdens een operatie, vroege screening op de ziekte van Alzheimer en gepersonaliseerde interventie.
Bron: CGTN (China Global Television Network), NDTV (New Delhi Television)
