Flexibel cachegeheugen versnelt processors

Het cachegeheugen is een ingeburgerd gegeven bij processors. Elke chip heeft een relatief kleine hoeveelheid werkgeheugen aan boord dat ingezet kan worden om de meest gebruikte data snel op te halen. Hierdoor hoeft de aparte RAM niet aangesproken te worden, en kan men zo winst boeken in snelheid en enegrieverbruik. De meeste processors hebben tegenwoordig verschillende niveau’s van cachegeheugen die in verschillende situaties worden aangesproken.

Jenga

Het cachegeheugen is een instrument om standaardtaken snel uit te voeren, maar er is nog ruimte voor verbetering. De ruimte van de cache wordt vastgelegd bij de productie van een chip. Wetenschappers aan het Massachusetts Institute of Technology hebben echter een flexibel systeem ontwikkeld waarbij men naargelang behoefte de hoeveelheid toegewezen ruimte aan de cache kan aanpassen.

De onderzoekers gaven hun systeem de naam Jenga, een referentie naar het gekende gezelschapsspel. De optimalisatie van cache kan de winst in snelheid en energieverbruik verder verhogen. Met een flexibel systeem kan de ideale hoeveelheid werkgeheugen worden aangesproken met een zo kort mogelijke latentie tussen de vraag naar data en de recuperatie ervan. Het MIT-team testte Jenga uit op een chip met 36 cores en wist daarbij een snelheidsverbetering van 20 tot 30 procent neer te zetten, terwijl het energieverbruik met 30 tot 85 procent werd ingeperkt.

Bij benadering

Met behulp van een algoritme berekent Jenga de optimale verdeling van het geheugen. Dat gebeurt bij benadering, omdat een complete analyse van wat een draaiende applicatie optimaal zou nodig hebben te veel tijd in beslag neemt. Volgens de wetenschappers wijkt hun berekening echter maar 1 procent af van de resultaten van een volledige doorlichting. Dankzij die benaderingstechniek kan Jenga het cachegeheugen elke 100 milliseconden aanpassen. “Er zijn een aantal projecten geweest die met een soort van dynamische creatie van hiërachie hebben geëxperimenteerd. Jenga verschilt hiervan omdat het echt de software gebruikt om de werklast te bepalen en daarna een optimale allocatie van de middelen te bekomen tussen concurrerende processen,” verklaart David Wood, professor in de computerwetenschappen.

Het team heeft aangetoond dat Jenga werkt en voordelen heeft, maar het moet nog wat obstakels uit de weg ruimen voordat hun geslaagde simulatie ook commercieel ingezet kan worden. Zo is er de vraag of Jenga gemakkelijk te schalen zal zijn tussen chips met een verschillend aantal cores, en of de voordelen dan ook even groot zullen zijn.