TailorMade: Tailoring Server Processors to Application Characteristics for Sustainable Warehouse-Scale Computing

TailorMade tar sikte på å ta et sprang mot bærekraftig storskala databehandling, også kalt skybasert databehandling. Vi foreslår å spesialisere maskinvare, spesielt prosessorer, som brukes i disse datasentrene for å matche egenskapene til programmene som kjører på dem. Måten vi gjør databehandling på er i endring, fra tradisjonelle datamaskiner til databehandlingen i skyen. Databehandling i skyen har dukket opp som arbeidshesten som gjør alle tunge beregninger og fungerer som ryggraden i mobile tjenester. Imidlertid fører den kraftige veksten i behov for databehandling i stor skala til utfordringer. Dagens løsning er ikke bærekraftig, ettersom nåværende tilnærminger krever stadig høyere antall servere og annen støtteinfrastruktur for å imøtekomme de raskt voksende kravene til nettbaserte nettjenester. Som et resultat huser dagens datasentre allerede titusenvis av servere, og forbruker titalls megawatt strøm, og koster hundrevis av millioner kroner. Om man ser bort fra andre aspekter, øker selv strømforbruket i en uholdbar hastighet med datasentre som anslås å forbruke omtrent 8% av verdens energi innen 2030, sammenlignet med 1% i 2010. For å imøtekomme de raskt voksende kravene og for å redusere distribusjonstiden, bruker datasentre standard datakomponenter som prosessorer. Disse datakomponentene ble laget ut fra andre premisser en i dag. De ble utformet for omtrent et halvt århundre siden, under helt andre begrensninger og for forskjellige bruksegenskaper. Da var antall transistorer en begrensning, beregningen var mye dyrere enn bevegelser av data, samt at kravene til minnestørrelse var mye mindre. I dag er beregningene billigere, det å flytte på data mellom minne og prosessor har blitt flaskehalsen, og dataprogrammer har enorme instruksjonssett og datasett. Derfor vil dette prosjektet legge et nytt arkitektonisk fundament for fremtidens prosessorer ved å spesialisere dem for de moderne og kommende applikasjoner med nye begrensninger og egenskaper.

TailorMade will take a leap towards sustainable warehouse-scale computing by tailoring server processor microarchitecture to application characteristics for improving server request rate i.e., the number of requests served by a server per unit time. The inefficiencies in existing processor microarchitectures have pushed warehouse-scale computing towards the point of unsustainability exemplified by their energy consumption which is projected to account for about 8% of world's energy by 2030, compared to only 1% in 2010. Processors consume more than 60% of this energy; however, they sit idle for nearly 80% of time which not only results in significant energy wastage but also limits server request rate. The limited request rate overshoots the number of servers required to serve a clientele. The root cause of the limited request rate and high energy wastage in warehouse-scale computers (WSC) is the mismatch between the application characteristics and processor microarchitecture. Due to the massive (100s of MBs) instruction footprints of WSC applications, the front-end is unable to continuously supply instructions for execution, which limits performance and wastes energy. Also, due to the lack of instruction- and memory-level-parallelism (ILP and MLP), processors spend significant energy on executing instructions that do not contribute to performance and can potentially be executed cheaply. This project will tailor processor microarchitecture to WSC application characteristics for boosting server request rate while minimizing the energy wastage. To capture the massive instruction footprints, we will investigate co-design of instructions prefetching and replacement, as well as organization and code layout for instruction cache and branch target buffer. To address the lack of ILP and MLP, we will investigate segregating instructions based on their contribution to parallelism and investing energy-intensive resources exclusively in parallelism exhibiting instructions.