Meeting Exascale Computing with Source-to-Source Compilers

Morgendagens storskala datamaskiner forventes til å være heterogene, bestående av konvensjonelle CPUer og såkalte beregnings akseleratorer. Disse CPU+akselerator datamaskinene vil være ekstremt vanskelige å programmere. For å overvinne utfordringen med programmering, har dette prosjektet som hovedmål å utvikle tilpasset programmerings metodikker og automatiske kode-oversettere. Disse skal hjelpe forskere å lettere implementere gridbaserte beregninger med en god ytelse på CPU+akselerator datamaskinene, eller la forskere uttrykke beregningene sine i en enkel og oversiktlig form som skal automatisk transformeres av kode-oversetterne til en avansert form som er tilpasset heterogene super-datamaskiner. Vi skal bruke ekte simulatorer fra forskningsfelt beregningskardiologi for å teste våre metodikker og kode-oversettere. I tillegg til å verifisere at implementasjonene fungerer ifølge designet, forventer vi at disse vil føre til effektiv bruk av heterogene superdatamaskiner som igjen vil forsterke forskningen med å forstå diverse hjertesykdommer. I løpet av prosjektets første år har forskningsfokus vært på å undersøke hvordan Intels første-generasjons Xeon Phi many-core prosessorer skal effektivt programmeres. To vitenskapelige artikler har blitt publisert/akseptert, hvor arbeidet i en av artiklene brukte Tianhe-2 som var inntil sommer 2017 verdens nest kraftigste super-datamaskin. Prosjektlederen har også vært sentral i en nylig bevilget INFRASTRUKTUR søknad (eX3), som skal etterhvert gi prosjektet etterlengtede tilgang til sistegenerasjons hardware. I prosjektets andre år var forskningsfokuset utvidet til å også omfatte GPUer, som er dagens dominerende beregnings akseleratorer. Målet er å kunne forbedre FEniCS, som bruker automatisk kodegenerering i elementmetode-beregninger, ved å ta i bruk GPU'er. I tillegg har prosjektet også startet et samarbeid med University of Tokyo som tar sikte på å utnytte Japans Oakforest-PACS system, som er en klynge av Intels andre-generasjons Xeon Phi prosessorer, til simuleringer av subcellular-calcium-dynamics. Erfaringer fra prosjektet også utgjorde viktige innspiller til designet av eX3-infrastrukturen. I prosjektets tredje år har samarbeidet med Japanske forskere om bruk av Oakforest-PACS systemet produsert nye programmeringsmetodikker og simuleringsresultater. Det andre forskningsfokuset var på bruk av sist-generasjons Nvidia GPU'er, ikke minst takk være eksperimenter gjort på eX3-infrastrukturen. Det var demonstrert hvordan en DGX-2 maskin, bestående av 16 Nvidia V100 GPU'er, kan brukes til å simulere hjertets elektroniske aktiviteter med realistisk geometriske og fysiologiske data. En slik GPU-basert simulator gir betydelig raskere regntid enn dagens state-of-the-art simulator som er basert på konvensjonelle CPU'er. Videre var det bygget en prototype kompilator, innen FEniCS rammeverket, for å automatisk oversette en matematisk beskrivelse av en løser av partiell-differensiallikninger til et matchende GPU program. Prosjektet har også bidratt til økt norsk deltakelse i internasjonale samarbeidsprosjekter i HPC.

The cardiac-simulation research results produced by this project have helped the host institution (Simula Research Laboratory) to reinforce its internationally leading position in cardiac modeling and simulation, through efficient use of heterogeneous supercomputers. Moreover, the expertise acquired by the project's core research team in performance modeling, heterogeneous parallel programming and source-to-source compilation, has led to several successful international joint research proposals with Simula being the key partner. Nationally, this project has considerably contributed to the establishment and operation of the national eX3 infrastructure (Experimental Infrastructure for Exploration of Exascale Computing), hosted at Simula, funded by RCN's Forskningsinfrastruktur program (Project 270053). One of the core members of this project has become the recipient of two researcher projects from RCN.

Huge-scale heterogeneous clusters, which consist of CPUs and hardware accelerators, are expected to be the dominating architecture of future supercomputers. To break the programming barrier, this project proposes a radical strategy which uses automated source-to-source compilers to completely replace the tedious and error-prone manual programming. Another distinctive feature of this new strategy is to simultaneously make use of the computational power of both CPUs and accelerators, instead of the currently prevailing strategy that offloads some work tasks completely from the CPUs to the accelerators. The focus area of this project will be on mesh-based computations related to solving partial differential equations, a central subject in the entire field of computational science. Two fully automated source-to-source compilers will be developed. One targets implicit computations and allows user input as a high-level description of the equations to be solved. The other compiler targets explicit computations and accepts user input as plain, serial code with a few annotations in the style of OpenMP. The internal code analyzers of both compilers will, in combination with the backends, automate the implementation of performance-critical optimizations such as task pipelining and asynchronous data transfers. Two simulators from computational cardiology will be used as real-life testbeds of the two compilers, aiming to automatically generate hardware-compatible heterogeneous implementations. These will not only advance cardiac research on the particular topics of heart failure and arrhythmia, but demonstrate the usefulness of the two source-to-source compliers to all computational scientists who use mesh-based computations, thereby enabling them to welcome the future arrival of exascale computing.