eFlows4HPC: una nuova piattaforma, aperta e europea, di workflow HPC

Con un finanziamento complessivo di 7,6 milioni di euro, il progetto eFlows4HPC migliora i workflow HPC complessi grazie a tecniche di analisi dei big data e intelligenza artificiale
Immagine
eflows logo

Dopo tre anni di ricerca dedicata e sforzi collaborativi, il progetto eFlows4HPC ha consegnato con successo una piattaforma di workflow comprensiva e un insieme aggiuntivo di servizi che facilitano l'integrazione di strumenti di simulazione e modellazione High-Performance Computing (HPC) con tecniche di big data analytics e di machine learning. Una varietà di ambiti scientifici e industriali, inclusi le geoscienze, la scienza del clima, la produzione e altre iniziative nell'ecosistema europeo HPC e applicazioni scientifiche, trarranno vantaggio da questa tecnologia innovativa.

I due principali risultati del progetto, i Workflow High-Performance Computing come Servizio (HPCWaaS) e lo stack software del progetto, sono essenziali nel supportare lo sviluppo, il dispiegamento e l'esecuzione di workflow complessi. Questi avanzamenti giocano un ruolo chiave nell'affrontare sfide legate a disastri naturali, cambiamenti climatici e l'ottimizzazione dei processi di produzione. HPCWaaS aiuta utenti e sviluppatori a gestire workflow scientifici complessi semplificando le fasi del loro ciclo di vita e ampliando l'accesso all'HPC per i nuovi arrivati. Inoltre, il progetto ha reso come open source e disponibile lo stack software eFlows4HPC, rendendolo immediatamente applicabile in numerose applicazioni scientifiche e industriali che richiedono HPC, tecniche di machine learning e big data.

Rosa M. Badia, coordinatrice di eFlows4HPC, spiega: "i risultati ottenuti rappresentino un traguardo significativo, dimostrando la versatilità dello stack software eFlows4HPC nell'utilizzare le risorse HPC. Questo si traduce in una notevole riduzione dei tempi di soluzione per gli sviluppatori di applicazioni che necessitano di combinare HPC tradizionale con AI o big data in un unico workflow". Aggiunge poi: "Stiamo modellando il futuro dei workflow HPC e fornendo ai ricercatori gli strumenti per affrontare sfide emergenti che richiedono workflow complessi"

Il consorzio eFlows4HPC è stato fortemente impegnato in molteplici iniziative per garantire un'adozione più ampia delle metodologie eFlows4HPC da parte di altre comunità scientifiche e industriali. Sono state organizzate attività di collaborazione congiunta con altre iniziative europee e Centri di Eccellenza HPC (CoEs), come ESiWACE3 (simulazioni climatiche e meteorologiche) e le comunità di PerMedCoE (medicina personalizzata). Il progetto ha anche supportato ChEESE e ChEESE-2P sviluppando workflow complessi per la simulazione dell'impatto dei terremoti. Le metodologie eFlows4HPC saranno inoltre utilizzate per lo sviluppo di workflow in DT-GEO, che mira a costruire un gemello digitale per gli estremi geofisici, e il progetto CAELESTIS. Infine, i Regional Center SKA, la rete di supporto regionale per l'iniziativa internazionale della rete di radiotelescopi Square Kilometer Array, hanno mostrato interesse nella valutazione della metodologia HPCWaaS.

Il progetto eFlows4HPC è stato finanziato dal European High-Performance Computing Joint Undertaking (JU) con il grant agreement No 955558. Il JU è supportato dal programma europeo Horizon 2020 e la Spagna, Italia, Francia e Germania, Polonia, Svizzera, Norvegia. Ha ricevuto fondi aggiuntivi dal grant MCIN/AEI/10.13039/501100011033 e dal programma europeo Next Generation EU/PRTR (PCI2021-121957).