Skip to Main Content (Press Enter)

Logo UNIBS
  • ×
  • Home
  • Persone
  • Strutture
  • Competenze
  • Pubblicazioni
  • Professioni
  • Corsi
  • Insegnamenti
  • Terza Missione

Competenze & Professionalità
Logo UNIBS

|

Competenze & Professionalità

unibs.it
  • ×
  • Home
  • Persone
  • Strutture
  • Competenze
  • Pubblicazioni
  • Professioni
  • Corsi
  • Insegnamenti
  • Terza Missione

Synchronised, Energy-Aware and Causality-Guided Orchestration for Sustainable AI Serving

Progetto
SYNAPSE-AI mira a sviluppare nuove strategie per la gestione sostenibile ed energeticamente efficiente delle infrastrutture di calcolo dedicate all’Intelligenza Artificiale, con particolare riferimento ai sistemi HPC e al serving di modelli linguistici di grandi dimensioni (LLM). Il progetto combina tecniche di previsione del carico e della potenza, inferenza causale, gestione dinamica della KV-cache e controllo delle risorse GPU, con l’obiettivo di ridurre i consumi energetici mantenendo elevati livelli di prestazione e qualità del servizio. Un ulteriore elemento innovativo è l’impiego della sincronizzazione temporale tra dati di workload, telemetria GPU e misure elettriche, così da migliorare l’affidabilità delle analisi energetiche e delle decisioni di orchestrazione.
  • Dati Generali
  • Ricerca

Dati Generali

Partecipanti

RINALDI Stefano   Responsabile scientifico  

Dipartimenti coinvolti

Dipartimento di Ingegneria dell'Informazione   Principale  

Tipo

Horizon Europe - Marie Skłodowska-Curie actions - PostDoctoral Fellowships (PF)

Finanziatore

UNIONE EUROPEA

Partner

Università degli Studi di BRESCIA

Ricerca

Settori (4)


PE6_6 - Algorithms and complexity, distributed, parallel and network algorithms, algorithmic game theory - (2024)

Goal 11: Sustainable cities and communities

Goal 9: Industry, Innovation, and Infrastructure

Settore IMIS-01/B - Misure elettriche ed elettroniche
  • Assistenza
  • Privacy
  • Utilizzo dei cookie
  • Note legali

Realizzato con VIVO | Designed by Cineca | 26.7.2.0