Misurare il consumo energetico dell’intelligenza artificiale è più complesso di quanto sembri: non esiste un solo numero, ma un intreccio di fasi, hardware, stime e incertezze. In questo episodio esploriamo come ricercatori e analisti provano a calcolare l’impatto energetico dei modelli AI, distinguendo tra training, inferenza e manutenzione, e analizzando i principali trade-off: dimensione dei modelli, specializzazione, efficienza degli acceleratori e tecniche di compressione. Una guida pratica per capire cosa sappiamo davvero, cosa possiamo solo stimare e quali domande dovremmo farci di fronte ai numeri sull’energia dell’AI.

Music: Beethoven, Sinfonia n.9, secondo movimento per pianoforte. Performed by Rebecca You:https://www.youtube.com/watch?v=-fC_rdbqGQc

References: https://epoch.ai/; https://www.iea.org/reports/energy-and-ai; https://doi.org/10.48550/arXiv.2311.16863 (Title: Power Hungry Processing: Watts Driving the Cost of AI Deployment?); https://cloud.google.com/blog/products/infrastructure/measuring-the-environmental-impact-of-ai-inference/ (Title: Measuring the environmental impact of delivering AI at Google Scale); https://doi.org/10.48550/arXiv.2412.08602 (Title: Empirical Measurements of AI Training Power Demand on a GPU-Accelerated Node)

XANADU: Il Meraviglioso Mondo della Scienza, ogni martedì su Spotify.

Un podcast di Liberi Oltre le Illusioni.

Se vuoi associarti o donare a Liberi Oltre fai click su questo link ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠https://www.liberioltreleillusioni.it⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠...

Seguici sui nostri social:

Twitter/𝕏 » / liberioltre

Instagram » / liberioltre

Sito » ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠https://www.liberioltreleillusioni.it/⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠

Telegram » ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠https://t.me/liberioltre⁠⁠⁠⁠⁠