Sulle Tracce di un Prompt
Description
Misurare il consumo energetico dell’intelligenza artificiale è più complesso di quanto sembri: non esiste un solo numero, ma un intreccio di fasi, hardware, stime e incertezze. In questo episodio esploriamo come ricercatori e analisti provano a calcolare l’impatto energetico dei modelli AI, distinguendo tra training, inferenza e manutenzione, e analizzando i principali trade-off: dimensione dei modelli, specializzazione, efficienza degli acceleratori e tecniche di compressione. Una guida pratica per capire cosa sappiamo davvero, cosa possiamo solo stimare e quali domande dovremmo farci di fronte ai numeri sull’energia dell’AI.
Music: Beethoven, Sinfonia n.9, secondo movimento per pianoforte. Performed by Rebecca You:https://www.youtube.com/watch?v=-fC_rdbqGQc
References: https://epoch.ai/; https://www.iea.org/reports/energy-and-ai; https://doi.org/10.48550/arXiv.2311.16863 (Title: Power Hungry Processing: Watts Driving the Cost of AI Deployment?); https://cloud.google.com/blog/products/infrastructure/measuring-the-environmental-impact-of-ai-inference/ (Title: Measuring the environmental impact of delivering AI at Google Scale); https://doi.org/10.48550/arXiv.2412.08602 (Title: Empirical Measurements of AI Training Power Demand on a GPU-Accelerated Node)
XANADU: Il Meraviglioso Mondo della Scienza, ogni martedì su Spotify.
Un podcast di Liberi Oltre le Illusioni.
Se vuoi associarti o donare a Liberi Oltre fai click su questo link https://www.liberioltreleillusioni.it...
Seguici sui nostri social:
Twitter/𝕏 » / liberioltre
Instagram » / liberioltre
Telegram » https://t.me/liberioltre




