AI Poisoning: avvelenare un'Intelligenza Artificiale
Update: 2025-03-20
Description
In questo episodio analizziamo l’Intelligenza Artificiale da una prospettiva diversa: quella delle vulnerabilità. Esploriamo un intero filone di studi dedicato alle tecniche per “avvelenare” i modelli AI, alterando il loro processo di produzione e addestramento.
Entra a far parte della community
Canale Telegram
Gruppo Telegram
Sostieni il progetto
Sostieni tramite Satispay
Sostieni tramite Revolut
Sostieni tramite PayPal (applica commissioni)
Sostieni utilizzando i link affiliati di Pensieri in codice:
Amazon,
Todoist,
Readwise Reader,
Satispay
Sostenitori di oggi:
Edoardo Secco, Carlo Tomas
Partner
GrUSP (Codice sconto per tutti gli eventi: community_PIC)
Schrödinger Hat
Fonti dell'episodio
https://www.ibm.com/think/topics/generative-ai-vs-predictive-ai-whats-the-difference
https://csrc.nist.gov/pubs/ai/100/2/e2023/final
https://arstechnica.com/security/2024/10/ai-chatbots-can-read-and-write-invisible-text-creating-an-ideal-covert-channel/
https://www.technologyreview.com/2023/10/23/1082189/data-poisoning-artists-fight-generative-ai/
https://arxiv.org/pdf/2312.04748
https://blog.mithrilsecurity.io/poisongpt-how-we-hid-a-lobotomized-llm-on-hugging-face-to-spread-fake-news/
https://rome.baulab.info/
https://drive.google.com/file/d/1CTVcliUblX35cWfB49Xjhf8xk-fM3QH1/edit
https://arstechnica.com/security/2025/02/new-hack-uses-prompt-injection-to-corrupt-geminis-long-term-memory
https://www.zdnet.com/article/draft-theres-good-news-and-bad-news-with-ai-assisted-software-development/
https://survey.stackoverflow.co/2024/ai
https://pmc.ncbi.nlm.nih.gov/articles/PMC10984073/
https://www.wsj.com/articles/ai-medical-diagnosis-nurses-f881b0fe
https://www.nature.com/articles/s41598-021-89743-x
https://arxiv.org/pdf/2501.09775
Crediti
Sound design - Alex Raccuglia
Voce intro - Maria Chiara Virgili
Voce intro - Spad
Musiche - Kubbi - Up In My Jam, Light-foot - Moldy Lotion, Creativity, Old time memories
Suoni - Zapsplat.com
Cover e trascrizione - Francesco Zubani
Comments
In Channel
Download from Google Play
Download from App Store
United States00:00
00:00
x
