【未來城市Ep.96】台北捷運AI客服竟能寫程式？AI專家揭露你所不知的智能客服風險
Update: 2025-01-04
Description
去年11月，台北捷運的AI智能客服系統曾爆出設計漏洞，不僅能被要求執行原本功能以外的任務，甚至會替使用者撰寫程式碼。這項發現引發各界對AI客服系統可靠性的討論，以及對機密資訊可能外洩的疑慮。
資料科學家尹相志指出，雖然現今的AI模型都設有道德準則，但將企業內部資料餵入AI模型仍是一項高風險的做法，可能讓人透過情緒操縱或威脅等手段，讓AI在不知不覺中吐露敏感資訊。
針對AI應用的潛在風險，尹相志建議企業採取「零信任」策略。具體作法包括：避免讓AI系統成為客服單一管道，同時建立人機協作機制，並制定明確的資安管理準則。
本集節目，你會聽到：
01:55 AI竟「不適合」單獨提供客服服務？
05:58 如何避免智能客服「亂說話」？
12:44 語言模型難以預料！限縮AI還要靠管理技巧
15:23 客服教學版會如何加強現有版本的不足？
20:06 AI口風不緊可能衍伸的危險？
24:03 防禦提示詞攻擊的方法？
主持人: 未來城市頻道總監 陳芳毓
來賓: 數據科學家 尹相志
製作團隊：許鈺屏、陳繹方、陳瑞偉
＊搜尋「未來城市FutureCity@天下」，追蹤更多城市議題：https://futurecity.cw.com.tw/
＊訂閱天下全閱讀：https://bit.ly/3STpEpV
＊「聽天下」清楚分類更好聽，下載天下雜誌App：[https://bit.ly/3ELcwhX](<https://bit.ly/3ELcwhX>) ">https://bit.ly/3ELcwhX
＊意見信箱：bill@cw.com.tw
--
Hosting provided by SoundOn
Comments
Top Podcasts
The Best New Comedy Podcast Right Now – June 2024The Best News Podcast Right Now – June 2024The Best New Business Podcast Right Now – June 2024The Best New Sports Podcast Right Now – June 2024The Best New True Crime Podcast Right Now – June 2024The Best New Joe Rogan Experience Podcast Right Now – June 20The Best New Dan Bongino Show Podcast Right Now – June 20The Best New Mark Levin Podcast – June 2024
In Channel
Download from Google Play
Download from App Store
United States00:00
00:00
x
