Sign up to save your podcasts
Or
Share 【未來城市Ep.96】台北捷運AI客服竟能寫程式？AI專家揭露你所不知的智能客服風險
Share to email
Share to Facebook
Share to X
Share to email
Share to Facebook
Share to X
Or
【未來城市Ep.96】台北捷運AI客服竟能寫程式？AI專家揭露你所不知的智能客服風險
去年11月，台北捷運的AI智能客服系統曾爆出設計漏洞，不僅能被要求執行原本功能以外的任務，甚至會替使用者撰寫程式碼。這項發現引發各界對AI客服系統可靠性的討論，以及對機密資訊可能外洩的疑慮。
資料科學家尹相志指出，雖然現今的AI模型都設有道德準則，但將企業內部資料餵入AI模型仍是一項高風險的做法，可能讓人透過情緒操縱或威脅等手段，讓AI在不知不覺中吐露敏感資訊。
針對AI應用的潛在風險，尹相志建議企業採取「零信任」策略。具體作法包括：避免讓AI系統成為客服單一管道，同時建立人機協作機制，並制定明確的資安管理準則。
本集節目，你會聽到：
01:55 AI竟「不適合」單獨提供客服服務？
05:58 如何避免智能客服「亂說話」？
12:44 語言模型難以預料！限縮AI還要靠管理技巧
15:23 客服教學版會如何加強現有版本的不足？
20:06 AI口風不緊可能衍伸的危險？
24:03 防禦提示詞攻擊的方法？
主持人: 未來城市頻道總監 陳芳毓
來賓: 數據科學家 尹相志
製作團隊：許鈺屏、陳繹方、陳瑞偉
＊搜尋「未來城市FutureCity@天下」，追蹤更多城市議題：https://futurecity.cw.com.tw/
＊訂閱天下全閱讀：https://bit.ly/3STpEpV
＊「聽天下」清楚分類更好聽，下載天下雜誌App：[https://bit.ly/3ELcwhX]() ">https://bit.ly/3ELcwhX
＊意見信箱：[email protected]
--
Hosting provided by SoundOn
View all episodes
By 天下雜誌
4.6
152152 ratings
去年11月，台北捷運的AI智能客服系統曾爆出設計漏洞，不僅能被要求執行原本功能以外的任務，甚至會替使用者撰寫程式碼。這項發現引發各界對AI客服系統可靠性的討論，以及對機密資訊可能外洩的疑慮。
資料科學家尹相志指出，雖然現今的AI模型都設有道德準則，但將企業內部資料餵入AI模型仍是一項高風險的做法，可能讓人透過情緒操縱或威脅等手段，讓AI在不知不覺中吐露敏感資訊。
針對AI應用的潛在風險，尹相志建議企業採取「零信任」策略。具體作法包括：避免讓AI系統成為客服單一管道，同時建立人機協作機制，並制定明確的資安管理準則。
本集節目，你會聽到：
01:55 AI竟「不適合」單獨提供客服服務？
05:58 如何避免智能客服「亂說話」？
12:44 語言模型難以預料！限縮AI還要靠管理技巧
15:23 客服教學版會如何加強現有版本的不足？
20:06 AI口風不緊可能衍伸的危險？
24:03 防禦提示詞攻擊的方法？
主持人: 未來城市頻道總監 陳芳毓
來賓: 數據科學家 尹相志
製作團隊：許鈺屏、陳繹方、陳瑞偉
＊搜尋「未來城市FutureCity@天下」，追蹤更多城市議題：https://futurecity.cw.com.tw/
＊訂閱天下全閱讀：https://bit.ly/3STpEpV
＊「聽天下」清楚分類更好聽，下載天下雜誌App：[https://bit.ly/3ELcwhX]() ">https://bit.ly/3ELcwhX
＊意見信箱：[email protected]
--
Hosting provided by SoundOn
More shows like 聽天下：天下雜誌Podcast
View all
大人的Small Talk
251 Listeners
游庭皓的財經皓角
47 Listeners
Gooaye 股癌
733 Listeners
財經一路發
59 Listeners
下一本讀什麼？
180 Listeners
財訊 《Wealth Magazine》
31 Listeners
下班經濟學
42 Listeners
吳淡如人生實用商學院
457 Listeners
商周Bar
9 Listeners
天下文化‧相信閱讀
46 Listeners
好好說那年
2 Listeners
請聽，哈佛管理學！
30 Listeners
今周大耳朵
9 Listeners
天下學習
20 Listeners
兆華與股惑仔
39 Listeners
閱讀經濟學人 | 《決策者的世界筆記》
26 Listeners
永續會
0 Listeners
聽康健
31 Listeners
Taiwanology
13 Listeners
100天聲音練習
0 Listeners