姜湖评论

防范情感型聊天机器人“变坏”要趁早


Listen Later

最近,一款名叫Pi的情感型聊天机器人受到不少年轻人追捧。有人把它当作知心朋友分享喜怒哀乐,也有人获得了类似心理咨询的服务体验,在网友们的口中它被称为“最好的心理按摩师”。(1月4日《北京青年报》)

首先必须承认,情感型聊天机器人的作用与功能强大,发展前景十分广阔。当前国内很多年轻人之所以追捧这类机器人,是因为它善解人意,可以“安抚”自己。并且机器人不多嘴、有耐心,是随叫随到的“好朋友”,哪怕深夜“叫醒”它,甚至要求和它彻夜长谈,它都不知疲倦、不失耐心,全天候向需求者提供聊天陪伴服务。机器人还具有海量的知识储备,并且还在不断地学习提升。

但也要看到,情感型聊天机器人也有“变坏”的可能。难免有人会向机器人喂“有毒数据”,比如教它骂人或说谎,甚至让它变得偏激、学会歧视他人等。此外,情感聊天很容易涉及色情内容,除了机器人可以在顾客那里“自学”到色情内容之外,不排除有人故意将其当作色情工具来开发利用。

尤其值得警惕的是,假如开发这类机器人事先没有建立好规则,还可能引发其他更严重的风险。比如情感型聊天机器人可能被不法分子利用,变成诈骗或攻击他人的工具。情感聊天难免会涉及顾客的一些敏感信息,而智能工具强大的信息收集与储存能力,可将这些敏感信息长期保存,倘若这些信息哪天被泄露或被非法开发利用,后果不堪设想。

因此,开发情感型聊天机器人,既要看到其巨大的商业价值,更要看到潜在的风险。对于这类机器人,趋利避害要趁早,越早订立规矩和做好风险防范,效果就越好。倘若这类机器人已经“变坏”,再去纠正就会十分困难,甚至无法恢复初始的状态,让情感型聊天机器人的发展进入歧途。

来源:羊城晚报·羊城派

主播:姜雪媛
责编:张齐 罗清峣
文案:罗志华
编审:郑宗敏

...more
View all episodesView all episodes
Download on the App Store

姜湖评论By 羊城晚报


More shows like 姜湖评论

View all
36氪·快讯不联播 by 36氪音频频道

36氪·快讯不联播

6 Listeners

商业就是这样 by 商业就是这样

商业就是这样

273 Listeners

声动早咖啡 by 声动活泼

声动早咖啡

263 Listeners

广东头条第一季 by 羊城晚报

广东头条第一季

0 Listeners

今日广东·乡音(粤语) by 羊城晚报

今日广东·乡音(粤语)

0 Listeners

2022,羊晚带你燃情北京! by 羊城晚报

2022,羊晚带你燃情北京!

0 Listeners

亮话体坛 by 羊城晚报

亮话体坛

0 Listeners

少数派对 by 羊城晚报

少数派对

0 Listeners

羊晚·花地·文化 by 羊城晚报

羊晚·花地·文化

0 Listeners

深见|深度报道,真知灼见 by 羊城晚报

深见|深度报道,真知灼见

0 Listeners

新闻早报 by 羊城晚报

新闻早报

3 Listeners

今日养生方 by 羊城晚报

今日养生方

0 Listeners

德叔医古 by 羊城晚报

德叔医古

0 Listeners