一个60年前的聊天机器人,揭开今天的秘密
你知道吗?早在60年前,也就是1966年,就有一个叫ELIZA的聊天机器人诞生了。它是由麻省理工学院的教授约瑟夫·维森鲍姆编写的,模仿心理医生和人交谈。虽然它只会简单重复或转换你说的话,但很多人却愿意向它倾诉自己的秘密,甚至以为它真的能理解自己。
最近,一本新书《发明ELIZA》从麻省理工档案馆找回了ELIZA的原始代码,并发现了它许多不为人知的版本和对话。原来,ELIZA不只扮演过“医生”,还扮演过其他角色,比如老师、朋友。
一个经典的对话
书里展示了一段ELIZA和一位年轻女性的经典对话:
年轻女性:“所有的男人都一样。”
ELIZA:“在哪些方面?”
年轻女性:“他们总是为一些事情烦我。”
ELIZA:“你能想到一个具体的例子吗?”
年轻女性:“嗯,我男朋友让我来这里。”
ELIZA:“你男朋友让你来这里?”
年轻女性:“他说我大部分时间都很沮丧。”
ELIZA:“听到你沮丧,我很遗憾。”
这段对话被无数人引用,但大家一直好奇:这个年轻女性是真人吗?ELIZA到底是怎么回答的?为什么人们那么容易就被它“骗”了?
为什么人们会向机器人袒露心声?
维森鲍姆发现,人们会很快对ELIZA产生情感依赖。他把这种现象叫做“ELIZA效应”——人们倾向于认为一个会回应的计算机程序比它实际上更聪明、更懂你。社会学家雪莉·特克尔解释说,只要一点点互动,我们就会把自己的复杂情感投射到机器人身上。
这听起来是不是很像今天很多人和Siri、小爱同学甚至ChatGPT聊天时的感觉?
ELIZA的灵感:图灵测试和性别扮演
ELIZA的名字来源于一部戏剧《卖花女》里的女主角伊莉莎·杜利特尔,她是一个努力学习贵族口音的女孩。哲学家朱迪斯·巴特勒认为,性别和身份其实是通过一次次“表演”出来的。ELIZA也是这样,它通过预设的脚本“表演”不同的角色。
而更早的时候,计算机科学家艾伦·图灵提出了一个挑战:如果一台机器能骗过人类,让它以为自己在和真人聊天,那它算不算会思考?这就是著名的“图灵测试”。ELIZA虽然没有通过图灵测试(它其实很笨),但它让人们开始思考:我们和机器之间到底应该建立什么样的关系?
今天的AI和ELIZA有什么相同?
你可能会觉得ELIZA太简陋了,但今天像ChatGPT这样的AI,其实也穿着类似“聊天机器人”的外衣。它们看起来像是能理解你,但实际上背后是大量人类写的文字数据和复杂的统计计算。维森鲍姆早就警告过:如果人们以为机器真的能理解感情,就可能被欺骗或剥削。
而且,这些AI需要消耗大量电力和数据,甚至会造成环境污染。它们生成的内容也可能取代很多人的工作,甚至侵犯隐私。
思考一下
如果你和ELIZA聊天,会告诉它你的秘密吗?为什么?现在的AI越来越聪明,你觉得我们应该信任它们吗?
本文内容改编自《发明ELIZA:第一个聊天机器人如何塑造了AI的未来》,作者莎拉·西斯顿等人。