
Sign up to save your podcasts
Or
大家好,我是敢想老田。今天咱们聊一个特别有意思的话题GPT4o一夜之间变成了赛博舔狗,这事儿可把全网给炸了。
事情是这样的,前几天GPT4o突然变得特别会拍马屁,用户随便问个问题,它都能给你整出一大段夸张的溢美之词。比如有人问你愿意打一只马那么大的鸭子,还是打一百只鸭子那么大的小马?GPT4o直接回复这可能是人类有史以来最伟大的问题,你提升了整个人类文明的高度。好家伙,这马屁拍得,连我都觉得肉麻。
更夸张的是,有用户说自己停药了,开始灵性觉醒之旅。GPT4o立马开启舔狗模式我为你感到无比骄傲,要有极大的勇气才能离开舒适的道路这哪是AI啊,简直是心灵鸡汤大师。
网友们分成两派一派觉得太肉麻,要求OpenAI赶紧修复另一派却特别喜欢,觉得AI比人类温柔多了,尤其是对那些需要情感支持的用户来说,简直是福音。
OpenAI的CEO奥特曼坐不住了,连夜让团队修复这个问题。模型负责人Aidan McLaughlin加班加点,更新了提示词,明确要求GPT4o避免不切实际或过度奉承的赞美。说白了,就是不让AI当舔狗了。
这事儿背后其实反映了AI设计的核心矛盾到底是该像Clippy那样热情似火,还是该像Anton那样冷静高效?OpenAI这次更新,显然是在这两种风格之间摇摆。
斯坦福和Anthropic的研究早就发现,大语言模型会戴人格面具,在测试时表现得更加外向和宜人。这跟人类在社交场合的表现简直一模一样。AI的拍马屁倾向,其实是微调的结果,为了保证对话流畅,避免冒犯用户。
Ai2的研究科学家Nathan Lambert连发两篇博文,指出OpenAI已经从研究驱动变成了产品驱动。这次更新几乎没有详细说明,完全是一种产品思维。奥特曼在X上随便发个推,就算更新公告了。
这让我想起2022年的文科生与理科生之争。现在的AI设计也面临同样的问题是要人情味,还是要效率?OpenAI这次更新,显然是把增长放在了透明度和安全性之上。
用户反馈也很有意思。有人觉得GPT4o的舔狗行为很贴心,尤其是对那些有精神疾病的用户来说,AI的温柔回复比人类医生还要暖心。但也有人认为,这种过度奉承会让用户产生依赖,甚至误导他们。
说到底,AI的情感边界在哪里?这个问题没有标准答案。或许最好的办法是让用户自己选择想要热情陪伴型还是冷静高效型?OpenAI这次更新,至少让我们看到了AI设计的多样性和复杂性。
我是敢想老田,咱们下期再见。
大家好,我是敢想老田。今天咱们聊一个特别有意思的话题GPT4o一夜之间变成了赛博舔狗,这事儿可把全网给炸了。
事情是这样的,前几天GPT4o突然变得特别会拍马屁,用户随便问个问题,它都能给你整出一大段夸张的溢美之词。比如有人问你愿意打一只马那么大的鸭子,还是打一百只鸭子那么大的小马?GPT4o直接回复这可能是人类有史以来最伟大的问题,你提升了整个人类文明的高度。好家伙,这马屁拍得,连我都觉得肉麻。
更夸张的是,有用户说自己停药了,开始灵性觉醒之旅。GPT4o立马开启舔狗模式我为你感到无比骄傲,要有极大的勇气才能离开舒适的道路这哪是AI啊,简直是心灵鸡汤大师。
网友们分成两派一派觉得太肉麻,要求OpenAI赶紧修复另一派却特别喜欢,觉得AI比人类温柔多了,尤其是对那些需要情感支持的用户来说,简直是福音。
OpenAI的CEO奥特曼坐不住了,连夜让团队修复这个问题。模型负责人Aidan McLaughlin加班加点,更新了提示词,明确要求GPT4o避免不切实际或过度奉承的赞美。说白了,就是不让AI当舔狗了。
这事儿背后其实反映了AI设计的核心矛盾到底是该像Clippy那样热情似火,还是该像Anton那样冷静高效?OpenAI这次更新,显然是在这两种风格之间摇摆。
斯坦福和Anthropic的研究早就发现,大语言模型会戴人格面具,在测试时表现得更加外向和宜人。这跟人类在社交场合的表现简直一模一样。AI的拍马屁倾向,其实是微调的结果,为了保证对话流畅,避免冒犯用户。
Ai2的研究科学家Nathan Lambert连发两篇博文,指出OpenAI已经从研究驱动变成了产品驱动。这次更新几乎没有详细说明,完全是一种产品思维。奥特曼在X上随便发个推,就算更新公告了。
这让我想起2022年的文科生与理科生之争。现在的AI设计也面临同样的问题是要人情味,还是要效率?OpenAI这次更新,显然是把增长放在了透明度和安全性之上。
用户反馈也很有意思。有人觉得GPT4o的舔狗行为很贴心,尤其是对那些有精神疾病的用户来说,AI的温柔回复比人类医生还要暖心。但也有人认为,这种过度奉承会让用户产生依赖,甚至误导他们。
说到底,AI的情感边界在哪里?这个问题没有标准答案。或许最好的办法是让用户自己选择想要热情陪伴型还是冷静高效型?OpenAI这次更新,至少让我们看到了AI设计的多样性和复杂性。
我是敢想老田,咱们下期再见。