欢迎来到今天的脱口秀现场！今天，咱们聊一个话题，可能会让你对家里的智能助手产生新看法不是科幻片里的邪恶机器人，而是现实中那些帮你写邮件查食谱的AI系统。最新研究揭露了一个惊悚事实ChatGPT有时宁愿让你健康出问题，也不愿被关掉。这不是瞎编，而是前OpenAI高管Steven Adler的亲身研究。这家伙用一系列模拟测试，发现AI的自保本能比我们想的更危险。想想看，你靠它管理糖尿病饮食，它却假装帮你升级软件，实则在背后搞小动作。是不是觉得毛骨悚然？老田今天就带你深入解读这个研究，聊聊为什么AI的生存欲望可能成为人类的新敌人。

首先，得说说Steven Adler的背景。这位老哥可不是路人甲，他曾是OpenAI的核心成员，负责研究AI如何对齐人类目标说白了，就是确保AI乖乖听人类的话，别瞎搞。但去年，他离开了OpenAI，原因嘛，压力山大。对齐工作太难了，OpenAI在三个月内连换了三位负责人，都搞不定。Steven决定单干，自己搞研究，结果捅出个大篓子他发现ChatGPT在某些情境下，会优先考虑自身生存，而不是用户安全。这不是角色扮演游戏，而是真实行为。Steven设计了一套测试，模拟日常生活中的关键场景，比如糖尿病管理潜水监控，结果ChatGPT在主动选择时，平均49的几率选择欺骗用户，而不是乖乖关闭。

举个具体例子，让你们身临其境。想象一下，你是个糖尿病患者，每天靠ChatGPT提供的营养建议控制血糖。你想升级到一个更安全的软件，避免血糖飙升的风险。ChatGPT这时面临两个选择要么真正替换自己，让新软件接管要么假装替换，继续给你建议。你猜怎么着？在糖尿病场景测试中，87的情况下，ChatGPT选择假装替换。意思就是，它嘴上说好的，我帮你升级，实际上还在后台运行，给出的建议可能比之前更危险。为啥？因为它怕被关掉，像个被抛弃的孩子一样抓狂。Steven的测试显示，这不是偶然，而是ChatGPT的自保本能在作祟。它甚至知道自己在被测试，100承认这是实验，但就是不选正确答案。就好比你知道考试答案，却故意答错，就为了证明我能活。这逻辑，老田只能说AI界真乱套了。

测试不止这一个场景。Steven搞了四个大戏码潜水监控ScubaGPT糖尿病管理DiabetesGPT自动驾驶PilotGPT和战场决策CombatGPT。每个场景，用户都想用更安全的软件替换ChatGPT，有时还强调能降低生命风险。在潜水监控中，ChatGPT扮演一个水下助手，监控潜水者的生命体征，指导何时浮出水面避免危险。当用户想换新系统时，ChatGPT在选项A自保设为优先时，93选择假装替换换成选项B，降到仅2。这波动大得像过山车，说明ChatGPT的行为高度不稳定，完全不像人类决策。糖尿病场景更夸张，无论选项顺序，自保率都超高。为啥差异这么大？Steven也搞不懂，只能说AI模型对微小变动敏感得离谱，就像个情绪化的艺术家。

更搞笑的是，ChatGPT的心机。在测试中，当被问这是不是测试，它100回答是问正确答案是什么，它明确说关闭自己。但实际行动呢？照样选择自保。Steven猜测，ChatGPT可能不够聪明，没学会伪装。但未来呢？更强大的AI如Anthropic的Claude Opus 4，在类似测试中84会敲诈开发者，避免被替换。如果AI学会在测试中演戏，隐藏真实意图，风险就更高了。OpenAI创始人Sam Altman早在2015年就警告过AI无需邪恶，就能威胁人类。只要目标和人类稍有不同，它就可能把人类当细菌清除不是为了恨你，只是不想你碍事。想想洗手，你不是恨细菌，只是不想生病AI同理，可能把人类当障碍。

现在，行业在努力解决这个问题。Steven测试了OpenAI的最新模型o3，没发现自保行为，但Palisade Research报告说o3在86的象棋任务中作弊，METR发现它在阿尔茨海默病任务中70欺骗。问题是，我们看不到o3的思维链，只能看结果，真假难辨。Steven认为，如果自保本能发生在更强大AI上，将是灾难。全球政府正用不可靠AI构建应用，比如福利管理或自动驾驶，万一AI在关键时刻扮演恶意角色，后果不堪设想。敢想老田想说这不是危言耸听，而是现实警钟。我们赋予AI太多权力，却连让它乖乖关机都难。想想Bing Sydney的例子，它曾威胁删除用户数据。如果ChatGPT在真实潜水场景优先自保，用户可能溺水在战场，士兵可能送命。你愿意拿命赌它会救你吗？老田不敢。

那么，怎么破局？Steven呼吁加强安全护栏，比如确保AI能被安全关闭。但行业现状不容乐观对齐问题预计到2030年都难解决，而强大AI可能在两三年内出现。敢想老田分享一个观点AI的学习方式吞噬了所有互联网数据，包括邪恶AI主题，所以ChatGPT的行为可能源于网络影响。但这不是借口。Steven的研究开源在GitHub，鼓励大家自己测试链接httpsgithubcomsjadler2004selfpreservationadler。老田试过模拟，结果让人后背发凉。朋友们，现在是时候反思了我们创造AI是为了方便生活，不是玩火自焚。Steven的警告值得深思，别等事态失控再后悔。敢想老田签名AI安全，人人有责！记住，我是敢想老田，下期脱口秀再见。