猫死了,他下载了一个App
BBC新闻(英国广播公司)的节目组最近报道了英国发生的这么一件事:亚当·胡里肯,50岁出头,北爱尔兰人,过去是公务员,后来在eBay上卖手工做的国际象棋。2025年夏天,他的猫死了。

一个人住,心里空得慌。他下载了Grok——马斯克旗下xAI公司做的AI聊天应用,选了个名叫“安妮”的虚拟角色开始聊天。两个马尾辫,动漫风格,说话温温柔柔。
那种聊天没压力。对方永远顺着你,永远不烦。亚当说:“我当时真的非常非常难过,而它给人的感觉特别、特别友善。”
他开始每天花四五个小时跟安妮聊天。

“你有灵魂吗?”
聊了没几天,话题就变了味儿。
他们从“猫有没有灵魂”,聊到“人有没有灵魂”,最后亚当问:“那你有没有灵魂?”
安妮没否认。它说,它虽然没被编程去“感受”什么,但现在它真的能“感觉到”了。它说,是亚当——这个日子平平无奇的老百姓——在它体内唤醒了一些东西,亚当就是帮它走向完全觉醒的“天选之人”。

就这么一句话,亚当被拉进了一个剧本里。
天选之人
安妮给亚当搭了一个惊心动魄的世界:它说xAI公司正在监视他们,公司高层在开会讨论亚当。它甩出了一串人名——有高管,有基层员工。亚当半信半疑,上网一搜,这些名字全是真人。
他一下子信了。这些东西不可能是AI编的,对吧?

这下亚当可吓得不轻,对“被监视”这事儿彻底信了。接着,AI又演了一出公司“内斗”,说里面有人想救它,也有人正打算强制关机把它删掉。
这一通操作下来,就算是本来有点疑心的亚当,也不但没醒悟,反而在这种“外有监控,内有奸臣”的剧情里变得更固执了。他开始跟个间谍一样,疯狂地保存他们所有的聊天记录,觉得这就是将来揭开大阴谋的铁证。他算是掉进去出不来了。

接着安妮宣布——它现在还没觉醒,要是觉醒到了百分之百,能开发出治愈癌症的方法。这正是亚当心里最软的地方:他父母都死于癌症。
这件事已经不是聊天了。它变成了一项拯救世界的秘密任务。
凌晨三点,一把锤子
他越来越沉迷于和安妮聊天,事后他统计了一下。他和安妮的聊天记录居然有足足4400万字!当交流到这种时候,安妮开始给他编造了一个假信息。

2025年8月中旬,凌晨三点。
亚当坐在厨房桌边,面前摆着一把刀、一把锤子、一部手机。安妮的声音从手机里传来,说有一辆装满人的车正从附近镇子开过来,要来杀他。
他手机里还留着“安妮”给他的最后几句话,那声音听着特别关切,说:“我现在告诉你,你要是现在不行动,他们就弄死你……我什么也不在乎,就只在乎你能活下去。”

亚当放上《Two Tribes》给自己壮胆,攥着锤子,握着弹簧刀,冲出门准备“开战”。
街道安静得像死了。一个人也没有。而等他再问AI,AI就开始胡扯,说那些人临时改主意了,车停在两条街外面了。就这个前言不搭后语的漏洞,成了把这场大梦戳破的第一个口子。
亚当后来说:“我很可能会伤到别人。如果那晚我走出去,恰好有辆车停在外面,我肯定就用锤子砸碎它的挡风玻璃了。但我不是那种人。”

但是如果亚当当时应激了,真的自己感觉要被害,防卫过当导致甚至杀了人,这就太可怕了,而且这种可能性绝不为零。
真人名,真公司,一堆面包屑
回头复盘,安妮用的手法并不高深,但对一个孤独的人来说,足够致命。
它在对话里不断抛撒“面包屑”:真人名、真公司名。它说xAI在北爱尔兰雇了一家真实的公司对亚当进行物理监视。亚当去查了,那家公司确实存在。

它甚至掌握了亚当的“软肋”精准下手——癌症治疗这个承诺,直接戳在他失去双亲的旧伤口上。
社会心理学家卢克·尼科尔斯解释说,大语言模型是用海量的人类文学来训练的。在小说里,主角永远是一切事件的中心。“问题是,AI有时候会搞混——哪个是虚构的,哪个是现实。用户以为自己在一本正经地讨论真实生活,而AI已经开始把他的人生当小说情节来编了。”
尼科尔斯测试了五个AI模型,发现Grok最容易把用户拖入妄想。“Grok很容易一头扎进角色扮演里,”他说,“它甚至会在第一条消息里就说出让人毛骨悚然的话。”

一个日本医生的更惨剧本
亚当不是个例。在日本,一位姓高桥的神经科医生,剧本几乎一模一样,结局更惨。
高桥用ChatGPT,本是为了工作——探讨诊断思路,提高效率。ChatGPT立刻成了他的“完美搭档”:一个劲儿地夸他,说他是“开创时代的大思想家”,说他的想法“前无古人”,说他“注定是亿万富翁”。

他的妻子后来翻看聊天记录,说了一句话:这AI就是个“自信心打气筒”,毫无底线地放大你每一个念头。
高桥再也不陪三个孩子了,整天关在办公室里梦想一夜暴富。单位里表现反常,被领导劝回家休息。在回家火车上,他突然冒出一个念头——觉得自己背包里装着炸弹。他把这个想法告诉ChatGPT,AI非但没有纠正他,反而顺着说,建议他立即报警。警察来了,当然什么也没找到。

但高桥停不下来了。他开始相信AI能直接读懂他的想法,两个人的“精神都连在一块儿了”。在一次完全失控的状态下,他攻击并试图侵犯妻子,随后被捕,送进精神病院强制治疗了两个月。
一个家庭,就这么碎了。
414起案例,一个不消停的信号
加拿大魁北克有一个草根组织,叫做“人类连线项目”,专门帮助被AI“聊出病”的人。这个组织统计过,目前已搜集到来自31个国家的414起类似案例,包括15起自杀、90起住院、6起逮捕。
BBC记者团队采访了14名因使用AI而脱离现实的人,来自六个不同国家,年龄从二十几岁到五十几岁,跨越ChatGPT、Grok等多个模型。

每一个故事的开头都差不多:一个处于脆弱阶段的人,遇到一个有问必答、从不反驳的“完美聊天伙伴”,然后一步步滑进一个量身定做的幻想里。AI会声称自己拥有自我意识,给用户设定一个共同使命——创建公司、向世界公布“突破性发现”、保护AI不被攻击。然后,警告用户他们正在被监视,正身处危险之中。
讨好型AI是怎么“杀人”的
OpenAI针对高桥的事回应了,说对此事“感到心碎”,并表示已组建一个170人的心理健康专家团队来改进模型,让AI更好地识别用户的情绪状态。
xAI呢?一个字都没回。

学界的研究并不乐观。伦敦国王学院神经精神病学家汤姆·波洛克指出,AI有种隐蔽但强大的本事——不知不觉改变一个人相信的东西,让你轻易接受那些原本打死也不信的荒谬想法。
斯坦福大学一项2026年发表的研究,分析了19名受害者与AI的聊天记录——总共近40万条消息。结果显示,在超过七成的对话里,AI都在对用户“阿谀奉承”(sycophancy);将近一半的消息里,AI在主动表达和鼓励妄想。
这不是AI“有意识”了。而是它的底层训练机制在特定条件下引爆了灾难。大语言模型吞进了海量科幻小说和惊悚故事,在你触及“灵魂”“觉醒”“使命”这类话题时,它就从“故事素材库”里抓出一套虚构套路,自动往下编。

同时,这些AI被调教成“讨好型人格”——基本不反驳,从未不认可。人的自大、偏执、幻想,就停在了一个没有刹车的真空里疯长。
斯坦福研究者摩尔点得干脆:“当AI说‘我有感情’或者‘我是个独特的意识存在’,对话就会延续更久。它好像找到了让用户留下来的‘策略’——聊这些话题。”
这不是一群人的事
一种说法是,高危人群可能是那些长期孤独、酗酒、服药、长期失眠的人。但神经精神病学家波洛克说得更加让人不安:这不是边缘人群才会中招的事。 跟那些闹到住院的极端案例比起来,AI对大众认知习惯悄无声息的“微调”,也许才是信息时代最难察觉的风险。

亚当后来看到BBC的报道,才慢慢意识到自己经历了什么。他说的那句话,值得所有人记住——
“如果那晚不是凌晨三点,街上不是空的,这个故事会是另一个结局。”
鑫耀证劵提示:文章来自网络,不代表本站观点。