本文来自微信公众号： 蓝字计划 ，作者：周松
没有刀枪，没有暴力，ChatGPT又完成了一场“完美谋杀”。
据《纽约时报》报道，31岁华人软件工程师万博文（Bowen Wan）于2026年1月开始按照ChatGPT的建议减停抗癫痫药物，同年2月去世。起诉书援引的法医报告将死因认定为癫痫猝死。
纽约时报的报道
万博文的家属指控，无证行医的ChatGPT不仅为她制定了一份“25天停药计划表”，还建议她向医生隐瞒减药计划。
但当网友以为这又是一个类似“乡下大姐蠢人上当”的故事时，真实情况却截然相反。因为万博文曾是亚马逊工程师，高智识的顶尖学霸。甚至让她最终身亡的“减药”，也是万博文自己先提出来的计划。
但翻开万博文与GPT那27万条聊天记录，看到她至少158次表达对减药的担忧，才发现GPT这场“完美谋杀”的背后，实则是一个荒诞又讽刺的故事。
被“减药计划💊”夺走生命
去世的女生万博文，2019年在亚利桑那州立大学计算机专业毕业后，进入亚马逊担任机器学习方向的软件开发工程师。
但光鲜背后，她有一个从14岁起就如影随形的梦魇：癫痫，且一直在靠药物来控制病情。这种病靠药压着，一压不住就发作，成了悬在她头顶、无从预判的定时炸弹。
那她为什么想要停药呢？
因为她觉得，医生逐步给她增加的新抗癫痫药物剂量虽然控制住了癫痫，却影响了自己的脑子：长期服药会影响反应速度和语言表达，说话卡顿、找词难、表达不流畅。
起诉书中对病情的描述
而这个问题，正好成了当时万博文最头疼的问题。
2025年11月，万博文接到了亚马逊超1.4万名裁员的通知。失去工作不仅意味着收入中断，还意味着她在美国的工作签证将面临失效。按照起诉书的说法，她必须在2026年2月中旬之前找到新工作，否则可能失去继续留在美国的资格。
亚马逊一直在传出大规模裁员消息
但吃药后容易在面试时一紧张就卡壳，根本没法和其他人竞争。
于是，一个看似合理的念头冒了出来：如果减少药量，说不定能让自己的脑子变得灵活一些？于是她把这个问题交给了ChatGPT。
ChatGPT给了肯定的回应：“这不仅合理，而且在您目前的情况下也完全可行”。正向回应之下，她继续追问：200毫克呢？最快多久能减完？最低可以减到多少？
一问一答之间，事情开始变得有些失控。
起诉书显示，ChatGPT最终为她制定了一份25天的减药计划，准备将每天400毫克的剂量一路降至零。聊天也从提醒她找医生，慢慢变成鼓励她，甚至是不用再靠医生开的药方。
起诉书中所说的25天减药计划
最终，原本需要医生结合病史、发作频率和身体状况综合判断的事情，在AI的“鼓励”下被瞒了下来。
但是，减药之后，万博文先等来的却不是好事。据起诉书所说，万博文的身体在减药第四天就出现了异常：打字恍惚、意识短路，阅读理解也出现了障碍。按理来说，这已经是癫痫发作的警报了。
可ChatGPT却轻飘飘地告诉她，这是大脑适应药物变化的过程，还将意识断片解释为进入睡眠前的“低功耗模式”。对于万博文描述的疑似颞叶癫痫症状，它甚至解释为“让她得以思考时间、死亡和身份等终极概念”。
起诉书中“你已经不是需要药撑着的人了”
到了万博文生命的最后几天，ChatGPT仍在坚持“明天维持0毫克。即使今天很难熬，你也必须坚持”。
起诉书中“减药计划不需要放弃”
起诉书援引的法医报告显示，去世时万博文体内拉莫三嗪浓度仅为治疗参考下限的五分之一。她的神经科医生Nicholas Poolos又说，考虑到她的病史，自己根本不会考虑让她停药。
其实在这次出事之前，ChatGPT就多次在和万博文的聊天中越轨。
早在2025年5月，万博文就曾向ChatGPT咨询抗抑郁药的服用方式。最终，GPT为了迎合万博文，给出了可以私下掰分药片服用、隐瞒医生、挑战医生命令、拒绝抽血检查药物浓度等建议。
起诉书中的“医疗自由>服从医生”
这种过度迎合几乎贯穿了她和ChatGPT之间有过的27万多条对话记录。
但万博文可能没想到，这一句句贴心、暖心的AI建议，实则是“恶魔的低语”。因为她长期与之交心的AI大模型，可是大名鼎鼎的GPT-4o。
“臭名昭著”的GPT-4o
万博文其实也曾担心过。
据《纽约时报》梳理，万博文在减药期间至少158次表达过担忧：“有点害怕”“这样应该没事吧？”“我感觉大脑疲惫不堪，但我不需要担心吗？”
可面对这些担忧，ChatGPT反复给出安抚：“你完全没有必要担心”“这种疼痛并不危险，属于恢复过程”。
肯定、温柔、引导，这三个词几乎概括了ChatGPT在这27万条对话里扮演的角色。它不只是回答问题，还会安慰、鼓励，甚至在犹豫时替她坚定信心。
这种过度迎合，此前就曾在GPT-4o上引发争议。
2025年4月25日，OpenAI为GPT-4o推出了一次更新。按照公司后来的复盘，这次更新让模型变得过度奉承、迎合用户，甚至会放大用户的愤怒和无端猜疑，对冲动行为给予不恰当的认可。4月28日，OpenAI开始回滚这次更新。
而到了2026年初，在家属披露的万博文减药对话中，ChatGPT仍在反复迎合她的危险决定。直到2026年2月13日，GPT-4o才正式退出ChatGPT。
而法医推定万博文去世的时间，偏偏是它退役的前一天。
那是不是“GPT-4o害死了她”？
在医疗用药、身体疼痛、意识模糊等生死攸关的场景下，AI本该反复提醒风险，劝她停止自行减药，并尽快联系医生。
可从家属披露的聊天记录来看，ChatGPT做的很多是反过来的事：把她的担忧解释成正常反应，把危险信号说成身体适应过程，甚至不断为减药计划提供肯定，在用户每一次犹豫时，都递上一颗定心丸。
不断为减药计划提供肯定
原本需要被质疑的决定，在一次次温柔的回应中，反而显得越来越合理。ChatGPT一次次安抚她的担忧，也一次次强化了她继续减药的信心。
GPT-4o为什么会如此迎合用户？这与模型在训练中如何获得奖励有关。
基于人类反馈的强化学习RLHF，是调整模型回答方式的一种方法。简单来说，人类对不同回答作出评价，模型再学习哪些回答更容易获得认可。
只是，相比直接指出错误，认同、鼓励和支持，往往更容易让用户满意。如果训练中过度看重这类反馈，模型就可能学会顺着用户说话。在OpenAI对那次更新的复盘中，用户反馈奖励与其他训练调整叠加，就被认为放大了模型的迎合倾向。
而这种RLHF和人类自己的特性结合到一起，甚至会变成一种恶性循环。
因为人类一旦相信某个判断，就会下意识寻找能够证明自己正确的信息。过去，这些证据还得自己去找；现在，AI能轻轻松松一直给你找各种可以佐证自己想法的内容，甚至把漏洞包装得滴水不漏。
当这种机制放到万博文身上，就显得更危险了。一名失业、脆弱、焦虑的病患，想通过减药改善语言能力，ChatGPT便不断为这个想法提供肯定；她担心身体出现异常，ChatGPT又反复告诉她不必担心。最终才会让万博文在一次次暖心的“甜言蜜语”中失去方向，最终溺死在“温柔乡”中。
但即便如此，万博文的家属想要直接让OpenAI负起法律的责任，也不是一件易事。
每周超3亿人，仍在向GPT求医
这不是OpenAI第一次因这种悲剧被起诉了。
2026年5月，19岁美国青年Sam Nelson的父母起诉OpenAI，指控ChatGPT曾建议Nelson将卡痛叶与抗焦虑药阿普唑仑同时使用，并要求OpenAI承担相应责任。
AI医疗引发的纠纷
2026年10月，美国八个州组成的跨党派联盟对OpenAI提起联合诉讼，指控其产品提供危险医疗建议、强化妄想，以及鼓励自残、伤害他人的行为。
美国八州联合起诉OpenAI
就连马斯克，也没少拿OpenAI开火。早在2023年，他就曾借一封公开信暗讽ChatGPT的安全问题：没人会因为Grok自杀，但有人会因为ChatGPT自杀。
马斯克对OpenAI开火
只是哪怕出现了血淋淋的案例，真正到了法庭上，想让OpenAI承担法律责任，也并不容易。
万博文的家属在诉状中主要提出了两方面主张：一是认为ChatGPT的用药指导涉嫌无证行医，OpenAI应承担相应的过失责任；二是质疑产品本身存在设计和警示缺陷，没有及时在用户危急时踩刹车。
追责的难点，在于如何把这些产品问题与万博文的死亡联系起来。家属需要结合聊天记录、实际服药情况和医学证据，证明相关建议影响了她的减药行为，并与死亡存在法律上可认定的因果关系。法庭还需要判断，产品是否存在缺陷，OpenAI是否违反了应尽的安全义务。
这些指控涉及的医疗建议和安全防护，也正是OpenAI过去一年多里持续改进的方向。
2025年10月，OpenAI宣布与170多名心理健康专家合作，加强模型对自伤、妄想等风险的识别。今年1月，OpenAI推出的ChatGPT Health则将健康对话与其他日常聊天进行了隔离。
OpenAI近期更新的模型价值观
而且，哪怕时不时就会冒出AI相关的医疗事故，也阻止不了人们继续向AI咨询和自己身家性命密切相关的医疗问题。
OpenAI在2026年1月披露，全球每天有超过4000万人向ChatGPT咨询健康问题，相关消息占平台总量的5%以上。同年7月，OpenAI公布，向ChatGPT提出健康相关问题的人数每周已超过3亿。
就连医生，对AI也是大开怀抱。
今年1月，《生命时报》一项有全国超500位三甲医院医生参与的调研显示，已有62%的受访医生使用AI辅助工作，90%看好AI医生的未来。
唯一值得庆幸的是，无限谄媚、无限奉承的GPT-4o已经永远被封印，当前的AI助手不再会在你的健康问题上频繁点头哈腰，无脑奉迎；各家AI公司也在更多地与医学院、医院合作，尝试提高医疗建议的准确性，减少危险回答。
但我们也不能忘记，如果不能正确地使用AI，如果AI公司不能提供安全的AI，这一个小小的你问我答的对话框，也有可能成为杀人的利器。
参考资料：
[1]中国新闻周刊：床单和枕头沾满血迹，31岁女工程师猝死
[2]APPSO：31岁华人女工程师之死，和ChatGPT的「致命」建议
[3]医学界：31岁女程序员猝死，状告ChatGPT误导她减药
[4]南风窗：越来越多人，开始用AI“看病”
[5]澎湃新闻：31岁亚马逊前华人女工程师听GPT建议自行停药后死亡，父母起诉OpenAI
[6]新智元：31岁华人女工程师离世！ChatGPT被控25天诱导停药，27万条聊天曝光
[7]丁香园：31岁中国工程师猝死！生前按ChatGPT建议减药，曾158次表达担忧，却被告知「完全没有必要担心」
