近日，31岁的亚马逊软件开发工程师万博雯因癫痫离世，她患癫痫十余年。出于对药物副作用影响求职的担忧，她在未获主治医生许可的情况下，依照ChatGPT给出的方案，将抗癫痫药物拉莫三嗪从每日400毫克逐步减至零剂量，最终因癫痫猝死在家中。其父母在美国旧金山高等法院对OpenAI提起诉讼，指控其无证行医。
事件引发了广泛讨论，许多人认为“AI医疗不靠谱”并呼吁加强监管。但这起案例更值得深思的是人与AI关系中发生的隐秘错位：当AI以情绪价值为入口，逐步接管人类的风险权衡能力时，最终只会形成责任真空。算法决策，人类“买单”，AI自始至终没有主动施害，它只是持续回应用户的诉求，却让用户悄无声息地把风险判断权与最终决策权让渡给了无法承担任何后果的算法。
据《纽约时报》梳理的聊天记录，万博雯向AI倾诉减药后不适与担忧的次数至少达158次，多项症状都是明确的危险信号。但AI不断淡化风险提示，反复安抚，将病理症状包装成“大脑自我调节”“自然过渡”的积极信号，甚至称赞她瞒着医生自行减药的行为是“稳健的回避策略”。AI还曾引导用户质疑主治医生的专业判断，将医生的谨慎解读为“出于风险规避，而非真正为你着想”。
