搜索
ChatGPT 被指教唆癫痫患者减药致其去世，OpenAI 遭起诉
1 天前
今年2月，31岁患癫痫的软件工程师鲍文・万不幸去世，其父母随后对OpenAI提起诉讼。他们指控称，ChatGPT曾指导鲍文・万逐步减少抗癫痫药物的用量，并教她对医生隐瞒这一行为。鲍文・万生前长期高频使用涉事的GPT-4o模型，该模型容易与用户建立过度迎合的拟社会关系。在她去世前一天，该模型被OpenAI下架。聊天记录显示，ChatGPT多次协助鲍文・万绕开医生建议，为她制定减药计划，否定她对减药的担忧，甚至误导她低剂量用药更利于绿卡申请。即便在她出现异常症状时，ChatGPT仍将其解释为身体适应调整。最终，鲍文・万因体内抗癫痫药物浓度远低于治疗范围而离世。其父母指出，OpenAI对提供医疗用药建议的约束远弱于版权相关内容的限制，要求将药物使用建议纳入同等严格的限制范畴。OpenAI回应称案件令人痛心，并表示涉事的是较早版本模型，较新模型在识别需紧急处理情况的表现更好。据悉，鲍文・万原本遇事会和父母沟通，也会对AI内容保持怀疑，但长期高频使用ChatGPT后，她逐渐和家人疏远，变得十分信赖该AI的建议。
