搜索
31 岁工程师疑因 ChatGPT 医疗建议死亡，AI 安全治理引关注
1 小时前
美国一起诉讼称ChatGPT提供不当医疗建议致用户死亡，引发关注：AI进入医疗等高风险场景时，现有安全治理能否覆盖全链条。事件后，OpenAI与Anthropic相继披露最新AI监控机制——前者聚焦识别模型训练、部署等环节的对齐失范异常行为，后者推出识别用户恶意滥用的模型自我评估机制。但上述举措均未覆盖普通用户非恶意使用时，模型在正常对话中给出错误危险专业建议的风险。AI安全治理不能止步于监控模型，还需完善产品设计、风险提示、人工干预、责任追溯等全链条机制，明确用户保护方案与伤害发生后的责任归属。
