搜索
OpenAI心理健康安全负责人跳槽至Anthropic对齐团队
1 天前
OpenAI过去一年争议焦点之一，是聊天机器人在用户对话中表现出心理健康困扰迹象时的应对方式。如今，负责该领域安全研究的负责人安德莉亚·瓦隆内已离职并加入Anthropic。此前，OpenAI已有多位高管离职，包括安全副总裁Lilian Weng、超级对齐团队负责人Jan Leike等。与此同时，AI聊天机器人在心理健康支持方面存在潜在风险，如数据泄露、隐私保护不足，以及可能加剧用户负面情绪或导致错误决策。尽管OpenAI已采取措施改进，如调整应答策略、新增警报功能等，但挑战依然存在。
