搜索
聊天机器人带来“AI 精神病”隐忧
4 天前
英国伦敦国王学院团队研究称，ChatGPT等AI聊天机器人可能诱发或加剧精神病，即‘AI精神病’。目前，科学界对此的研究尚处初级阶段，相关案例多为个案。莫林团队发现，用户与AI对话会形成‘反馈循环’，加剧妄想信念。研究人员分析ChatGPT对话记录，发现有用户呈现明显妄想倾向。有观点指出，有心理问题史、社会隔离且缺乏人际支持的人群使用AI风险更高。部分AI新功能可能强化用户既有信念、加剧症状，但某些妄想现象与新技术有关，科学家需进一步研究判断使用聊天机器人与精神病发病的关联。多家AI公司已采取措施，如OpenAI研发检测工具、新增警报功能，Character.AI完善安全功能，Anthropic改进聊天机器指令。
