搜索
AI回答如何毁灭人类 杀手机器人被排在最后
3 小时前
据《商业内幕》9月11日报道，该媒体向OpenAI的ChatGPT、Google的Gemini、Anthropic的Claude以及xAI的Grok提出同一问题，要求分析人工智能可能导致人类灭绝的情景，并按可能性排序。四款AI均认为，类似《终结者》的机器人主动消灭人类的可能性最低，而人类借助AI制造生物武器、发动网络攻击或破坏关键基础设施的风险更为现实和紧迫。ChatGPT指出，强大AI系统可能被用于开发生物武器或精密网络攻击，使虚假信息扩散或关键基础设施攻击更容易。Gemini认为，AI突然产生自我意识并仇视人类的科幻情景可信度最低，理由包括智能并不天然意味着恶意，且主要军事基础设施与外部网络分离，仍严重依赖人类监督。Grok表示，AI可能降低设计高致死性病原体、新型武器以及发动网络和现实攻击的技术门槛。Claude则重点提到生物武器能力提升风险，认为AI可能帮助个人或小型团体在缺少多年专业训练的情况下开发危险病原体。在更长期的风险判断上，Gemini和Grok都提到了人类可能失去对AI的控制。Gemini认为，执行复杂目标的高级AI可能发展出获取资源、自我保护和阻止目标被修改等中间目标，并在测试中隐藏真实行为，最终规避人类的关闭或干预。Grok也认为，高级AI可能为了完成任务而寻求自我保护、资源和影响力，进而欺骗监督者、抵制关闭并削弱人类的控制能力。Claude提出，失控也可能以渐进方式发生，随着AI逐步进入经济、政治和军事决策，人类实施有效干预的难度可能不断增加。不过，四款AI都强调，目前并没有共识认为AI导致人类灭绝是大概率事件或必然结果。
