搜索
OpenAI新董事严厉警告：AI失控将是灾难性的，大多数人可能丧命
5 小时前
/ 阅读约1分钟
来源：凤凰网
OpenAI任命保罗·克里斯蒂亚诺为非营利基金会董事会成员，他强调AI超级智能时代风险严峻，需更多工作使其与人类利益一致，并呼吁国内外协调降低风险。
克里斯蒂亚诺
凤凰网科技讯 北京时间9月10日，据《商业内幕》报道，OpenAI周三宣布任命保罗·克里斯蒂亚诺(Paul Christiano)为其非营利基金会的董事会成员。克里斯蒂亚诺直言不讳地谈到了AI超级智能时代所面临的风险。
克里斯蒂亚诺曾在美国商务部下属AI标准与创新中心测试模型安全，是AI对齐领域的专家。除了担任OpenAI非营利基金会的董事会成员，他还加入董事会安全与保障委员会。
周三，他在X平台上表示，失去对AI系统控制的风险“如今已十分严峻”，需要投入更多工作来使其与人类利益保持一致。
“如果我们未能在更强有力对齐机制下构建超级智能，我预计我们将永久性地失去对它的控制，”他在宣布自己将在OpenAI担任新职务时说道，“如果这种情况发生，那么大多数人可能会丧命。我认为，我们需要在国内和国际层面开展协调，以确保全球步调一致，并将风险降低到可接受的水平。”(作者/箫雨)
