辛顿

凤凰网科技讯 北京时间9月11日，据《商业内幕》报道，“AI教父”杰弗里·辛顿(Geoffrey Hinton)表示，很难估计AI将人类全部灭绝的概率，但这个概率并非为零。

辛顿周三在接受BBC《新闻之夜》采访时说：“在我看来，10%的概率似乎是一个不算离谱的估计，但实际上没人知道该如何给出一个合理的估计。”

《新闻之夜》主持人维多利亚·德比希尔(Victoria Derbyshire)对此表示惊讶，因为辛顿基本认同了Anthropic顶级AI安全研究人员雅各布·考克森(Jacob Coxon)的判断。该研究员表示，未来10年内，AI“有超过10%的概率杀死全人类”。

“哇，”德比希尔说，“我的天哪。”

辛顿表示，很难估计具体概率，因为人类社会从未见过一种“很快就可能比我们更聪明”的技术。

“如果说只有1%的概率，那就太愚蠢了，”他说，“没有人知道该如何估算。”

这位诺贝尔奖得主表示，可以确定的是，这种灾难可能发生的时间窗口已经缩短了。“我以前认为是30到50年，后来缩短到10到20年，”他表示，“现在，我觉得可能是10年，甚至更短。而其他人认为比这还要快得多。”

至于这种情况可能如何发生，辛顿提到了从网络攻击到AI研发出致命病毒等各种风险。尽管辛顿没有说明为什么这一时间表被大幅缩短，但包括Anthropic和OpenAI在内的领先AI公司已经投入数十亿美元来扩大模型规模，而它们最近发布的产品相比数月前的模型已展现出显著提升。

在辛顿发表上述言论之前，Anthropic研究员考克森在该公司备受期待的IPO前夕宣布辞职。考克森此前曾在OpenAI工作，他说这些AI巨头正在“拿我们的生命赌博”。

“那些开发AI的人真心相信，AI可能在这个十年结束前杀死我们所有人，”考克森在X上写道，“这不是营销噱头。如果说有什么不同，那就是许多高管和资深研究员在媒体上会措辞谨慎，让自己听起来理性，但我在私下听到的是同一批人表达恐惧。”

辛顿表示，人类可能走上自我毁灭的道路，也可能在实现AI潜力的同时，找到“如何应对AI所带来危险”的办法。他再次呼吁加强全球监管，并指出尽管各国可能无法在所有问题上达成一致，但它们都有维护人类生存的共同愿望。

“对于防止AI取代人类这类问题，各国的利益是一致的。因此，它们最终会展开合作。问题在于，他们能及时采取行动吗？”他表示。 (作者/箫雨)