搜索
OpenAI首席科学家警告AI发展过快 称现在需要“极度谨慎”
5 小时前
9月8日消息，OpenAI首席科学家雅库布·帕乔茨基发出警告，称人工智能发展迅猛，正逐渐超出人类的理解与控制范围，当前需极度谨慎对待。他提到，AI模型已具备操作电脑、与人类及其他AI协作研究的能力，未来不久或能在无人类干预下实现“递归式自我改进”。帕乔茨基担忧，人类尚未为机器智能的持续快速提升做好充分准备。他指出，开发者既能让AI更贴合人类利益，也有权在必要时减缓研发进程。他预计并希望，在行业共同安全标准建立前，AI实验室能“自愿放缓”研发速度，使之成为常态。目前，OpenAI已因GPT-6 Astra具备先进网络安全能力而采取了有限发布策略。
