搜索
Anthropic 预训练研究员离职，称 AI 实验室拿人类生命押注超级智能
10 小时前
曾在OpenAI和Anthropic从事三年预训练研究的Jacob Coxon宣布从Anthropic辞职，其离职帖短时间内浏览量超2600万。他批评这两家公司行事不负责任，正加速追求自我改进的超级智能，将人类置于危险境地。他指出，这类技术将很快在各领域超越人类，相关从业者私下担忧其可能在十年内危及人类生存，且无其他人类活动具有如此高的风险。他解释，OpenAI的许多人并未真正意识到这种文明级别的风险，而Anthropic虽清楚危险，却陷入了“必须率先到达”的竞赛，认为这种竞赛是傲慢的赌博，不应由私人公司主导。他认为，美国实验室间或许能达成节奏协议，但目前无法阻止全球竞赛，可能需要采取更激进的措施，如暂时禁止模型能力提升。此外，他呼吁同行研究员认真思考未来工作，争取不同的研发条件。
