搜索
因担忧AI失控，一名Anthropic研究员离开行业
3 小时前
9月9日消息，Anthropic研究员Jacob Coxon宣布将退出人工智能行业，原因是他担忧AI实验室及其竞争对手正竞相开发难以控制的系统。Coxon专门从事通过海量数据训练新AI模型的研究，他表示不愿参与全行业开发具备自我改进能力的AI系统，担心此类系统可能失控并对人类构成威胁。这位27岁的英国数学家提到，许多业内同事用“决战时刻”和“终局”等词汇形容AI向自我改进型模型的发展趋势。Coxon认为，按照当前的发展速度，到明年年底局势可能就会失控。他还补充道，当公司之间展开竞争时，往往会在安全性方面做出妥协。
