Anthropic 国际业务负责人普兰森:开放式 AI 模型比我们的模型风险更高
3 小时前 / 阅读约3分钟
来源:IT之家
Anthropic国际业务负责人认为开放权重AI模型风险更高,公司加强AI潜在风险警告。其最新推出的Claude Opus 5.5模型比早期版本便宜40%,付费企业客户占业务很大比例。

IT之家 10 月 15 日消息,据彭博社 14 日报道,Anthropic 国际业务负责人、负责美国以外市场销售的纪尧姆 · 普兰森认为,与 Anthropic 自家的 AI 模型相比,开放式模型发生网络安全事件或造成其他危害的风险更高。

普兰森在都柏林国际人工智能峰会期间接受采访时表示:“对开源模型的安全问题,我们必须格外小心。我无法替开放模型作出保证,但从定义上讲,这类模型的风险更高。”

随着越来越多国家担心过度依赖美国 AI 技术,预计将上市的 Anthropic 面临越来越激烈的竞争。其中,开放权重 AI 模型成为热门选择。

IT之家注:开放权重 AI 模型向公众开放参数,用户可以自行修改,也能部署在自己的设备上。

支持者认为,开放权重模型比 Anthropic 和 OpenAI 严格控制的闭源模型更便宜,也更有利于各国掌握 AI 技术自主权。

Anthropic 还进一步加强了对 AI 潜在风险的警告。本周早些时候,公司警告称,小型 AI 模型很快就可能被用来驱动新型僵尸网络,使其能够在智能烤箱等小型联网设备之间自行复制和扩散。

普兰森还负责 Anthropic 面向初创企业和数字原生企业的销售业务。他称,对开放权重模型的担忧来自 Anthropic 保护自家产品安全的经验。

在几起引发广泛关注的 AI 黑客攻击事件后,Anthropic 宣称增加了安全防护措施,防止模型从事恶意活动。

Anthropic 也一直主张,在国际标准和统一的评估机制建立之前,应该放慢 AI 开发步伐。

普兰森还谈到了公司定价较高的模型。他经常告诉企业,购买能力更强的模型最终是值得的。“应该持续投资最先进的模型,因为无论是半年、一年还是两年后,同样的应用成本都会下降。”

普兰森称,Anthropic 最新推出的 Claude Opus 5.5 模型比早期版本便宜 40%。付费使用 Anthropic 前沿模型的企业客户占公司业务的“很大一部分”,但他没有透露具体比例。