搜索
AT&T正借助开源大模型 削减向Anthropic支付的账单
3 小时前
AT&T副总裁马克・奥斯汀表示，公司计划通过扩大使用英伟达Nemotron等开源大模型，将员工调用Anthropic和OpenAI闭源模型产生的支出在未来几年维持在现有水平。目前，AT&T员工发起的AI请求中已有40%由开源模型处理，公司计划将这一比例提升至60%至70%。开源模型在处理低算力需求任务时效果与旧版闭源模型相当甚至更优，且成本更低。例如，接入路由服务商Lite LLM后，部分高阶AI任务成本最高下降56%，而AI输出质量仅下滑2%。
