过去几年，科技巨头们不断向员工强调一个理念：拥抱 AI，才能提高生产效率。但现在，一个越来越现实的问题摆在企业面前——如果 AI 用不好，不仅不会省钱，反而可能成为一个疯狂吞噬预算的新“黑洞”。

近日，亚马逊内部曝光多起 AI 项目成本失控事件。其中最夸张的一次，公司用 Anthropic 的 Claude Sonnet 模型完成一项看似简单的数据匹配任务，最终却产生了 180 万美元（约合人民币 1215 万元）账单——更离谱的是，这个项目不仅失败，实际成本还比原预算高出了 860%，而亚马逊直到约 5 个月后才发现问题。

对此，一位亚马逊工程师总结道：

“过去微不足道的错误，在 AI 时代变成了灾难性的昂贵错误。”

用 AI 完成简单任务，结果烧掉 180 万美元

据英国《金融时报》报道，亚马逊近期整理了多份内部 AI 使用报告，用于分析公司在推广生成式 AI 过程中遇到的问题。

其中最严重的一起事故，来自一个基于 Claude Sonnet 的项目。该项目原本计划利用 AI 自动完成电商平台上的一项数据处理工作：将作者信息与亚马逊网站上的商品列表进行匹配。

从传统软件开发角度来看，这并不是一个特别复杂的任务。但在引入 AI 后，项目运行过程中出现了问题：由于模型调用量不断增加，加上缺乏有效的成本监控机制，最终导致项目产生约 180 万美元的费用。

更关键的是，亚马逊并没有立即发现异常。直到问题持续了大约五个月后，团队才意识到，这个 AI 项目已消耗了远超预期的资源。

对于这起事故，一位亚马逊工程师在内部会议中表示，传统系统里的错误往往很“便宜”，大不了就是程序运行效率下降或浪费一些服务器资源；但当团队开始将任务交给 AI 模型后，这些错误可能会变得“灾难性的昂贵”。

毕竟，传统程序通常严格按照预设逻辑运行，而 AI Agent 则拥有更强的自主能力——如果没有完善的限制机制，一个简单的错误就可能导致 Agent 不断执行任务，并持续消耗大量 Token。

最终，一个原本几分钟就能完成的小任务，就会变成一张价值百万美元的账单。

不止 180 万美元，还有两起 AI 超支事件

而 180 万美元只是亚马逊发现的问题之一，内部报告还披露了另外两起 AI 成本失控案例。

其中一次，在开发金融审计工具时，项目额外产生约 54.1万美元的意外支出——有些讽刺的是，这个项目本身是为了帮公司更好地进行财务管理。

另一个项目则是利用 AI 优化亚马逊物流网络以缩短配送时间，但最终产生约 13.4万美元 的额外费用。这个问题同样没有被及时发现，而是经过超过两周时间才暴露出来。

亚马逊内部高级工程师表示，这些情况并非孤立事件，而是企业大规模引入 AI 后普遍面临的新挑战。不过，亚马逊方面也强调，这些案例只涉及少数团队，并不能代表整个公司的 AI 使用情况：

“和任何新技术一样，我们正在不断实验、学习并改进 AI 的使用方式，包括探索如何提升成本效率。”

亚马逊表示，挑选少数团队在探索阶段出现的问题，并将其描述为公司日常 AI 使用情况，并不准确。毕竟，作为全球最大的科技企业之一，目前亚马逊拥有约 30 万名企业员工，每季度营收超过 1800 亿美元，这些额外 AI 支出比公司整体规模而言实属“九牛一毛”。

实际上，这也不是亚马逊第一次遇到 AI 工作流带来的问题。

今年早些时候，亚马逊云计算部门 AWS 就曾出现过由自家 AI 编程助手 Kiro 错误操作导致的问题：当时 Kiro 获得了过高权限，可执行类似高级工程师的操作，在处理某个问题时，它直接选择“删除并重建出现问题的环境”，最终导致 AWS 遭遇了一次长达 13 小时的服务中断。

虽然亚马逊对外把这件事归因为“人为错误”，并强调 AI 只是“恰好参与其中”，但后来还是进行了一些调整：不再让 AI Agent 拥有与工程师相同级别的访问权限，即限制AI 的操作范围。

此外，亚马逊还推出过一个内部排行榜，用来展示员工使用 AI 开发工具的情况。原本，这个排行榜希望鼓励员工多使用 AI，提高工作效率，后来却出现了一种被称为“tokenmaxxing”的现象——部分员工为了提高排名，刻意增加 AI Token 消耗量。

结果，原本用于推广 AI 的机制，反而推高了公司的 AI 成本，最后亚马逊也关闭了这个排行榜。

不仅要会用 AI，还要会“管”

其实亚马逊遇到的问题，如今正在整个科技行业蔓延。

这几年，很多企业都在推动员工使用 AI，希望通过更多 Token 消耗换取更高生产效率；但越来越多声音也开始质疑：大量使用 AI，真的等于创造更多价值吗？

例如，Uber CTO 就曾表示，鼓励员工大量使用 AI，并不能直接证明企业能够交付更成功的产品。与此同时，随着 AI Agent 普及，以及 OpenAI、Anthropic 等模型厂商调整收费方式，不少企业发现 AI 成本正在快速上涨。

一些公司甚至发现，如果不进行严格控制，原本规划一整年的 AI 预算，可能几周内就被消耗殆尽。对于亚马逊、微软等拥有巨大现金流的科技巨头来说，这些成本暂时还能承受。但对于大多数普通企业而言，持续失控的 AI 支出显然无法长期维持。

过去，企业担心程序员写出 Bug；未来，企业可能还要担心 AI Agent 写出的“昂贵 Bug”——一旦缺少完善的控制机制，AI 很可能会变成一个不断吞噬预算的“数字黑洞”。

或许，在 AI 时代，比“会不会用 AI”更重要的问题，是“能不能管好 AI”。