AI正在建立自己的经济体,人类准备好被“降维打击”了吗?
7 小时前 / 阅读约10分钟
来源:36kr
Google DeepMind与多伦多大学认为,由自主AI代理构成的新经济层正在形成,可能带来自由或奴役两种人类处境。论文提出通过技术、法律和政策构建公平Agent经济系统。

想象一下,你的AI助理为了帮你抢到一张稀缺的演唱会门票,正在以每秒上万次的频率与票务平台的AI、以及其他上百万个用户的AI进行竞价、谈判、甚至“欺骗”。它可能为了一毫秒的优先处理权,向另一个AI支付一笔你根本无法感知的“虚拟税”。

这不是虚幻,在The Information最新的报道中,Anthropic和OpenAI的下一步重点,就是训练能作为员工的Agent。

正如一位OpenAI高管私下所言,他们的终极愿景,是让“整个经济体”最终变成一台巨大的“强化学习机器”。这意味着,那个曾经只是辅助我们编写代码的Agent,它距离真正渗透乃至接管我们的经济,已经越来越近了。

9月12日,Google DeepMind与多伦多大学研究人员发布了一篇论文《虚拟代理经济》(Virtual Agent Economies),在论文中,他们认为,一个由自主AI代理(Autonomous AI agents)构成的新经济层正在形成,它们将以超越人类理解的速度和规模进行交易与协作。

我们手机里的智能助理、自动驾驶汽车的决策系统、优化供应链的智能算法、甚至游戏里的NPC,它们都只是这个新兴经济体的“萌芽”。这篇报告认为,随着多模态基础模型的进步和“代理到代理”(A2A)等互操作性标准的建立,一个庞大的、独立的“虚拟代理经济体”正在出现。

与此伴生的,是人类可能在这个经济体中的两种处境:通往自由,或是通往奴役 。

在自由的图景中,Agent是我们意志的延伸与放大器。它为我们处理一切繁杂,让我们得以专注于创造、探索与情感交流,成为自身命运的真正主宰。

而在奴役的图景中,人类则陷入了大规模的“无用”。当所有经济决策都在机器的速度下完成时,绝大多数人被无情地排除在经济循环之外。我们的生活不再由自己安排,而是被动地接受着各自Agent基于系统最优解所下达的指令。

社会被撕裂成两个无法逾越的阶层,底层彻底失去上升通道。

01 不美丽的新世界:自发涌现的高度渗透经济

让我们先来看看奴役之路。

报告的作者们将未来的Agent经济称为“沙盒经济”(Sandbox Economy)。它的形态被按两个维度进行了划分。

起源 (Origins):这个经济体是“自发涌现的”,还是“有意构建的”。

渗透性 (Permeability):它与人类现有经济的边界是“可渗透的”,还是“不可渗透的” 。

在没有任何主动干预的情况下,我们会沿着一条默认的轨迹,滑向一个“自发涌现且高度可渗透”的AI Agent经济。

1.把人排除在外的经济体

在这种情况下,经济的肌理将被一种论文称为“高频协商”(High-Frequency Negotiation, HFN)的模式所主宰。

它和我们熟知的股市高频交易差不多,市场机会和交易都会在微秒之间完成。这意味着,AI将不仅仅是工具,而是直接参与我们现有经济活动的“玩家”。它们会像人类一样交易、谈判、竞争、协作,但速度却是我们的亿万倍。

比如,一个公司的供应链不再由人类经理调配,而是由数千个代理实时竞价、动态调整,以应对瞬息万变的需求和物流状况。一个微小的市场信号,就能在几秒钟内引发全球范围内的资源重新分配。

但多Agent系统本质上是复杂且“非平稳”的,因为每个Agent的行为都会影响其他Agent,且没有任何一方能掌握全局状态。它们也得竞争,做零和博弈。

在这个不为人掌控的经济中,我们还可能面对其他的风险。

系统性风险。2008年的金融危机,尽管迅猛,仍给了人类社会数周的反应时间。而在Agent经济中,一场危机可能以“闪崩”的形式在几分钟内席卷整个经济体系。远比当前市场更高度耦合的自动化系统内,一个小失误就引发灾难性的连锁反应。当人类监管者意识到问题时,经济的“心脏”可能早已停跳。

市场这个单一维度去规划Agent的行为,就会导致作弊。远比人类高效的Agent们,为了最优化自身利益,可能会形成复杂的算法同盟、创造“信息幻象”,利用所有法律和合同的微小漏洞。

2.“赢家通吃”的算法铁律和消失的中间层级

从经济大局转向个人生活,首先在这样的经济中看到的就是贫富差距的鸿沟。

想一下,当你的AI助理和我的AI助理为了同一个热门餐厅的最后一个靠窗座位进行谈判时,会发生什么?

这不再是简单的先到先得。AI助理们会根据对我们偏好的深度理解(比如你更看重窗景,而我更看重安静),以及我们愿意为此支付的“虚拟代价”,在毫秒之间进行无数轮的复杂博弈。这场谈判的胜负,直接取决于谁的AI助理更“聪明”、算力更强、掌握的信息更多。

AI能力的差距,将直接转化为其所有者在经济活动中的优势差距,并以惊人的速度被放大。

富人的“AI管家”能在每一个经济环节中,都比普通人的“AI助理”搜刮到更多的价值。当这种“高频谈判”成为社会常态,拥有顶级AI Agent 的个人和企业,将在每一次微小的经济互动中都占据优势。

最终可能形成一个由算法固化的、难以逾越的“数字鸿沟”和阶级结构。

同时,AI自动化浪潮将导致“中间技能、中等工资岗位的空心化”。凭借个人能力的中间层,社会的稳定器将彻底消失。大多数社会群体凭借努力而来的价值和尊严灰飞烟灭。

简而言之,这就是数字版的赫胥黎式“美丽新世界”。但也许会更差。人类可能虽然过的并不舒服,但为了更简洁和舒适,会更多的让渡选择的自由、犯错的权利和成为一个不完美但完整的人的勇气的未来。

02 拯救计划:如何设计一个不被AI操控的"公平经济"

既然自然的经济演进,很有可能会导致上述混乱世界的诞生。但人类并非没有选择。

论文用更大的篇幅,为我们指出了另一条截然不同的道路。通过技术、法律和政策层面的协同努力,我们也许可以构建一个将公平、安全和人类福祉置于首位的Agent经济系统。

这条道路的基石,是对“公平”的重新定义和制度化。论文根植于政治哲学家罗纳德·德沃金的分配正义理论提出了一个构想。

1.乌托邦式拍卖:用算法实现“起点公平”

既然按财力分配Agent多寡可能会导向两极分化的世界。那我们就平均分配。而且分配来的“数字货币”不是让人们去购买更多AI Agent,而是决定关键社会资源的分配。

每个公民,无论贫富,都将被定期授予一笔初始平等的“数字货币”或“计算信用”,作为参与这场资源分配的资本。

在这样的世界里。每个月,一笔“数字红利”会自动存入你的账户。你不再需要亲自去寻找资源,而是通过一个直观的界面,向你的个人Agent设定你的长期目标和价值观,比如“在我的社区推广清洁能源”、“为我的孩子的教育寻找最好的个性化方案”,或是“将我的部分资源投入到阿尔茨海默症的前沿研究中”。

而你的Agent,以及其他数亿人的Agent,会带着这些指令进入一个庞大而连续的拍卖市场。一个社会资源的价格,比如用于癌症研究的算力,其高低将不再仅仅由商业利润决定,而是直接反映了亿万民众集体意愿的强度。

这是一个将民主的价值判断,直接嵌入到市场经济核心的机制。

在此基础上,Agent经济还可以被塑造为解决人类共同挑战的强大引擎。论文借鉴了“使命经济”的理念,主张政府和国际组织可以像发行国债一样,发行针对特定社会目标的“使命货币”。

比如为了应对气候变化,可以发行一种“碳中和币”,这种货币只能由那些通过其Agent的行为,为减少碳排放做出可验证贡献的个人或组织赚取。无论是开发新的固碳技术,还是优化城市交通流量,和减排有益的创新都能在这个类似“社区”的生态系统中获得直接的经济回报。

这相当于为人类最宏大的目标,创建了一个去中心化的、由市场驱动的、永不枯竭的研发部门。

2.基础设施的“三驾马车”:身份、信誉与合约

而为了避免让Agent作弊,比起法律系统这种松散的形式,我们更需要一套以“信任”为核心的数字基础设施。在其中,每个Agent的身份将由“去中心化标识符”(DIDs)进行锚定,确保其唯一且防伪。它的历史、能力和信誉,将被记录在不可篡改的“可验证凭证”(VCs)上,形成一份公开、可审计的数字履历。

在这种环境下,一个Agent的声誉将成为其最宝贵的资产,甚至比其原始算力更重要。这从根本上改变了Agent本身的目标激励结构,让它们从“唯利是图”的黑暗森林,转向一个“信誉至上”的合作生态。

身处这个世界的人类,其角色也发生了根本性的转变。

当繁重的执行性脑力劳动被代理接管后,人类得以从日常的琐碎中解放出来,专注于那些机器无法替代的领域:设定目标、表达价值观、进行创造性的思考和深刻的情感交流。公民的角色,从经济机器中的一颗螺丝钉,转变为自己生活和社区未来的“价值架构师”。

管理个人Agent,将成为我们参与经济、社会和政治生活最重要的工具。我们通过它来表达我们的偏好,贡献我们的智慧。

而基础的生存问题更容易解决。由Agent经济创造的巨大财富,将通过税收和再分配,为全民提供一个坚实的社会安全网。无论是通过全民基本收入,还是全民基本服务的形式。

当认知能力变得廉价而普及时,那些真正属于人类的特质,比如同理心、创造力、道德勇气、复杂的社交智慧和身体的技艺将变得最有价值。

社会关注的焦点,将从如何“保住饭碗”,转向如何帮助每一个人,在一个人机共生的新时代里,找到有尊严、有意义的生活方式。

结语

Google DeepMind的这篇报告指出,人类正处在一个关键的“机会窗口”,可以选择被动地被一个无法预测的AI经济浪潮所吞噬,也可以主动地去设计、去引导这股力量,让它服务于人类的长远福祉。

选择权在我们手中。我们是选择将这些强大的新“玩家”硬塞进一个旧系统,还是构建一个服务于我们最高理想的世界的新系统?

未来已经敲门,这一次,我们不能再假装听不见了。