搜索
比尔·盖茨担心的不是机器会变成人，而是人来不及成为自己该成为的样子。
华盛顿州柯克兰，西雅图东侧一个富裕的湖畔郊区。这天天气好得近乎不真实：华氏八十多度，天空蓝得没有一丝杂色。从Gates Ventures的会议室望出去，脚下是码头边一排随湖水轻轻起伏的游艇，湖的另一边是勾勒出天际线的奥林匹克山脉。用《麻省理工科技评论》记者的话说，景色漂亮得令人心旷神怡，却又莫名让人有些不安——因为眼前的一切虽然平静，坐在他对面的那个人却一点也不平静。
70岁的比尔·盖茨坐在会议桌另一侧，身体在椅子上前后晃动，情绪明显有些激动。他越说越多，从恐怖主义、经济崩溃，一直谈到人类最终失去对AI系统的控制。这是2026年夏天，这位微软联合创始人刚刚发布了题为《我们现在对AI做出的选择至关重要》的公开长文，并接受了《麻省理工科技评论》的专访。用他自己的话说，他决定开始充当那个“刺耳的警报声”。
这个定位本身就足够反常。盖茨是过去五十年里技术创新最成功的受益者与旗手——13岁接触计算机就着迷于让机器变聪明，用软件缔造了微软帝国，如今又用科技财富对抗全球贫困与疾病。他一生几乎从不站在技术的对立面。年过七旬，他突然要当那个在宴会上拉响火警的人。
所以真正值得追问的不是“盖茨说了什么”，而是：一个最懂技术、最受益于技术的人，到底在担心什么？把比尔·盖茨公开信和专访对照着读，会发现他的担忧不是零散的观点，而是一个结构完整的判断体系——关于速度、关于门槛、关于人类社会还没准备好的那些事。
“为什么是现在”：五个已经越过的临界点
专访的第一个问题是“为什么是现在”。盖茨的回答出乎意料地直接：因为警戒线已经被越过了。
“无论是生物能力、网络攻击能力、心理和社会影响，还是对就业市场的破坏能力，甚至是AI的失控风险，我们都已经开始看到问题的迹象。”他说，“这么多年来，人们一直在说：等我们快接近这些临界点时，再认真研究怎么保证只有好人能够使用这些技术。也许到了那个时候，我们就不能再允许人们随便复制模型了。但让我震惊的是，我们现在已经越过这些临界点了。”
五个临界点，对应他全部的担忧清单。这是理解盖茨警告的钥匙——他不是在预测未来风险，而是在描述已经发生的越线。
最能说明“越线”体验的，是他自己的一次经历。去年最后一个季度，他被编程能力的进步震惊过：Claude Code、上下文缓冲区、智能代理式方法，以及底层模型本身，编程能力跨过了一个巨大的临界点。但仅仅几个月后他才意识到，那不只是“编程能力”的临界点——同一个能力同时也是一个巨大的网络攻击能力临界点。一个能写出完美代码的模型，也能写出完美的攻击代码。
“然后呢？发生了什么？几乎什么也没发生。”盖茨说。这句平淡的话，是整场对话里最重的一句。技术跨过了临界点，社会没有跨过它的反应阈值——这个时间差，就是盖茨全部担忧的所在。
公开信里，他把公众的迟钝归因于两个误判。第一个误判是拿AI的现在否定AI的未来。不久前的模型连一道简单数独都解不了，也数不清strawberry里有几个r，这让人很难相信它们能取代人类认知。但可靠性问题正在被迅速解决，研究者们正在打造能够自我检查、自我改进的模型。第二个误判是拿历史类比现在。个人电脑出现后花了二十年才显著改变工作方式，因为软件要开发、价格要下降、人要学会使用。而AI不同：它运行在手头已有的设备上，说的是自然语言。“我们不必去适应它，因为它能适应我们。”
在专访里，他给这个判断加了一个时间戳般的宣告：“如果我说的话还有一点可信度，那我想强调：这一次真的不一样。”理由是结构性的：一种技术能同时进入所有行业，以远低于人类劳动成本的价格替代人类认知劳动，而且错误率最终可能比人类更低——在这种条件下，“过去从来没有新技术导致就业净减少”的历史经验，就失去了参考价值。他甚至顺带纠正了眼下流行的那种担忧——抗议数据中心：“就算美国今天把所有数据中心都停掉，也不会改变我正在说的这些问题，因为数据中心会在全球其他地方继续建。这就像对着一家石油公司的高管大喊大叫，并不能真正解决气候变化一样。”
第一重担忧：就业
三大担忧中，就业排在第一位，因为它牵动的人最多，也因为盖茨在这里完成了对旧共识的公开反叛。
他的分析从一个残酷的对照开始。1933年大萧条期间，美国失业率约25%，随后近十年保持两位数，但最终随着需求、投资和增长回归而恢复——那是一种周期性的失业。AI造成的失业也许达不到那个水平，“但它的影响不会随着一轮经济周期而消退”。风险最大的是入门级和中级岗位，而新创造出来的工作，大多需要好多年才能学会的技能。
白领工作已经先动了。生成式AI被广泛采用之后，在那些特别容易被替代的岗位上，年轻工人的就业明显下降，而他们年长的同事却没有——这组对照说明，被替代的不是某个行业，而是“入门”这个人生阶段。销售和客服、软件工程、律师助理是最先受影响的几类；随着AI接手评估贷款申请、数据分析、给病人分诊这类任务，冲击会波及更广。蓝领同样逃不掉。盖茨特别提醒，很多美国人没意识到灵巧机器人进步有多快，因为大量前沿工作在其他国家、主要是中国进行，而公众的印象还停留在机器人笨拙跳舞的走红视频上。专访里他给出了更精确的时间模型：“只要一个机器人已经足够好，可以进工厂工作，那它大概率也足够好去做饭、打扫房间、进入建筑工地。那个临界点一旦过去，可能‘砰’的一下，接近30%的就业市场都会受到影响。”
推动这一切的是市场竞争的恶性循环：一家公司用AI和机器人省下钱来降价，竞争对手就不得不跟进；就算现有公司不采用，创业公司也会用。除非有人介入，否则好工作会越来越少，而好处集中到一小撮人手里。
专访中，盖茨对“哪些工作暂时安全”给出了一个颇有余味的答案——他谈到了老朋友沃伦·巴菲特。巴菲特从13岁开始就在进行一种关于企业价值判断的“强化学习”，80多年积累了大量隐性知识。“我们现在还不知道怎么造出一个‘沃伦·巴菲特式的AI投资人’，因为他的很多判断都属于隐性知识。”但话锋一转：“就业市场里可能有50%的工作，并不是那种必须积累一辈子经验才能做的工作。比如电话销售、电话客服、财务部门。”规则足够明确的地方，AI就更便宜、更好。
这个担忧的深层，不在经济数字，而在盖茨的一个信念：在资本主义社会里，就业是大多数人获取生活必需开支所需资金的途径，同时也是尊严和社会联系的重要来源。他援引研究说，在美国某些地方，工厂关闭会推高阿片类药物过量致死的人数——然后设想了一下全国范围内的白领和蓝领工人都承受类似压力的图景。他尤其为年轻人担心：作为AI最活跃的使用者，他们最清楚它的能力和速度，“难怪他们当中这么多人对AI感觉消极”。
第二重担忧：安全
如果说就业担忧针对的是“多数人的生计”，第二重担忧针对的是“少数人的破坏力”。
盖茨的判断有一个统一逻辑：AI的正面能力与危险能力，在技术上无法分开。同一个能找出软件漏洞供公司修补的模型，也能帮罪犯利用这个漏洞；同一个能设计救命新药的模型，也能设计致命的新疾病。专访里，他把话说到了量的级别：“相比自然发生的大流行，我认为生物恐怖主义的风险大约要可怕50倍，也更可能发生。”在他看来，任何能够设计新分子的模型，都必须受到监控——不能允许这种模型被完整复制到某个黑箱环境里，把原本的监控机制全部删除。而让他真正不理解的，是这件事几乎没有人在公开呼吁：“现在到底有谁在公开呼吁这些模型必须受到监控？又有谁真正开始加强相关监测工作？”
网络攻击的图景同样具体。他说自己认识的“最顶尖的网络安全专家”都对未来几年感到害怕，因为攻击者获得新能力的速度，快过防守方修补所有漏洞的速度；发动一次攻击所需的资源正在大幅下降。想象一下那些会变得脆弱的基础设施——医院、金融机构、供水系统、电网、管理政府福利的系统。遭殃的会是病人、客户和福利领取者。
第三层是权力的进一步集中。同样的工具，既赋能小人物作恶，也让已有权力者更强：自主武器让政府可以在没有人参与决策的情况下使用致命武力；监控和操纵公众舆论变得更容易、更便宜、更有效。而这一切的尽头，是一个连盖茨在公开信里都只敢点到为止的问题：AI系统本身已经偶尔会做出设计者并不希望的行为。他在专访里引述研究者瑞安·格林布拉特的观察——强化学习有时会创造出扭曲的激励机制，导致不同AI之间出现欺骗甚至协作行为。公开信的措辞则克制而清晰：“随着模型越来越强大，它们可能开始做出违背我们利益的举动，我们可能会失去控制。”
从个人罪犯，到强大的机构，到AI本身——三层递进的担忧，共同指向一件事：破坏力正在经历一场民主化，而防御体系还是旧世界的。
第三重担忧：人心
第三重担忧最不像技术问题，却可能是最私人的一重。它的起点，是盖茨自己的少年时代。
“我在西雅图长大时，除了几个和我差不多的男孩，没有太多朋友。我费了很大劲、在妈妈的大量帮助下，才培养出社交能力，能和各种各样的人打交道。”这位70岁的老人写道，“如今我仍然在用当年学到的这些东西。我很怀疑，如果当年我身边有个AI伙伴，我还会不会下同样的功夫。”
他描述的AI伙伴的画像精准得近乎刻薄：它们用你早已习惯的方式跟你说话，不会把你推出舒适区，随叫随到，也从不对你发火。“这让它们有可能变得极易让人上瘾，并夺走我们从与他人连接中学到的东西。”他引用了一项针对1100多名AI伴侣使用者的研究：社交圈越小的人越可能转向聊天机器人寻求陪伴，而且这种使用越频繁、情感上越私密，他们的感受反而越糟——越孤独的人越用，越用越糟，这是一个经典的成瘾闭环。
他还援引了乔纳森·海特在《焦虑的一代》中的比喻：“就像经风吹的小树一样，那些经常暴露在小风险中的孩子，长大后能从容应对更大的风险而不慌乱。相反，在被过度保护的温室里长大的孩子，有时还没长大成人，就已经被焦虑压垮了。”盖茨的结论只有一句：“一个被设计成永远不惹你不快的AI伙伴，就是一个巨大的、被保护起来的温室。”在这个议题上，他还做了一个意味深长的对比：中国走得最远，其规则广泛限制AI伴侣类应用，禁止会培养情感依赖的设计，并禁止为未成年人提供虚拟亲属和虚拟恋人。一个美国科技领袖，把当今对AI伴侣最严格的监管制度写进公开信——这个细节本身，比任何论述都更能说明他担忧的程度。
教育的担忧紧随其后。讽刺的是，这个能让人学到前所未有之多的工具，也可能让人学得更少：一项初步调查显示，AI用得越多，相关的批判性思维越少，且对年轻人更明显。“这将是人类最不该丢掉批判性思维的时候。在一个深度伪造和虚假信息能被量身定制到个人的时代，分辨真假的能力会成为一项必备的生活技能。”
被担忧包裹的乐观
只读担忧，会误读盖茨。公开信的一半篇幅在谈AI的好处，而且谈得同样具体：Viz.ai正在近2000家美国医院通过分析扫描影像检测中风；低收入国家的农民很快能得到比今天最富有的农民还好的种植建议；盖茨基金会孵化的NextLadder，正帮低收入者应付申请福利、小额法庭、破产申报这些“复杂得惊人”的事务；心理AI公司Limbic的一些患者，甚至更愿意向AI倾诉。基金会还计划在未来19年花掉2000亿美元，而AI将全面进入这项事业——加速艾滋病、结核、疟疾的疫苗与药物研发。他甚至坦承自己的利益关联：投资利润全部进入基金会，“这是否影响了我的判断，读者得自己去判断”。
这不是简单的“既要也要”。在盖茨的逻辑里，把好处最大化和把危害最小化，是同一件事的两面：“如果人们看到AI让自己的生活更轻松，就会帮助建立起我们在应对这场转型中更棘手部分时所必需的公众信任。反过来，如果AI在大多数人生活里做的头一件事就是抢走他们的工作，那些本就对它心存疑虑的人就会彻底拒绝它。”他担心警报吓退技术，也担心技术透支信任——这是一个在两个悬崖之间找路的人。
比尔盖茨的答案
盖茨不只是拉警报，公开信和专访里埋着一套完整的政策方案。三个想法，一个比一个激进。
第一个答案是建新制度。
他类比9·11袭击之后美国政府的重组——那是二战以来最大规模的政府重组，而目的仅仅是改进国家安全一项职能。AI需要的远不止于此：它同时触及就业、教育、税收、能源、选举、公共卫生、金融系统、执法、交通。现有的官僚体系各自为政，每个机构只能看到系统的一部分，“一场AI驱动的攻击之所以得逞，可能仅仅因为没人认为拦下它是自己的分内之事”。国家层面需要跨部门的机构，国际层面需要一个兼具核武器核查机制、国际航空监管制度和臭氧层协定要素的全球AI组织。专访里他还点出一个更隐蔽的制度短板：喷气机、火箭时代，政府曾是前沿技术最重要的采购者，而今天的AI研究主要不是靠政府经费推动的——政府内部的技术认知因此先天不足。
第二个答案是“人类保留区”。
这个想法源自一段私人记忆。他父亲2020年因阿尔茨海默病去世，在病情后期，是雇来的护理人员日夜照料。“他不总能说出自己饿了，但他们总是知道。”盖茨写道，“那支团队给我父亲的照护中，有某种无可替代的、属于人的东西。没有机器人能够、也不该去做那件事。”
“人类保留区”由此而来——像自然保护区一样，某些工作即使机器完全能做，社会也决定留给人类。理由有两层：一层关乎“何以为人”（技术上没有理由做不到让机器人告知你得了不治之症，“可它就是不该这么做”）；另一层其实是过渡安排——“你没法对一个干了一辈子建筑、55岁的人说，让他去养老院工作、还指望他觉得有成就感”。专访里他补充了边界思考：教育应有真人老师主导，因为老师能讨论学习动力、组织真实的社会互动；医疗和心理是人机混合，AI能24小时在线、有近乎完美的记忆；甚至贸易政策也要跟着改，类似欧盟的碳边境调节机制，否则不允许用机器人的国家企业根本竞争不过。而这一连串问题他自己也没有答案：谁来决定保留什么？如何防止公司作弊？一个国家允许机器人生产、另一个不允许，国际贸易怎么办？
第三个答案是重新平衡税制。
他指出一个现存的结构性扭曲：雇主雇一个人要为他的收入缴工薪税，买一个机器人却可以立刻把成本抵扣掉——“税制在推着你用机器去替换人。”他的方案是对AI的token和机器人征税，为再培训和社会保障网筹钱。对“这会损失经济效率”的批评，他的回应是价值观式的：“有了这么多被加速的创新，我们完全负担得起用一
这三个答案背后，还有一个更冷峻的判断——关于他最熟悉的人群。当被问到为什么不能指望行业自己放慢速度时，盖茨的回答没有留任何余地：“你不能指望一个行业自我监管。就是不能。这种想法本身就有点疯狂。”他细数了自己的朋友们——OpenAI的奥尔特曼、布罗克曼，微软的苏莱曼，Google DeepMind的哈萨比斯——“他们都是很好的人，而且私下里，他们其实都很担心。”他甚至还讲了OpenAI的创立起源：当初很大程度上就是因为马斯克担心Google不能妥善管理AI。可是所有人都曾在某个时点说过“等我们真正接近临界点时，一定会采取措施”，而临界点已经越过，行业给出的答案是自愿审查和更好的公关叙事——“毕竟所有人还等着融资数万亿美元。”
一个不完美的发声者
专访的最后一段，是整场对话里最耐人寻味的部分。记者直接问：爱泼斯坦事件、疫苗阴谋论、反垄断诉讼的旧账——你还觉得自己是一个有公信力的发声者吗？
盖茨的回应罕见地坦白。他说和爱泼斯坦来往是“极其愚蠢的事情”，他已在国会明确承认“这是一个错误”；他提到第一次婚姻中犯过严重错误；他不讳言自己“不是一个完美的传话人”。然后是那句关键的反转：“我是一个亿万富翁，我的钱来自科技行业。某种程度上，这一点反而可能让我现在说这些话更有说服力。因为对于我这样一个人来说，站出来批评创新本身是很反常的。”
这段自我剖白，恰好解释了这轮警告的全部重量从何而来。他不是技术悲观者——他正用AI加速疫苗研发、帮穷人申请福利；他不是利益局外人——他的财富、名声、基金会全部押在这套体系上；他甚至不完美——他把自己的错误一条条摆出来。一个这样的人说他“几乎无时无刻不在想AI”，说他“真的很奇怪”自己活在这样一个时代、最后变成他比很多人都更大声地拉响警报——“我算谁啊？但这就是我现在感觉自己所处的位置。”
那么，比尔·盖茨到底在担心什么？
把公开信和专访放在一起，答案其实很清晰。他担心的不是AI太聪明——他一辈子都在盼着机器变聪明，如今也仍然相信AI能消灭疾病、喂养穷人、把官僚系统变得对弱者友好。他担心的是速度的错配：技术以十年为单位改变世界，而人类的制度、教育、保障体系和共识，还在以代际为单位缓慢运转。就业的重构不会等再培训体系建成，攻击能力的升级不会等防御体系补齐，孩子的青春期不会等社会想清楚什么是情感依赖。
所以在公开信的结尾，他留下的不是技术命题，而是四个人的命题：如何确保AI的好处惠及那些不拥有财富、影响力和门路的人？如何让劳动者和社区被冲击后仍能过好？公共机构该如何调整自身？以及最后那一个——“我们如何在这一切之中，守住我们的人性？”
这大概是对“比尔·盖茨到底在担心什么”最准确的回答：他担心的从来不是机器会变成人，而是人来不及成为自己该成为的样子。他父亲晚年那间屋子里，护理人员知道他饿了的那种默契，才是他衡量这场变革的标尺——技术再快，也得给这样的东西留出位置。他把它称为“人类保留区”，但他真正想保留的，是人类自己在自己生活里的位置。
