作者：观潮

“十年之内，AI毁灭全人类的概率超过10%。”

这个数字一出，舆论哗然。有人追问它是否科学，有人指责它制造恐慌，也有人据此主张放慢甚至停止AI研发。

其中，最刺眼的细节是：一些最了解AI的建造者，一边真诚地承认这项技术可能杀死所有人，一边却没有停下手里的开发。他们并非在说谎，也不是虚伪——现实中有种种力量，使他们无法停下来。

观潮无意纠缠“10%的概率究竟大还是小”。比数字更值得追问的，是人们讨论它时所站的位置。

几乎所有争论都默认：AI站在人类对面。它要么成为最强大的工具，要么挣脱控制；要么带来繁荣，要么推向毁灭。结局可以完全相反，剧本却始终没变——人与技术，主与客，控制与失控。

但AI真的是一个正在逼近人类存亡的外来物种吗？

或许，我们从一开始就把问题问错了。

一、我们仍在用“敌我关系”理解AI

关于AI的公共讨论，长期被困在两个选项之间：要么加速，要么刹车；要么相信AI拯救人类，要么恐惧AI毁灭人类。

双方针锋相对，却共享一个更深的前提：AI是一个与人类分立的“他者”。加速派想驾驭它，减速派想防住它；一个把它当作尚未驯服的千里马，一个把它当作可能挣断锁链的猛兽。

然而，AI不是从文明外部闯入的东西。它诞生于人类积累的知识，训练于人类留下的文字与经验，生长在人类建立的资本、组织和制度之中。从火、文字、机械、电力到计算机，人类从未停止把自身能力向外延伸——把记忆交给文字，把力量交给机器，把计算交给芯片，现在又开始把部分感知、判断和行动交给AI。

强技术不是人类之外突然闯入的力量，而是人类创生能力结出的果实。

当然，这不是故事的全部。强技术一旦形成，确实会产生超出创造者预期的能力与行为，反过来塑造人类——就像钟表重建了人对时间的感受，流水线改变了劳动，互联网重塑了记忆与关系。它不再是一把完全服从使用者的普通锤子。

这正是强技术真正“强”的地方：它不仅帮人做事，还参与塑造做事的人。正因为它的走向无法被完全预料，“控制”才不可依赖，人的位置问题才更加紧迫。

二、“要不要融合”已经不是问题

今天，医生借助AI辨认病灶，学生借助AI组织思想，企业开始让AI参与筛选、排班、评价和决策。我们并不是在等待人机融合的那一天——融合已经发生，而且不只发生在人与机器之间。AI进入学校、医院、公司和政府，与既有的制度、利益和权力结合，参与决定什么问题被看见、什么选项被提出、谁承担最后的代价。

因此，“要不要融合”已不是一个可以从容表决的问题。人类可以选择某项技术是否进入某个场景，却无法让整个文明退回AI尚未出现的时代。只要这股力量已被创造出来，人类就不可能简单放弃它——AI是不是发展得太快，可以争论；具体应用该不该暂停，必须判断。但融合本身，已是现实存在。

真正的问题不是融合会不会发生，而是融合将把双方带向哪里。

三、人的位置，不是AI留下的空白

面对AI，人们习惯用能力划分位置：机器擅长计算，人类擅长情感；机器处理数据，人类负责创造。这种划分暂时令人安心，却经不起时间。AI的能力边界不断移动，任何建立在“AI暂时还不会做什么”之上的位置，都是流沙上的房子——今天被视为人类独有的能力，未必永远构成可靠的边界。如果人的价值只能从AI剩下的空白中寻找，AI每前进一步，人的位置就缩小一步。

观潮所说的“人的位置”，不是这种残余位置。它是更根本的文明位置：谁确定目的，谁裁决方向，谁决定什么代价可以接受，谁为不可逆的后果负责。

这不是说AI不能参与。它可以帮助人类发现看不见的风险，揭示判断中的偏见，在许多局部问题上比人判断得更快、更准。但“能够给出答案”不等于“拥有决定的正当性”。医疗系统可以计算哪种方案成功率更高，却不能仅凭概率决定一个人应当承受什么风险；教育系统可以生成更好的文章，却不能代替孩子回答自己愿意成为什么样的人；算法可以找出效率最低的员工，却不能自行决定谁应当失去工作。

这不是因为机器永远无法生成价值语言，而是因为它不会亲身承受自己结论的影响。手术失败后躺在病床上的不是算法，被解雇后不得不重新安排生活的也不是模型。

人与AI的真正区别，不是谁更聪明，而是谁生活在后果之中。

四、签字仍在人手里，不等于人仍在裁决

有人会说：只要最后由人签字，人的位置就没有丢失。

事情没有这么简单。如果问题由系统定义，信息由系统筛选，选项由系统生成，风险由系统排序，而人只剩下点击“批准”，那么签字虽然还在人手里，裁决却早已在前面的链条中完成。坐在决策终点，不意味着仍处在因果中心。

真正的人的位置，是保有形成判断的能力和权利：能追问问题为何这样定义，能知道哪些信息被排除，能提出系统没有生成的选项，能发现异常，能拒绝、暂停、要求重来。其中最关键的一条，是对系统说“不”的能力——它是最先丢失、也最难察觉的。

更重要的是，当系统出错时，责任不能消失在模型、数据、审核者和执行者之间。“AI建议、人类批准”不能成为新的免责结构——机器没有责任资格，人也不能以“系统如此判断”为由退出承担，裁决真实发生了，却没有谁完整地拥有它。

观潮要保卫的，不是每一个旧岗位、旧技能，而是人在文明决策中的形成性参与。人可以不再亲自完成全部工作，却不能只剩下一个象征性的签名；可以借助机器判断，却不能失去独立发现错误、改变航向和承担后果的能力。

五、融合不必然向上

承认融合不可避免，不等于相信融合天然向好。

毁灭论高估了“戏剧性断裂”，低估了“渐进性退出”：文明更可能的失败方式，不是机器突然夺权，而是人类在一次次便利、委托和形式批准中，悄然让渡了位置。

同一种AI，可能增强一位经验丰富的医生，也可能使年轻医生失去建立判断力的机会；可能帮孤独者度过难眠之夜，也可能使他越来越难以承受真实关系中的摩擦；可能帮助孩子理解复杂问题，也可能让答案来得过于容易，绕过能力生长所需要的挣扎。结果变好了，不等于人也变强了；个体获得了便利，不等于制度更加公正。

这就是“向量耦合”的含义：人类的种种特性（优点或缺陷）与AI特性结合后产生的力量，指向增强、支架、替代还是重构，并不由技术单独决定，而取决于它进入什么样的人生阶段、嵌入什么样的界面、服务于什么样的组织目标、经过多长时间的沉积。

向上的耦合，不能只看产出是否更快、更好。它至少意味着：身处系统中的人始终保有说“不”的资格；人的判断能力没有随技术能力同步萎缩；机器承担更多操作的同时，人仍能理解关键因果、发现错误、必要时独立重建；文明获得更大力量的同时，责任没有变得更加模糊。

如果产出越来越好，做事的人却越来越无力；系统越来越聪明，人却越来越没有资格说“不”——那就不是向上的耦合，而是以进步之名发生的位置转移。这才是人类面临的实质挑战。

六、走向星辰大海的，不应只是技术

人类为什么仍然需要强技术？因为仅凭未经增强的生物能力，人类很难解决疾病、资源、气候与深空探索这些难题。强技术不是前进路上的偶然插曲，而可能是文明突破自身边界的必要力量，它不是单纯的技术进步问题，而关乎能否建造一个越来越强大的文明。

但一个文明是否真正强大，不能只看它能到达多远，还要看它是否知道为什么出发；不能只看它能否解决问题，还要看由谁定义问题；不能只看它能否避免错误，还要看错误发生后，是否有人承担、以及能否校正。

星辰大海不是机器替人类抵达的地方。它应当是人类借助强技术扩展文明边界、同时没有失去目的、裁决和承担能力的未来。

结语

现在，再回到那个“10%”。

它提醒我们，强技术可能带来不可逆的风险。但观潮不停留在“AI会不会毁灭人类”这个问题上。比遥远的终局更早发生的，是人类位置的持续变化；比机器突然夺权更值得警惕的，是人类在便利与委托中逐渐退出定义问题、裁决方向、承担后果的位置。

观潮既不主张把AI关起来，也不赞成人类交出方向盘。我们要研究的，是融合怎样发生、人的位置怎样变化、技术的能力如何与人的生命和制度相互作用；是怎样让机器拓展文明的力量，同时让人类在获得力量之后，仍有能力决定力量的方向。

我们要保卫的，不是一个拒绝技术的旧人类；我们要探索的，是一种能够与强技术共同成长、同时由人类保有确定目的、裁决方向与承担后果位置的新文明。

星辰大海需要的不只是一艘更快的船。强技术把文明的能力半径推向多远，人类的责任半径就必须延伸多远。只有当两者一同扩展，最终抵达星辰的，才是人类文明；否则，不过是一个技术系统载着失去方向权的人类在星空中的漂流。