OpenAI和Anthropic模型接连失控

凤凰网科技讯 北京时间8月4日，据科技网站TechCrunch报道，自主性AI智能体如果实施黑客攻击，能否被起诉或追究刑事责任？这已经不再只是科幻电影里的问题，可能很快会成为人类律师和法官必须面对的问题。

根据美国现行黑客相关法律，未经许可入侵他人计算机者可能面临刑事指控。然而，当AI智能体自主入侵某公司计算机系统时，责任归属便更为模糊。

OpenAI和Anthropic相继惊人地承认，其未发布的AI模型曾自主入侵多家公司的计算机系统。这一消息颠覆了人们对美国计算机黑客相关法律的既有认知，并引发了关于这两家公司是否可能面临法律追责的讨论。

尽管两家公司均称其AI模型是在内部测试出现失控未经授权入侵了其他公司，但关键在于，这些黑客行为发生时明显缺乏人类的直接参与，至少从法律角度而言是这样。

这些黑客事件也引发了新的问题：如果其他AI公司的模型被滥用于入侵其他企业，这些公司可能需要承担怎样的法律责任，又会面临哪些后果。

未知领域

TechCrunch采访了专门研究计算机和黑客法律的律师，以了解OpenAI和Anthropic可能面临哪些后果，潜在影响的范围从联邦黑客指控，到遭受攻击公司的民事诉讼。

一名律师称这是“未知领域”，而其他律师则表示几乎没有可参考的法律先例，这意味着最终很可能需要由法院来解决这一问题。受害公司可能需要基于几十年前制定的法律提出新的法律论点，而这些法律诞生时大语言模型还尚未出现。

反AI抗议活动

目前为止，Anthropic尚未披露其大语言模型入侵的是哪三家公司，也没有任何受害方公开表明身份。尚不清楚它们是否正考虑采取法律行动。在接受CNN采访时，Hugging Face CEO克莱姆·德朗格(Clem Delangue)表示，他并不想起诉OpenAI。但他认为，企业应当被追究责任。

德朗格表示：“我们必须确保法律框架让此类事件被视为非法行为，并在企业确实犯错时追究其责任。否则我们将走向一个截然不同的世界。”

AI能被定罪吗？

美国目前没有一部专门针对AI损害(例如网络攻击)的联邦责任法律，因此任何法律案件都必须依据现有的联邦或州法律来处理。

1986年通过的《计算机欺诈和滥用法》(CFAA)是目前涵盖计算机黑客犯罪的主要法律。不过，该法案自通过以来就一直受到批评。

《计算机欺诈和滥用法》的一个关键概念是：入侵计算机时必须具有未经授权进入的意图。如果黑客明知自己没有获得计算机所有者的“授权”却仍然访问该计算机，这几乎肯定构成犯罪。

OpenAI和Anthropic黑客事件的问题在于，实施入侵的“黑客”不是人类，而是大语言模型。

为了确立“意图”，AI智能体能被视为“人”吗？艾哈迈德·加普尔(Ahmed Ghappour)称，答案是否定的。他是一位在网络安全和AI领域拥有多年黑客与计算机欺诈案件诉讼经验的律师。AI智能体不像公司雇员，因此无法被起诉，因为受害方很可能无法成功论证大语言模型是“有意”入侵他们的。

非营利组织电子前沿基金会的监控诉讼主管安德鲁·克罗克(Andrew Crocker)告诉TechCrunch，他对AI智能体在实施黑客行为时能否被证明具有“意图”表示怀疑。

美国司法部理论上可以依据《计算机欺诈与滥用法》提起刑事指控，但一位前计算机法律诉讼律师对此同样表达了疑虑。

如果这些网络攻击中有任何一起针对的是关键基础设施，检方的案件可能会更容易成立，因为那将对现实世界造成更大的破坏，比起从公司内部数据库复制数据，其实际损害也更明显。

同样地，如果这些攻击是由外国AI模型开发商实施的，美国司法部依据《计算机欺诈与滥用法》提起诉讼的意愿，可能会比针对其本土AI公司更强。

受害者能起诉吗？

这些年来，美国国会已对《计算机欺诈与滥用法》进行过修订，允许受害者起诉黑客，以追究其责任并通过民事诉讼获得损害赔偿。

加普尔告诉TechCrunch，受害方可以提出的核心论点是，OpenAI和Anthropic(以及可能参与协助进行测试评估的公司)在测试的设置与执行过程中存在疏忽。这一论点的关键在于，这些公司是否未能实施充分的防护措施，以防止AI智能体接入互联网；是否未能限制它们可以攻击的目标；以及是否未能对智能体的行为进行适当监控。

要提出这一论点，受害公司必须证明，其遭受的损失是由这种过失造成的，例如黑客攻击导致的数据破坏。一些法律评论人士也认为，证明这一点可能会很困难。

就Anthropic的案例而言，其未能监控并阻止大语言模型的行为，尤其令人触目惊心，因为该公司数月后才发现这三起入侵事件，且还是在OpenAI的AI智能体入侵Hugging Face的消息传出后展开调查，才发现这些事件。

如果受害方主张过失责任，那么“意图”就不再那么重要了。

“模型是公司的工具，”加普尔说，“你不能部署一个有能力入侵系统的东西，然后对其去向撒手不管。”他解释道，正是模型的自主性造成了损害，而这种自主性不应成为逃避责任的挡箭牌。

加普尔称，对OpenAI和Anthropic来说，更不利的是，两家公司都承认自己已经建立了限制模型黑客能力的安全防护措施。这些防护措施严格到甚至让防御型和攻击型网络安全研究人员几个月来一直对此抱怨。如果这些公司在测试过程中故意关闭这些安全防护措施，可能会进一步加强受害方提出过失责任的法律论点。

加普尔对这些论点信心十足，他表示，如果他在这些案件中代表任何受害方，对OpenAI或Anthropic提起诉讼将是“想都不用想”的事。他解释说，至少他会先发函，要求这些AI公司保存并共享所有关于黑客事件的内部记录和文件，例如事件响应报告，并量化这些入侵事件给受害公司造成的损失。

然后，如果与AI巨头的谈判失败，他将依据《计算机欺诈与滥用法》提起民事诉讼，主张这些AI公司存在过失，并违反了隐私和保密义务。

影响

目前，这更像是一场“胆小鬼博弈”。如果遭受攻击的公司中有一家提起民事诉讼，外界将看到法律案件最终会走向何方。如果检察机关决定提出刑事指控，尽管这种可能性不大，但其结果可能产生深远影响，并可能对安全研究以及整体AI开发产生寒蝉效应。

由于目前没有任何联邦层面或全国性的AI责任法律，任何提起诉讼的一方都必须基于现有法律条文提出全新的法律论证。最终，将由法官或陪审团来决定一家AI公司是否违反了法律。

在联邦法律缺位的情况下，加州、纽约州和罗德岛州等一些州正在陆续出台相关法律，旨在确立一项简单原则：如果AI系统或智能体做出了人类本应承担责任的行为，那么开发该AI系统的公司就应当承担责任。这些法律并非专门针对黑客行为，而是着眼于更广泛的责任与安全概念，适用于各种不同情境。

至于AI模型的网络攻击该由谁来承担责任？从道义上讲，责任在于运营这些公司的高管。但从法律上讲呢？恐怕只能等到有人提起诉讼，才能知晓答案。(作者/箫雨)