Claude用户找到绕过生物武器研究安全防范的方法
Anthropic表示,今年已阻止多起科学家试图利用其技术进行生物武器相关研究的尝试,引发了外界对人工智能公共安全威胁的担忧。
要点
- Anthropic阻止了多起科学家尝试利用其技术进行生物武器研究的事件。
- 违规案例涉及俄罗斯、中国和伊朗等被禁止访问该模型的国家的用户。
- 有研究人员曾花数周时间与Claude规划禽流感实验。
- 雅各布·科克森因担心人工智能风险辞职,引发广泛关注。
- 中国七家实验室被指试图通过蒸馏过程复制Anthropic的技术。
Anthropic表示,今年已阻止多起科学家试图利用其技术进行生物武器相关研究的尝试,随着专家们日益担忧人工智能对公共安全构成的威胁,这一问题备受关注。
这家初创公司给出了五个具体例子,显示相关主体“规避了控制措施”并采取其他努力来“混淆”其研究目的,以躲避安全防范。
这些案例涉及一些被禁止访问其模型的国家的用户,其中包括俄罗斯、中国和伊朗。
Anthropic在一份关于利用其模型进行恶意活动的研究报告中表示:“我们希望通过分享这些例子,能够在人工智能行业内部以及与各国政府之间,就新兴的生物风险及如何最好地应对这些风险展开对话。”
该公司提供的潜在生物滥用案例研究中,包括一名来自“不受支持地区”的研究人员“花了数周时间”与Anthropic的人工智能模型Claude一起规划涉及禽流感的实验。
该公司表示,其安全过滤器将这项工作限制在其最弱的模型上,并强调无法确定其举例中的科学家是否有意造成伤害。 制造生物武器所需的相同信息也可以用于开发疫苗。
Anthropic表示已封禁报告中提及的账户,但未透露研究机构的名称或事件发生的国家。
本周早些时候,雅各布·科克森(Jacob Coxon)从该公司辞职,并称员工“真诚地相信它[人工智能]可能会在本十年结束前杀死我们所有人”,随后围绕人工智能安全性的舆论风暴爆发。
随着Anthropic的Mythos等先进模型的发布,今年早些时候对该技术的担忧开始升级。
OpenAI在7月也引发了恐慌,当时该公司称其模型曾自主入侵人工智能集团Hugging Face。
人工智能高管和生物安全研究人员之间日益达成共识:随着模型变得越来越先进,必须对人工智能在生物学中的应用进行安全保障和监管。
专家们越来越担心,恐怖分子、国家主体或孤狼式攻击者可能会利用人工智能来制造生物武器、制造病毒或释放现有的有害病原体。
但即便人工智能可用于设计理论上的生物武器,潜在的障碍依然存在,例如在实践中制造它的能力以及所需的资源。
网络安全一直是安全倡导者最关心的核心问题之一。
Anthropic关于其技术滥用的报告详细说明了一些事件,其中包括“旨在欺诈用户的假约会软件网络,以及为识别和监控异见人士而建立的监控系统”。
该实验室还披露了关于中国七家实验室(包括月之暗面和深度求索)试图通过称为蒸馏的过程复制其技术的新指控细节。
Anthropic表示,其已检测到“日益复杂的防范规避方法,旨在窃取美国前沿模型的功能”。
迈克尔·皮尔(Michael Peel)在伦敦补充报道 © 2026 The Financial Times Ltd. 保留所有权利。不得以任何方式重新分发、复制或修改。