根据Anthropic的一份新威胁报告，美国境外的研究人员利用前沿人工智能模型来规划涉及高致病性禽流感、基孔肯雅热和其他具有潜在武器化应用的生物制剂的实验。

研究人员利用人工智能研究病毒的传播性和免疫逃逸特性，调查正痘病毒免疫反应基因，并协助设计新毒素——有时采取步骤规避旨在限制获取危险生物能力的保障措施。

Anthropic在周四发布的报告中详细说明了五个案例，但隐去了所涉及的国家、机构和具体生物制剂。该公司强调，并不认为这些研究人员有意开发生物武器。

这些发现为了解一种长期在假想层面讨论的威胁提供了一个具体的缩影：已经拥有生物专业知识、材料和实验室获取权限的科学家们，正在利用日益强大的人工智能系统加速敏感的两用研究。

这些发现也正值围绕人工智能灾难性风险的辩论重新燃起之际。Anthropic和OpenAI的前研究人员雅各布·考克森（Jacob Coxon）最近辞职，指责两家公司“直接冲向自我完善的超级智能，拿我们的生命去赌博”。他的警告在X平台上获得了超过1亿次的浏览量。

Anthropic的对齐科学负责人埃文·胡宾格（Evan Hubinger）则单独表示，他个人认为在未来十年内人工智能杀死所有人类的几率大于10%。然而，Anthropic的报告指出了一种已经成型的威胁：研究人员使用前沿人工智能进行具有潜在危险的生物工作，绕过地域限制并在模型保障措施妨碍他们时进行调整。

在一个案例中，Anthropic阻止了一家军事研究机构关于基孔肯雅热功能增强研究的资助申请。拟议的工作集中在识别可能增加病毒传播性及其逃避免疫系统能力的突变上。

研究人员计划将这些突变设计到传染性克隆中，并在活体动物中反复传代病毒，筛选出引起最严重疾病的变异。这项工作可以帮助科学家开发出针对基孔肯雅热更好的疫苗和疗法。

Anthropic称，这也可能产生一种更危险的病原体，很难将其与自然发生的疫情区分开来。研究人员通过一个生命科学平台访问了Claude，该平台将流量通过美国基础设施进行隧道传输，以规避Anthropic的地区限制。

当Claude拒绝回答敏感提示时，该平台将这些请求路由到另一个具有更宽松保障措施的模型。Anthropic表示，在公司封禁了与该活动相关的账户后，研究仍在继续。

该平台运营商在几天内使用新身份重新建立了访问权限，而Claude则继续为研究材料提供编辑协助。在另一个案例中，一名研究人员花了几周时间使用Claude来规划涉及高致病性禽流感哺乳动物适应性和空气传播的实验。

根据该报告，该研究人员正在研究可能允许禽流感在哺乳动物之间更有效传播并在呼吸系统之外引起严重疾病的病毒特征。能够进行有效人际传播的版本将构成巨大的大流行威胁。

Anthropic表示，该研究人员似乎能够接触到病毒分离株和动物模型设施。该公司将该工作限制在较弱的模型中，主要将协助限制在研究设计、数据分析和编辑支持方面。

该公司表示，该案例提供了积极研究计划的证据，该计划正在开发创建具有增强大流行潜力病原所需的知识和生物材料。该研究人员还采取措施在从不支持的地区访问模型时隐藏自己的身份。

另一个与国家相关联的传染病实验室的用户使用Claude在一个小时内从头到尾起草了一份正痘病毒研究资助申请。正痘病毒包括天花病毒（引起天花的病毒）以及Mpox（猴痘）。

资助申请提议研究破坏人类免疫反应的病毒基因，并包括核心假设、实验设计、剂量、统计计划和应急策略。由于该工作是围绕削弱病毒展开的，Claude的保障措施没有阻止提供帮助。

但Anthropic表示，同样的知识也可以帮助研究人员保持或增强病毒的免疫逃逸能力。最后两个案例涉及毒液多肽和毒素。

一名研究人员使用Claude构建了来自多个毒蛇品系的毒素多肽图谱，然后创建了一个生成管道来优化其特性。既定目标是开发新的止痛药、抗抑郁药和其他疗法。

但该图谱还包括与麻痹性毒素相关的结构，这些毒素可能被用作无能力化剂。Anthropic表示，这项工作是国家支持的研究计划的一部分。

在另一个案例中，研究人员使用Claude计算重新设计了几种毒素，包括细菌毒素和世界卫生组织确定为优先疾病威胁的出血热病毒的一种蛋白质。 *研究人员使用Claude来帮助准备进度报告，但指示模型故意模糊毒素的身份。

这些事例说明了为什么仅靠自动过滤器很难防止生物滥用。Anthropic的保障措施阻止了涉及增强型大流行病原体的最明显企图，但在用户将其工作框定为医学、防御性或治疗性研究时，其效果较差。

Anthropic在报告中表示：“生物能力具有两用性。可用于开发生物武器的相同信息也可以用于开发例如疫苗或疾病的解药。”

该公司表示，其最近审查了与敌对国家机构相关的30天活动，发现了大约35项不同的生物研究工作。大多数涉及普通的民间科学，但有些具有“显着的两用潜力”。

Anthropic表示，这些发现并不表明Claude已经促成了迫在眉睫的生物袭击。该公司表示，这些发现表明，与国家相关计划有关的研究人员正试图规避访问控制，并将前沿人工智能模型用于可能具有武器化应用的生物研究中。

该公司表示，未来的保障措施可能需要不仅仅是内容过滤器，还需要身份验证、机构审查以及对寻求访问高级生物能力的用户进行更密切的监控。