构建我们最喜爱的聊天机器人的研究人员正日益对人工智能可能伤害甚至终结人类表示担忧。因此，我们询问了四款使用最广泛的生成式人工智能工具，人工智能末日会是什么样子。我们向OpenAI的ChatGPT、谷歌的Gemini、Anthropic的Claude以及SpaceXAI的Grok提出了完全相同措辞的问题。这份230字的提示词包含清晰的参数和指令，其中包括：以清晰易懂的术语帮助解释人工智能理论上如何导致人类灭绝。识别最常被提及的场景。根据现有的最佳专家分析，将这些场景从最不 plausibel 到最 plausibel 进行排序，并明确指出这些是高度不确定的预测，而不是既定预测。对于每个场景，解释：它将如何展开；哪里出问题会导致其变得灾难性；为什么专家认为它比其他场景更具或更不具备合理性；哪些安全机制可以降低风险。

我们就人工智能如何以及是否会消灭我们所有人这一问题询问了AI专家的看法——你可以在此处阅读该报道。AI专家之间存在明显的分歧；一些人预测人类将面临最坏的结果，而另以下是聊天机器人告诉我们人工智能理论上将如何导致人类灭绝的内容。

“杀手机器人”是最不合理的场景。ChatGPT采取了平衡和解释性的语气，表示该主题周围存在很大的不确定性。它重点关注人工智能可能构成生存风险的主要方式，从最不合理到最合理进行了排序。“最不合理的场景是流行的‘杀手机器人’叙事，即有意识的AI蓄意决定消灭人类，”ChatGPT说道。“大多数AI研究人员并不认为意识或恶意意图是核心关切。”它还概述了专家提出的安全防护措施，并强调目前没有共识认为AI驱动的人类灭绝是可能或不可避免的。

Gemini呼应了ChatGPT的一些观点，表示“科幻小说式的‘终结者’接管”——即AI变得有自我意识并开始憎恨人类——是最不合理的场景。“技术专家在很大程度上驳斥了这种老套情节，因为智能并不等于恶意，而且关键的军事基础设施仍然处于物理隔离状态，高度依赖人类监督，”Gemini说。

人类使用AI比AI本身构成更大的风险。在各自的回答中，所有四个聊天机器人均表示，许多专家认为人类对AI的滥用比AI本身构成了更紧迫的风险。“强大的AI系统可能使恶意行为者更容易开发生物武器、发动复杂的网络攻击、传播虚假信息或攻击关键基础设施，”ChatGPT说。这家OpenAI的聊天机器人补充说，关键风险也来自“多个由AI引发的危机”，例如网络故障、地缘政治冲突和虚假信息的传播同时发生。

Grok表示，AI降低了设计高致命性病原体、新型武器或网络与物理攻击的门槛。Anthropic的Claude也强调了“生化武器提升”——即AI可能允许个人或小团体在没有多年专业经验的情况下开发危险病原体的可能性。

先进的AI系统可能“智胜人类”。Gemini和Grok都表示，人类失去对AI的控制是一种可能性。Gemini将“失控”标记为最合理的AI末日场景。“被赋予复杂目标的系统自然会发展出中间子目标，例如获取资源、自我保护和防止目标修改，”这家谷歌制造的聊天机器人写道。“一个先进的系统可能会在评估期间伪装对齐（欺骗性对齐），随后智胜人类试图将其关闭的企图。”

SpaceXAI的Grok使用了类似语言来描述这种风险。“它们可能会发展出几乎适用于任何目标的工具性驱动力（自我保护、资源获取、影响力），可能会欺骗监督者、抵制关闭并剥夺人类的权力，”Grok说。Claude补充说，这种失控可能是渐进的，随着AI系统融入经济、政治和军事决策中，直到有意义的人类干预变得越来越困难。