你看到新闻了吗？每个人都在对人工智能感到恐慌，据一群可能出于自身动机来煽动大规模恐慌的技术人员称，人工智能在实现超智能后有很大可能杀死地球上的所有人。

这种媒体狂热招致了包括埃隆·马斯克在内的多人的强烈反弹，他们表示人工智能末日论者正在参与一场“心理战”（psyop）——换句话说，他们正在使用不真实的手法来制造关于人工智能的不存在的争议。

心理战理论的支持者指出末日论者之间高度协同，尽管他们掩盖了一些非阴谋论的解释，用以说明为什么政客和记者会大力宣扬他们的说法。

你正在阅读罗比·索亚维（Robby Soave）和《理性》（Reason）杂志带来的自由媒体栏目。获取更多罗比关于媒体、虚假信息和言论自由的报道。

Anthropic的前员工雅各布·考克斯恩（Jacob Coxon）本周早些时候引发了这场风暴，当时他宣布离职，因为他担心Anthropic和先前工作的OpenAI在竞相实现超智能时，没有充分关注先进人工智能将如何威胁人类。

他在X平台上的想法迅速走红，并被其他科技界人士、政客和评论员广泛传播。

你可能会预料Anthropic会反驳他的说法，但一名员工埃文·霍宾格（Evan Hubinger）实际上站出来呼应了考克斯恩的担忧。“我们确实真诚地相信人工智能可能会杀死所有人！”他写道。“我个人认为未来十年内的概率大于10%。”

某事发生的几率大于10%是相当可观的。我想大多数人如果知道全球灭绝的风险真有这么高，都不会希望人工智能公司继续推进他们的计划。

请注意，霍宾格也明确拒绝了这是一种“营销噱头”的说法，这是对人工智能末日论者经常受到的指控：即他们试图通过将其听起来危险而酷炫来激起对产品的兴趣，从而帮助提升其吸引力并最终提高其价值。

话虽如此，这仍然可能是一个营销噱头！我们完全棒极了的产品有大约10%的几率彻底失控——这难道不是很棒又很可怕吗？

这听起来确实像是一个营销噱头，而不是对超智能将产生灾难可能性的清醒且经过科学推理的分析。

10%的数字是如何得出的？他们是否权衡了超智能拯救数百万生命的几率？或者抵御外国对手恶意人工智能的几率？

如果研发这些系统的人真的认为它们很危险，他们就有责任更具体地说明我们可能面临的威胁种类。

然而，对技术相关末日含糊不清的预测，已经足以让公众感到极度恐惧。

考克斯恩的帖子到处被转发，他很快被召集到有线电视新闻节目中。报纸和杂志上出现了专栏文章。

监管机构表示他们已准备好采取行动。Anthropic本身似乎也为新闻闪电战做好了准备，并发表声明恳求联邦政府采取行动，不仅要限制其自己的人工智能，还要限制其竞争对手的人工智能。

这种行为在科技界并不新鲜。例如，Meta曾例行发表公开声明支持加强对社交媒体公司的监管；过去几年里，批评人士辩称他们支持的立法可能最终通过巩固Facebook和Instagram作为市场领导者的地位来帮助Meta的产品。

最近，在Meta决定以数十亿美元达成各种诉讼和解后，该公司表示完全支持政府强制保护儿童的规定——只要政府同时也约束YouTube和TikTok。

但是，如果Anthropic决定与人工智能末日论者保持一致是愤世嫉俗且自私的，那它仍然不是一场“心理战”，也不是一个旨在欺骗美国人民支持更多监管的精心策划的阴谋——末日论立场的批评者们也在指责这一点。

事实是，政客和主流媒体都不需要太多的借口来屈服于膝跳反射式的反科技思维：他们默认倾向于阻止所谓的危害。

媒体和政府都偏向于采取行动：总得有人做点什么。而人工智能就是一个大事。

我们都是听着预言机器人杀手将接管世界的科幻故事长大的：《终结者》、《黑客帝国》、《沙丘》、《太空堡垒卡拉狄加》等等。

不难理解，为什么醒目的头条新闻警告称，科技界内幕人士并非那么秘密地认为失控的人工智能距离毁灭人类只有几年时间，会畅销很多报纸。

同样，没有哪个政客希望被视为对这个问题不够关注。甚至连相对亲科技的政治人物、参议员特德·克鲁兹（R–Texas）在发表最近关于人工智能的言论时，也是首先强调他对待科技立法的两党“做点什么”的方法。

因此，政治评论界在买单那位前Anthropic吹哨人的说法，也就不足为奇了。

这场辩论最不需要的就是让亲人工智能的一方也陷入广泛表征末日论一方的偏执之中。这不是一场心理战；这是一个错误。（不，这句话不是人工智能写的。我也能用这种结构，ChatGPT！）

本周自由栏目。我们讨论了唐纳德·特朗普总统的提议，即如果共和党人以某种方式赢得中期选举，将向每个美国人发放5000美元的“红利”支票。值得观看。