在今天的Decoder节目中，我们迎来了关于商业未来的两部分系列节目的第一部分，我的对话嘉宾是乔纳森·坎特（Jonathan Kanter），他是拜登政府时期美国司法部的前反垄断负责人。如今，他是圣路易斯华盛顿大学的法学教授，也是卡耐基梅隆大学的技术政策教授。

科技界目前最大的新闻是关于人工智能安全与监管的螺旋式上升的辩论。包括Anthropic和Google DeepMind在内的大型人工智能实验室的研究人员纷纷高调辞职，称这些模型构成了真正的威胁，整个行业并未认真对待安全问题。

其他研究人员则表示，人工智能消灭全人类的可能性大于10%，所有这些公司的首席执行官都发表了各种呼吁，要求放慢开发速度并制定监管政策，包括要求获得反垄断豁免，以便他们能够就安全问题进行协调。

这些观点繁多，我对其中的反垄断部分特别感兴趣，这导致外界指责这些公司正在谋求监管捕获，试图组建卡特尔，甚至在首次公开募股（IPO）之前以某种方式摆脱投资者的压力。

Verge的订阅者，不要忘记你们可以在任何收听播客的地方独家收听无广告版的Decoder。点击这里。还不是订阅者？你可以在这里注册。

为了弄清这一切，我给乔纳森·坎特打了电话。乔纳森在担任反垄断负责人期间对谷歌、苹果和特高美（Ticketmaster）提起了重大的反垄断诉讼，并且与莉娜·汗（Lina Khan）一起领导了堪称美国反垄断政策全面重启的行动。

正如你将听到的那样，他赢得了针对谷歌和Ticketmaster的诉讼，而针对苹果的诉讼在特朗普时代的司法部仍然有效，这让许多人感到意外。这种重启也导致了人工智能辩论中一些令人惊讶的联盟——自称自由主义者、特朗普前人工智能沙皇大卫·萨克斯（David Sacks）赞许地转发了莉娜·汗的推文，称不需要反垄断豁免。

这一切都非常复杂，你会听到乔纳森和我深入探讨所有这些监管可能如何运作，以及它可能如何与反垄断法、竞争政策以及我们与中国的关系相互作用。好的：司法部前反垄断负责人乔纳森·坎特谈人工智能的安全与监管。我们开始吧。

为了篇幅和清晰度，本次采访经过了轻度编辑。乔纳森·坎特，你是拜登政府时期司法部反垄断局的前负责人，也是华盛顿大学现任法学教授和卡耐基梅隆大学技术政策教授。欢迎回到Decoder。

很高兴再次回来。这太棒了。你现在是一名普通公民了。你不必给我政客式的回答了。

我想说什么就说什么。我感觉太自由了。我对此感到非常兴奋。我也打算这么做。我对目前美国人工智能监管的现状有一百万个问题。

关于我们是否应该以及如何监管这些公司，存在着各种各样的想法。特朗普政府的立场似乎是“不”，这很迷人。你很少看到联邦政府像特朗普政府那样表现出拒绝参与的姿态。

然后，贯穿这一切的是令人难以置信的反垄断担忧。这些公司是否在试图组建卡特尔？

他们是否意识到他们的IPO可能不会按他们希望的那样进行，因此他们正在以某种好或坏的方式寻求监管捕获？他们是否试图阻止来自开源中文模型的更廉价竞争？

请告诉我你对当前现状的看法，然后我想和你深入探讨细节。现在世界的现状就像我们发明了汽车和卡车，但路上没有标线，没有红绿灯，没有停止标志，也没有速度限制。

我们发明了这种极其强大的技术，它正在改变我们的生活方式、商业经营方式、社交方式，以及我们寻找、生成和消费信息的方式。我们需要一些基本的行车规则。

我从两个方面来思考这个问题。公司应该做的事情是什么？政府应该做的事情是什么？两端都有责任。我很高兴深入探讨这两个方面。

让我们从“要求监管必然会形成卡特尔”这一概念开始。所有的大型前沿人工智能公司——OpenAI、Anthropic、Google DeepMind，甚至埃隆·马斯克——并不一定彼此喜欢。

这些人彼此并不一定喜欢。他们一致认为应该放慢速度。Anthropic的达里奥·阿莫迪（Dario Amodei）使用的词是“给前沿设定步伐”。

我对这一点的解读是，他们根本不信任彼此，他们陷入了囚徒困境，需要外部力量（极有可能是政府）向他们强制推行某种他们必须同意的政策框架。

对于这里的基础知识来说，这是一个公平的解读吗？算是吧。让我给你我的解读，从最慷慨的到最生硬的，简而言之，这两种解读都不应该导致任何形式的反垄断豁免。

最慷慨的解读是，他们害怕创新的步伐，缺乏监管意味着他们看不到路上的标线。他们不知道该往哪里开，担心开出路面或撞到别人。

他们在乞求政府介入并做点什么。这其中可能有一点真相。我相信他们相信这会毁灭人类。我不确定末日情景是否准确，但我相信他们是这么认为的。这是比较慷慨的版本。

更愤世嫉俗的版本是，他们花了很多钱，正在大量出血，无法维持下去，但如果他们退缩，将会影响他们作为IPO一部分的估值。因此，他们希望有人允许他们停止花那么多钱，放慢创新步伐，这样他们就不必竞争得那么激烈，以便在上市前搞清楚他们的经济状况。

像这样领域的顶级参与者之间的协议是否会自动形成卡特尔？在那种愤世嫉俗的解读中，有很多声音说：“你只是想要监管捕获。你想要组建一个卡特尔。你想要排除竞争。”

这种安排当然存在这种风险。让我们梳理一下什么是必要的，什么是不必要的。让我非常明确地说，这些公司不需要为了向社会提供安全可靠的产品而进行协调。

想想看：想象一下波音和空中客车。波音担心飞机舱门脱落。这不是空客的错，他们不需要与空客一起放慢创新来防止这些舱门从飞机上飞走。他们需要弄清楚如何制造更安全的飞机。

如果你制造的汽车在行驶时会爆炸，这不是另一家汽车公司的错，你也不需要聚在一起弄清楚如何解决这些问题。你需要弄清楚制造过程中出了什么问题。

如果你创建的产品能够生成闯入他人系统并黑客攻击他人技术的人工智能代理，在我看来，这与雇用员工去做这件事没有区别。

你有责任制造安全可靠的产品，当公司的代理（无论是数字和二进制代理，还是人工智能代理，或者是人类代理）开始做坏事时，雇用他们的公司可以而且应该被追究责任。

这些是基本的行车规则。在安全和安保方面存在合法合作的领域。例如，拥有一个信息交换中心来适当地分享威胁、恶意机器人或其他你可以为其建立存储库的东西，以便每个人都可以构建更安全的产品。

这些是其他行业发生的合作类型，你不需要反垄断豁免，因为反垄断法并不禁止这种工作。

如果两家公司说：“我们竞争太激烈了，我们需要放慢速度”，是的，这可能会涉及反垄断法，但这并不是我们在这里应该做的。

我们应该进行创新，但公司应该有责任制造安全可靠的产品，而政府应该负责在路上设置标线，上面写着：“如果你不制造安全可靠的产品，后果就在这里。”

“如果你不制造安全可靠的产品，责任可能会是什么样。如果你不制造安全可靠的产品，那么也许应该为你的代理设置机器人监狱，并将其撤出市场。”

我想具体深入探讨机器人监狱。我们在感觉像是产品责任法的事情上施加了巨大的压力。其中有些东西我想更具体地谈谈，但我妻子是一名律师。

我今天早上告诉她我在跟你对话，我试图解释这里存在断层线，她只是看了我一眼说：“这只是法学院的一个噩梦般的假设。”

你所描述的是：“侵权法是否为这些公司创造了一个监管框架？”其中某个地方是：“如果我的代理去攻击你，我的指令是Anthropic有罪吗？我们要制造某种穿透性责任吗？这已经发生了吗？我们需要另一项法律或澄清法律吗？”

你对此有何看法？如果我指示我的Meta Muse代理去攻击你并且它真的这样做了，那是Meta的责任吗？既是也不是。

公司雇用人员并构建技术。当这些人 and 这些技术做出有问题的事情时，包括代表其雇主窃取或侵入他人财产，就会产生责任，这可能是产品责任，但也可能不仅仅是产品责任。

你们只是做坏事的人，或者创造正在做坏事的技术的公司。产品责任框架最近确实在针对Meta的关于Facebook、Instagram、儿童安全和心理健康案中起作用了。

等等，等等。这对我来说真的很迷人。这是我真正有兴趣谈论的事情，因为它花了十年时间才起作用。这就是问题所在！

这就是政府需要介入的地方。公司今天有义务制造安全可靠的产品，创新的步伐不是不这样做的借口。让我们对此非常明确。

与此同时，我们发明了汽车、卡车和火车，却没有交叉路口，没有红绿灯，没有路面标线。国会几乎完全无能为力。

虽然这些科技公司在外面说他们想要监管，但他们一直在积极游说反对监管，而且已经很久了。

整件事是一团糟，是我们系统的症状，而这个系统是一团糟。坦率地说，如果我心中的政治学家把这追溯到诸如划定选区不公和联合公民诉讼等事情上，我们的程序已经失控，而本应履行放置基本安全标准和责任这一基本职责的国会却没有做到。

话虽如此，国会的缺乏行动并不是交付危险产品的借口。如果你认为你的产品会毁灭人类，那就不要制造它。

如果你认为你的产品会侵入别人的东西，那就回到画板前，想办法以更安全的方式制造它。你猜怎么着？这些是创新问题，不仅仅是监管问题。

我们需要做得更好，激励我们的公司制造更安全可靠的产品。当他们这样做时，这些产品将表现得更好，我们会看到更好的创新。

现在，创新是不对称的正如我们在社交媒体上看到的那样，它是在没有适当考虑安全性的情况下完成的。因此，现在我们拥有在让人们交流方面真正优秀且有效的产品，但在儿童成瘾和心理健康方面却真的很糟糕。

也许我们应该吸取教训，鼓励人们从一开始、从这项技术刚起步时就构建更安全、更可靠的产品。

让我把与社交媒体监管的比较做得更紧密一些。我们刚刚经历了大的Meta案；这是一个产品责任案。他们的产品设计方式对青少年造成了伤害。

Meta和解了此案，因为我认为马克·扎克伯格宁愿构建人工智能，也不愿关心调节Facebook。但他们确实向陪审团输了一场。他们通常会向陪审团输一场，这个案子进展得并不顺利，但从根本上说，他们和解了。

他们放弃了。有一种观点认为，如果他们进行抗争并上诉，他们可能会根据某些第一修正案的 grounds 获胜，即产品责任案可能不像我们所有人想象的那么强有力。

我这么说的另一个原因是因为Meta向监管机构妥协了，他们最终的姿态是达成和解。他们妥协并接受了一些监管。

让像Meta这样的公司承认某些监管、承认某些控制花了很长时间——让像Meta这样的公司承认某些监管、承认某些控制。

如果我们今天说：“OpenAI，你可能对ChatGPT做的事情负有责任。Anthropic，你可能对Claude做的事情负有责任”，这难道不是真正收紧螺丝并通过说“你绝对有责任”的法规的时候吗？

是的。这是国会的工作，也就是澄清法律。但我认为今天的环境与15-20年前的环境明显不同。

在15-20年前，我们有第230条，它实际上向在线公司授予了大量的豁免权，这实际上使起诉他们变得更加困难，并赋予了他们更多的灵活性来创新而不考虑后果。

我们有——这不是党派之争，因为它可以追溯到奥巴马政府——一种非常放任的态度，“哦，天哪，我们的经济依赖于来自硅谷的这些绝妙公司。让我们让他们做他们想做的事，基本上允许他们在白宫和国会安营扎寨，告诉我们如何编写或不编写我们的规则。”

其结果已经侵蚀或摧毁了公众对这些科技公司的任何信任。

我们现在在流程的更早期就进行这番对话的原因之一是因为人们在说：“骗我一次，耻辱在你。骗我两次，耻辱在我。”

好消息是，公众对这些问题的认识和理解更深刻了，并且有做一些有意义的事情的愿望。问题在于，由于诸如联合公民诉讼、划定选区不公等事情，我们在国会拥有一个不回应人民需求的政府。

telegram_post: