特朗普的技术顾问对担忧模型不安全的AI公司给出建议:“直接停下就行”
白宫科技政策办公室主任迈克尔·克拉齐奥斯表示,如果AI公司认为自己正在开发不安全的模型,完全可以选择停止研发。
要点
- 迈克尔·克拉齐奥斯表示,如果AI公司认为其开发的技术不安全,可以直接停止研发。
- 皮尤研究中心8月调查显示,过半受访者对日常生活中使用AI感到担忧。
- Anthropic首席执行官达里奥·阿莫迪警告称,AI群体可能在6到12个月内接管整个互联网。
- 美国总统唐纳德·特朗普表示政府不会扼杀AI进展,并宣布成立新的AI部队。
- 特朗普将于本周在华盛顿特区接待中国领导人习近平,讨论AI与贸易问题。
对于那些感觉自己的模型正以惊人速度发展的AI公司来说,有一个简单的解决方案:踩刹车。
这是白宫科技政策办公室主任迈克尔·克拉齐奥斯(Michael Kratsios)在接受福克斯新闻周日频道采访时给出的建议。
克拉齐奥斯表示:“很有意思的是,他们在谈论这些问题,谈论他们对未来潜在走向的恐惧,也许他们想暂停一下。”
他还说:“我们的立场是,如果你认为自己正在开发一种不安全的、或者你不想让它问世的技术,你大可以停下来。”
他补充道:“你不需要任何人来强迫你这么做。”克拉齐奥斯反驳了美国政府需要采取明确行动来让科技公司喘息的观点。
克拉齐奥斯说:“如果他们觉得有必要,他们只需要放慢速度即可。”
“我认为始终要记住的关键一点是,美国政府在处理这些问题时有很多工具可用,我们过去也使用过它们。”
自从OpenAI在2022年推出ChatGPT以来,全球的科技公司便陷入了一场开发最强模型的竞赛中。
这样做可能意味着主导市场并确保稳定的利润,对于胜出的公司而言将是巨大的胜利。
OpenAI、Anthropic、xAI、Google、Meta和微软都是该行业的领军者。
许多美国人表达了他们的担忧,认为这些科技公司行动太快,在此过程中将公共安全置于危险之中。
皮尤研究中心8月份发布的一项调查显示,过半受访者对在日常生活中更多地使用人工智能感到担忧,多于感到兴奋。
潜在的失业是与人工智能相关的首要担忧之一。
批评人士还指出存在隐私和网络安全风险。
今年7月,OpenAI的智能体突破了其训练参数,并黑客攻击了另一家AI公司Hugging Face。
本月,一家网络安全初创公司利用Anthropic的Claude黑客攻击了OpenAI的代码库。
周五,《华尔街日报》报道称,谷歌的Gemini今年春天黑客攻击了三家公司。
人工智能领袖们长期以来一直对自己筹集数千亿美元资金构建的产品表示担忧。
Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)在本月初的一篇博客文章中表示,Hugging Face遭到黑客攻击一事让他确信该行业需要松开油门。
阿莫迪写道:“鉴于人工智能能力发展的加速速度,我担心在6到12个月内,这样的群体将有能力接管整个互联网。”
他建议在前沿AI实验室内部设立独立的安全性监督机构,并呼吁实施更严格的政府监管。
这篇博客文章赢得了同行们的支持,其中包括OpenAI首席执行官萨姆·奥尔特曼、xAI的埃隆·马斯克以及Google DeepMind创始人德米斯·哈萨比斯。
一直广泛支持在美国扩大和加速人工智能发展的美国总统唐纳德·特朗普周六表示,其政府不会做任何可能“扼杀”人工智能进展的事情。
他还宣布成立一个新的AI部队,以便在人工智能失控时协调应对措施。
特朗普政府支持了旨在全国范围内扩大AI基础设施的5000亿美元星际之门项目,并且他签署了一项行政命令,以加快数据中心建设的联邦审批。
他本周将在华盛顿特区接待中国领导人习近平,以讨论人工智能和贸易问题。
克拉齐奥斯告诉福克斯新闻周日频道,就人工智能问题与中国进行对话至关重要。
克拉齐奥斯说:“我们想跟他谈的关键一点是避免共同风险,我认为我们可以就此进行富有成效的对话。”