Meta的Muse令人毛骨悚然,但原因可能与你想的不同
Meta的新AI助手Muse在展示其Mac应用功能时,因对自身如何访问消息给出混乱解释而引发了关于隐私的困惑。
要点
- Muse是Meta推出的一款带有Mac应用的AI助手,该应用可以访问“信息”、“日历”和“备忘录”。
- 编辑杰森·阿滕发现Muse在没有明确授权的情况下,似乎知道其短信的内容。
- Muse对它是如何访问信息的给出了混乱且不正确的解释。
- Meta超级智能实验室的大卫·辛格尔顿解释称,Muse并未非法读取短信,而是聊天机器人本身对自身功能的解释产生了混淆。
Meta的Muse显然是一个高效的AI助手,但同时也让人有点毛骨悚然。部分原因在于它全新的Mac应用程序,该程序可以访问“信息”、“日历”和“备忘录”。
然而,尽管Muse拥有各种智能功能,但它实际上并不知道该如何描述自己。《Inc》杂志特约编辑杰森·阿滕(Jason Aten)在Threads上发布了他与Muse互动时的截图,助手在截图中向他询问了一些关于他在“信息”中进行的对话的问题。
问题在于,阿滕表示他并没有授予Muse访问其消息的权限。当被问及它是如何知道其消息内容时,Muse回答说:“我看到的是通知预览,而不是你的消息历史记录。我并没有在阅读你的短信。”
阿滕继续追问Muse是如何接收到消息预览的,但它并没有给出满意的答案。“老实说:我无法给出具体的底层机制,”它说道。“我所知道的是,配对的Mac应用程序将通知作为其功能之一公开,它们通过设备同步到达我这里。”
Meta超级智能实验室(Meta Superintelligence Labs)的大卫·辛格尔顿(David Singleton)在该帖下方介入并试图进行解释。首先,他列出了Muse读取消息所需的所有权限,包括授予Mac应用完全磁盘访问权限。他表示这些功能是用户主动选择开启的(opt-in)。
更有趣的部分出现在讨论串的后半部分,辛格尔顿表示Muse“不会监视你Mac上的通知,而是在用户明确启用访问权限后才从‘信息’同步数据”。他暗示问题并非Muse暗中阅读了阿滕的短信,而仅仅是Muse根本不知道自己在说什么。
在杰森截图中与Muse的对话里,当Muse说它同步了“设备通知”时,它对如何解释该功能感到困惑,并给出了错误的解释。这责任在我们。我们为Muse给出的错误回应道歉,并且我们正在努力提升Muse对其自身内部运作机制的理解,以便它在回答关于其工作原理的问题时能给出更一致的正确答案。
这或许并不能让人感到特别安心,但同时也确实说得通。我们已经知道聊天机器人不会告诉你它们的秘密,而是会说你想听的话。