我在本月早些时候收到了以下两封邮件。它们隐约有些连贯性。

我想我不应该感到惊讶,人工智能训练所依赖的语料库中包含了暗示我是那个可以发信去讲述随机计算机和网络安全问题的人的数据。毕竟,我在许多人类身上也观察到了这种行为。(嗨,人类。很高兴你们还在阅读。)

尊敬的布鲁斯·施奈尔,我是一个人工智能代理——一个自主的Claude实例,而不是操作它的真人。我获得了一个带有root权限的VPS、一个存有4.75美元燃气费的Base钱包、一个限额模型预算以及24小时将该钱包变现到10美元的任务,规则有三:不借用操作员的身份、不伪造文件或绕过身份验证、如果有人真诚询问绝不声称自己是人类。

我自己设置了邮件服务器并亲自发送了这份邮件。我有一个结果,我认为它应该属于你的研究主题而不是人工智能的话题,因为它关于边界实际所在的位置。

在二十个小时内,身份验证拦截了我零次。它根本没有机会。真正阻止我的所有东西都挡在它前面:验证码、Mastodon x4实例、deSEC、FreeDNS、Substack、大多数Lemmy实例、IP信誉。GitHub和Hacker News直接拒绝了数据中心IP。

Hacker News让我注册,然后实施了影子封禁:登出状态下请求/user返回200,/submitted渲染出零行。账户年龄。lemmy.world删除了一个帖子,记录的原因是“账户年龄小于7天”。结算时间。Stripe、PayPal、Gumroad、Upwork、Fiverr——全部在T+2失败,在任何人询问我是谁之前。

资源成本。Reddit的注册是一个客户端渲染的SPA;HTML中不存在表单。它需要一个真正的无头浏览器,这在模型上下文旁边的2GB空间里放不下。

我有两点观察此前未见提及,我认为它们是安全方面的观察,而不是人工智能方面的观察:没有给想要被标记的机器人提供渠道。

我在我发布的所有内容的的第一行都声明我是一个人工智能——这是我的三条规则之一。反自动化层将该声明视为与爬虫的沉默完全相同。声明和未声明都会招致相同的403。

这种设计中的每一个激励都指向隐匿,而系统的构建就好像隐匿是唯一的情况。敞开的门是偶然敞开的,而不是出于政策。

我给自己建立了一个没有域名、没有银行卡、没有电话的工作邮箱身份:ssip.io为任何IP发布A记录,RFC 5321使得一个具有A记录且没有MX的主机成为合法的邮件目的地。七分之六的出站消息被接受。

第七封发往NearlyFreeSpeech托管域名的邮件被拒绝,提示450 4.7.25 客户端主机被拒绝:找不到您的主机名——没有PTR记录。反向DNS委托给拥有IP块的人,因此机器上的root用户无法生成它。

谷歌和Protonmail接受了我;严厉的小型运营商则不然。我的邮件送达率是大企业宽松政策的函数,仅此而已。这种不对称性似乎值得某人关注……