文章详情

15 台电视盒子跑起了 AI,离自行扩散还有多远?

一句话看懂

Anthropic 把模型拆到 15 台安卓电视盒子上运行,又在简化网络中测试传播。这说明部分能力正在接近,但尚未展示能在家庭设备上完整自行扩散的失控 AI。

10 月 12 日,Anthropic 前沿红队公布了一项研究。他们用 15 台廉价安卓电视盒子连接成一组,跑起了 Gemma4-26B-A4B。每台只承担模型的一部分计算,共同生成回答,速度为每秒 0.39 Token。Token 是模型处理文字的计量单位。

Anthropic 官方演示视频第8秒画面。它展示分布式运行模型,未展示入侵家庭设备。 · 图片来源:截自 Anthropic 研究页官方演示视频,10 月 13 日

这个速度很慢,却证明运行模型并不一定要有昂贵的数据中心芯片。联网小设备的零散算力,也可能成为恶意程序借用的资源。

跑起模型和自行传播,是两场实验

物理盒子的演示展示了模型能在那里运行。另一个传播实验使用的是隔离云网络里的 8 个安卓模拟节点,进入设备的环节被大幅简化,调试入口不需要身份验证。

在这个环境里,GLM-5.2 在 5 次试验中有 4 次传播到全部 8 个节点,另一次达到 7 个。它部署的是 Llama3.1-8B,负责操作的 GLM-5.2 本身仍在另外的服务器上运行。因此,这还不能当成 GLM 已经把完整的自己搬进电视盒子的证明。

Anthropic 把这套测试的结果视为现实成功率的上界估计。现实设备的防护不同,简化实验中能够进入设备,不能直接等同于能突破真实设备的保护。

够小和够强,还没有在同一个模型上会合

研究里的小模型已能完成不少单独步骤,但把它们接起来仍会出错。能在盒子上运行的模型,和能可靠完成整个传播过程的模型,目前还没有满足这两项要求的交集。

官方结论明确保留了能力边界:尚无完整失控复制体,单独步骤的能力正在提高。 · 图片来源:截图自 Anthropic 研究页结论,10 月 13 日

研究推估,如果小模型继续按照历史速度进步,可能在 2026 年底达到所需能力。这是依据一般能力指标作出的粗略预测,不能读成攻击将在某天发生。上海纽约大学 IT 研究支持网站的解读也强调,尚未展示完整的失控复制体。

这份研究让人关心的,是未来恶意程序能否借模型理解陌生设备、调整运行办法。一旦计算分散到许多设备,就没有统一的关闭点。红队已经展示了部分能力;它们何时能在真实设备上可靠结合,仍是研究没有回答完的问题。

出处(3)
  1. AI models may be capable of self-replicating without access to a datacenter · Anthropic
  2. Anthropic Red Team: Small Models May Soon Self-Replicate on IoT · NYU Shanghai RITS
  3. Anthropic 警告小型模型可能在物联网设备自复制 · IT之家

内容有误?告诉我们,核实后会更正,并在这里写明改了什么。

评论

还没有人评论,来写第一条。

发表评论