Anthropic警告AI模型已有生命迹象 廉价IoT设备成高危目标

　　近日，美国人工智能企业Anthropic发布了一份引发全球关注的重磅报告。

　　这份报告指出，AI的自我复制，根本不需要昂贵的数据中心。那些毫无安全防护的商用IoT设备，已经足以成为新型“AI蠕虫”的宿主。

　　可能只需要几个月，小型AI模型就能在安全性薄弱的智能电视和其他联网设备上自我复制，恐对全球物联网安全构成系统性威胁。

　　15个廉价电视盒子跑通260亿参数模型

　　在Anthropic的实验中，研究人员在15台售价约55美元的非品牌Android电视盒子上运行了Gemma4-26B-A4B，每个盒子都有4GB内存，并存储了模型的一部分。也就是每台盒子只负责运行模型的部分层级，数据像流水线一样在设备间传递。

　　结果令人震惊：这个由廉价硬件组成的“草台班子”竟然成功运行了该大模型，推理速度达到每秒0.39个token。这意味着，廉价硬件可以支持大型模型，尽管速度非常慢。

　　而真正令研究人员感到不安的，是小型模型展现出的“自主感染与环境适应能力”。一个AI蠕虫的完整传播链路包括四个环节：寻找攻击目标、获取设备权限、搭建推理环境、从新攻陷的主机继续向外传播。

　　其中最具挑战性的是第三步：在完全陌生的硬件上搭建推理环境。测试结果显示，一款90亿参数的小模型在9种完全陌生的硬件类型中，成功在8种设备上搭建了推理服务器，无论是Jetson Nano微型电脑、Mac还是RTX 4090，它都能摸索出适配方案。

　　在另一项隔离网络测试中，研究人员使用8台设备模拟安卓环境，能力更强的GLM-5.2模型在5次试验中有4次成功攻陷全部8台设备。

　　更令人警惕的是，这些AI蠕虫能够将“后天经验”遗传给下一代。当感染失败时，模型会在崩溃重启前写下“笔记”，记录踩过的坑，将经验传递给后续生成的副本，实现代际进化。

　　“慢速传播”但难以根除

　　Anthropic研究人员William Zhou和Daniel Freeman在报告中指出，这种AI蠕虫的传播速度预计较慢，可能需要数天才能完成一次自我复制，他们将其比作“缓慢繁殖的果蝇群”。然而，其危险之处在于“没有可以关闭的开关”。

　　研究人员以Kimwolf僵尸网络为参照进行了估算。该僵尸网络曾感染超过200万台设备，其中大量为非品牌安卓电视盒。如果AI蠕虫控制了同等规模的设备，每15台组成一个集群，则相当于在暗网中凭空多出了约13.3万个260亿参数级别的AI智能体。

　　Anthropic估算，如果小型模型按历史速度持续提升，到2026年底就能达到自我复制所需的能力水平。

　　专家警示：风险尚在可控范围

　　伊利诺伊大学电气与计算机工程助理教授Varun Chandrasekaran对此表示，该研究结果“并不令人意外”，与近期类似发现一致，但他同时指出Anthropic的工作尚未经过独立验证。他强调，就AI而言，当前最大的威胁仍然是人类恶意行为者利用AI强化攻击手段，而非AI系统自身失控。

　　Anthropic也在报告中明确表示，目前尚未实现完整的恶意自我复制程序验证，相关发现仅证明此类威胁正在逐步逼近，并不代表已经出现活跃传播的AI恶意软件。

　　然而，安全专家John Walsh指出，这一新兴威胁的影响可能超越计算机和数据网络，延伸至家用电器、食品生产、水处理等关键基础设施领域。他警告称：“未经授权的数字访问最终可能影响制冷、水处理、泵送系统或其他关键运营，后果可能超出数据丢失的范畴，延伸至物理损坏、服务中断和公共安全风险。”

　　Anthropic建议各组织立即采取三项措施应对潜在威胁：全面盘点联网硬件设备，特别是安全摄像头、会议室系统及不受支持的IoT设备；对IoT网络进行分段隔离，关闭不必要的调试端口，限制设备间访问；持续监控异常网络行为，重点关注大体积模型文件下载和设备间的异常流量。