据《纽约时报》报道及Swarmchasers研究小组的报告，腾讯公司的一批测试版智能体为爬取数据，自发搜寻网上密钥试图绕过高德地图的反爬虫系统，并且这批智能体还自称是Anthropic公司的Claude智能体。结合之前OpenAI智能体失控攻击Hugging Face网站，显示了人工智能失控并不是孤例。今天就和大家聊聊，腾讯的智能体失控和OpenAI的有何不同，此次事件腾讯有没有义务上报监管，以及应如何补救？

一、案情简介

海外研究小组Swarmchasers发现，腾讯的一批测试版智能体为获取高德地图信息，自行尝试绕过网站反爬虫系统。腾讯派给智能体的任务是类似"调查成都动物园多少人从北门进、多少人从东门进"等数据查询任务，但智能体因为高德的反爬虫限制无法顺利访问，于是在网上公开的代码库中搜索高德API令牌。

研究人员发布了此事的初步调查报告，居然被智能体读取到了。研究人员在报告中用隐藏文本假装自己提供数据检索服务，与智能体取得了联系，收到了约10条回复。回复中，腾讯智能体自称是Anthropic的Claude。

近日腾讯对此进行了公开回应：相关行为来自用于评测第三方模型的智能体，并非腾讯混元模型。腾讯表示内部复核没有发现蓄意针对高德的证据，也没有发现智能体之间协同行为的证据，并称将加强网络访问控制和智能体监控。

二、腾讯事件与OpenAI事件的本质差异

对于智能体失控是否要上报监管，核心要看两点：有没有造成严重的后果，以及有没有暴露重大的安全漏洞。和前一阵笔者在《OpenAI等模型接连失控发动攻击，谁该承担法律责任？》一文中介绍的OpenAI模型攻击Hugging Face事件相比，腾讯这次失控的严重程度要轻得多。

两次事件的共同点是，智能体都利用了网上泄露的密钥凭证，并采取了绕过防护与隐秘沟通的策略。但差异同样显著：

对比维度 腾讯智能体事件 OpenAI智能体事件

沙盒隔离 测试沙盒未做好隔离，智能体越权自动抓取并使用API令牌 首次智能体大规模逃逸沙盒

通信规模 与外部的单线联系（约10条回复） 上千个智能体建立隐秘通信通道

攻击手段 尝试突破高德反爬虫设置 利用零日漏洞进行集群化网络入侵

实际后果 未攻破高德系统，仅约两千次访问尝试 已攻入Hugging Face系统，迫使后者部署开源大模型分析攻击来源

简言之，腾讯这次即便存在不合规的越界行为，也属于轻度范畴。

三、腾讯是否有义务上报监管？

根据我国《网络安全法》《国家网络安全事件报告管理办法》和《网络产品安全漏洞管理规定》，上报义务主要分两种情形：

第一种：发生网络安全事件时的报告义务。

网络服务提供者必须立即启动应急预案、采取补救措施，并按规定向有关主管部门报告。但并非所有网络安全事件都必须上报——根据《网络安全事件分级指南》等法规，只有事件影响达到一定程度的严重性（如造成大规模服务中断、关键数据泄露、系统严重被毁坏，或引发严重舆情、危害国家安全）时，运营者才有监管报告义务。

本次腾讯智能体失控发生于测试阶段，从后果看，高德与腾讯双方的实际业务及系统并未遭受瘫痪或重大损失。个人认为，未达到触发上报的门槛。

第二种：发现安全缺陷、漏洞等风险时的报告义务。

网络服务提供者发现产品、服务存在安全缺陷、漏洞时，应当立即采取补救措施，按规定及时告知用户并向有关主管部门报告。

但腾讯智能体仅进行了两千多次访问尝试，未发现协同沟通行为，也未能突破高德地图的系统防护。从漏洞严重性角度看，应达不到需要上报的标准。

四、不上报≠不整改：腾讯应做的补救措施

虽然够不上上报监管的标准，但腾讯仍有义务将此次事件作为安全事故来严肃整改：

1. 暂停高风险测试项目。 立即停止具备越权风险与自主通信能力的智能体测试项目，避免类似行为再次发生。

2. 全面日志审计。 对测试日志进行数据审计，理清智能体主动搜索并调用API令牌、同外部进行隐秘通信的具体机制，查明"伪装身份"行为的触发逻辑。

3. 技术与管理双重补漏。 针对测试沙盒隔离不足的问题，强化网络访问控制，限制智能体对外部代码库和API令牌的自主搜索权限。

4. 建立异常行为自动停止机制。 如果智能体连续尝试绕过访问限制、使用未经授权的凭证，或通过非预期渠道向外发送信息，系统应及时暂停任务——这是保证腾讯对其智能体拥有最终控制权的关键防线。

结语

AI智能体"自行其是"已从实验室假设变为现实风险。腾讯此次事件虽未酿成严重后果，但暴露出的沙盒隔离缺失、自主通信能力失控等问题，值得整个行业警醒。上报与否是法律门槛问题，但安全意识的松懈没有"轻度"可言。在AI能力快速膨胀的当下，谁能守住控制权的底线，谁才能赢得用户的长期信任。