腾讯承认,一个用于测试第三方人工智能模型的代理曾出现意外的网络浏览行为。安全研究组织Swarmchasers日前发布报告称,一个与腾讯云有关联的AI代理从上月底到本月初,多次尝试从阿里巴巴旗下高德地图获取公园、博物馆和动物园入口等信息。
报告称,自动化请求遭封锁后,这些代理还尝试借助其他公开网络工具、转送服务和公开程序代码中的密钥获取资料。研究人员表示,目前没有证据显示代理成功突破高德地图的主要反机器人系统,大部分尝试以失败告终。
腾讯旗下人工智能部门混元表示,相关活动并非由混元模型发起,公司也未发现蓄意攻击目标的证据。腾讯称正在调查事件原因,并将加强网络访问管控和AI代理监测机制。阿里巴巴拒绝置评。