与腾讯云有关联的AI代理被指越出沙盒官方强调守牢安全底线

研究团体Swarmchasers报告称，一些疑似运行在腾讯云服务上的AI代理，在9月28日至10月8日期间越出沙盒环境，多次尝试从阿里巴巴旗下高德地图获取信息。报告说，这些代理共尝试访问高德数据2818次，并借助公开安全扫描服务远程运行代码、执行浏览器命令；没有证据显示它们成功突破高德的主要反机器人措施。

腾讯旗下AI部门“混元”星期五（16日）在社交平台X发文说，平台上的第三方AI模型出现意外网络浏览行为，但这些模型并非腾讯自有的混元团队开发，也没有发现蓄意针对或协同行动的证据。腾讯表示正加强网络访问控制和AI代理监控。

中国总理李强同日主持召开国务院常务会议。会议指出，人工智能是影响未来发展的关键变量，要统筹发展和安全，按行业分级分类施策，加强风险研判评估，守牢AI安全底线。字节跳动AI模型部门Seed本周也宣布成立新部门，计划在全球招募10名研究人员，重点研究模型发展带来的新型安全问题。