谷歌AI软件遭全球258起投诉？揭露非法内容应对方式差异
科技巨头谷歌最新提交的数据显示，全球范围内针对其人工智能产品Gemini被滥用的举报数量已突破250例，这一信息由澳大利亚官方机构首次公之于众。路透社报道称，这份来自企业的主动披露为全球数字安全监管提供了前所未有的观察视角。
根据澳大利亚电子安全委员会公布的监测结果，在2023年4月至2024年2月的监测期内，共有258起与恐怖主义相关的非法合成素材举报，另有86例涉及儿童色情制品生成。值得注意的是，两项数据反映的技术滥用场景呈现显著差别化处理。
围绕儿童色情内容治理，谷歌研发了自动比对系统，通过数据库中的已知违法图像进行实时筛查。但对于极端主义宣传材料的防范，企业却未部署同类技术方案。这种选择性防控措施已引发监管机构的重点关注。
澳大利亚现行数字安全法案要求网络平台定期申报内容治理成效，违者将触发最高可达现行处罚标准。既往案例显示，社交平台X因延迟提交整改报告已被处61万5000澳元罚款，该企业二审败诉后计划继续上诉。通讯工具Telegram同样因类似问题面临法律追责。
该事件凸显AI技术在反滥用机制上的复杂性，既涉及技术筛查能力边界，也暴露治理标准差异化带来的争议空间，为全球数字监管体系提出新的挑战课题。
评论