2023年以来，人工智能技术的深度发展与广泛落地应用持续引发社会关注。全国两会期间，多位来自科技、文化领域的代表委员聚焦生成式人工智能应用带来的新的治理挑战，其中深度合成技术引发的伦理问题成为高频率讨论议题之一。
全国人大代表、小米科技创始人雷军在会场重点提到了AI生成内容在法律层面的隐患。他结合日前列入热搜的“AI语音包事件”，指出当前违法侵权行为正集中发生在人脸替换、声纹模拟等深度伪造领域，强调该技术已演变为网络安全与社会治理的新风险窗口。
来自文化艺术界的政协委员靳东则从社会危害层面展开讨论。其所在影视行业已出现仿冒艺人形象的AI换脸视频，导致部分粉丝在情感和财产上遭受双重损失。靳东特别指出，未经授权滥用明星形象进行内容生成的行为性质极为恶劣，亟需建立技术标准与法律框架进行约束。
随着生成式AI技术的指数级进步，如何平衡创新发展与风险防控已引发公共政策层面的深度思考。据监管部门数据显示，近两年涉AI侵权类投诉量同比增长超三倍，深度伪造类技术滥用在电信诈骗、名誉侵权等领域的影响持续扩大。