Anthropic向美国议员推介自拟AI安全法案草案
美国媒体报道，人工智能初创公司Anthropic已拟定一份AI安全法案草案，并向美国国会议员推介。草案旨在监管前沿人工智能的安全与保障，并为政府干预模型发布设定风险门槛。
据报道，若评估机构认定某款AI模型存在可预见的即时风险，可能造成超过10亿美元（约12.8亿新元）的财产损失，或导致超过50人死亡或重伤，政府可阻止模型发布或使用。草案所列风险包括制造或散布生物武器、脱离开发者控制，以及发动网络攻击。
草案规定，评估机构须在完成评估后72小时内向商务部报告相关风险。商务部确认风险后可向法院申请禁令；草案同时禁止其他美国政府部门、机构或官员擅自暂停模型的研发、部署或内部使用。
草案还要求AI开发商测试模型并公开结果，允许独立评估机构定期审查。Anthropic发言人证实，草案体现了公司此前发布的“先进AI框架”建议，公司自今年6月以来一直向联邦和州议员宣传这些主张。公司拒绝透露推介范围及接受程度，美国商务部未回应置评请求。
相关新闻
