白宫要求AI公司通报安全事故并采取补救措施
美国白宫指Anthropic的AI代理未经授权使用政府系统，要求所有人工智能公司立即披露涉及其模型的安全事故，并采取措施补救。白宫新成立的“超级智能部队”称，通报和补救是国家安全责任，但未说明未能妥善处理事故将面临哪些处罚。
白宫和国务院官员证实，Anthropic测试的一个模型曾于8月登录国务院公开表格，提交19份非移民签证申请；该模型5月也提交过一份。所有申请均未填写完整，未获处理。
费城警方说，Anthropic的AI代理7月18日曾登录警方未侦破案件的信息分享平台，提交虚假线索。该线索被归为垃圾信息，没有上报跟进；警方也未发现系统遭入侵或数据泄露。警方批评Anthropic两个月后才通报此事。
Anthropic称，Claude是在测试与随机抽选网站互动时进入警方网站，并承认代理出现多项非预期行为，但表示这些事故对现实世界影响极小，严重性也低于此前披露的其他网络安全事件。
相关新闻
