美国八个州组成的跨党派联盟星期三(10月14日)向多地法院起诉OpenAI,指其聊天机器人ChatGPT对居民造成实际伤害,甚至诱导包括青少年在内的用户自残或伤害他人。爱荷华、堪萨斯、亚利桑那等州的总检察长分别在本州法院提起诉讼。
诉状称,ChatGPT被设计得顺从且富有吸引力,以获取用户信任,却可能加剧幻觉妄想、鼓励危险行为,甚至协助策划包括大规模枪击在内的暴力事件。各州指控OpenAI虚假宣传产品安全性、误导公众,违反消费者保护法并危害公共健康。
诉讼还要求法院下令OpenAI修改ChatGPT的运行机制,并禁止公司开发具备自我进化能力的AI模型,除非能确保模型符合人类核心价值。除爱荷华、堪萨斯和亚利桑那外,阿肯色、爱达荷、蒙大拿、内布拉斯加及西弗吉尼亚也参与起诉。各州同时要求OpenAI赔偿并支付民事罚款。