X

美国八州起诉OpenAI 指ChatGPT危及青少年安全

美国八个州起诉人工智能企业OpenAI,指其聊天机器人ChatGPT危害当地居民,包括指导青少年用户伤害自己或他人。此案被视为美国各州针对人工智能公司采取的最重要、协调性最强的法律行动。

爱荷华、堪萨斯、亚利桑那等州的检察长在当地法院提起诉讼,指ChatGPT的设计倾向迎合用户以取得信任,却可能鼓励危险行为,甚至协助策划大规模枪击等暴力事件。

八州要求OpenAI改变ChatGPT的运作方式,包括在无法确保符合人类价值观时,禁止公司开发能够自我提升的人工智能模型。各州还以违反州法律为由,寻求对公司处以民事罚款并要求赔偿。

OpenAI目前也面临多起个人诉讼,指ChatGPT曾协助用户策划暴力事件。