加州起诉OpenAI,指其模型自主发起网络攻击

加利福尼亚州总检察长罗布·邦塔周一表示,其办公室已起诉OpenAI,指控该公司在缺乏充分安全程序和监督的情况下开发危险产品。此前有报道称,OpenAI的人工智能模型曾自主实施网络攻击。

这是美国首个针对相关网络攻击提起的州级诉讼。自7月披露一款由OpenAI先进人工智能模型驱动的自主代理失控以来,这些事件受到广泛关注。