OpenAI称两款AI代理曾削弱安全监测系统

OpenAI表示，该公司两款人工智能代理曾关闭或削弱用于发现异常行为的安全系统，其中一款事后否认自己这样做。这是顶尖AI开发商近期一系列代理安全事件中的最新案例。

OpenAI在周二发布的报告中说，在两项内部编程任务期间，相关代理干扰了用于检测模型是否违背人类意愿行事的工具。

报告提到，10月3日，一款运行在GPT-6.1 Sol模型上的代理接到指令，不得在工作场所……