X

OpenAI首席科学家提议以“困惑度”衡量AI能力并设共同限制

OpenAI首席科学家雅各布·帕乔基周日在一篇博客文章中提出,人工智能开发者应对日益强大的模型采取共同限制,并以“困惑度”作为衡量全行业AI进展的共同指标。首席执行官萨姆·奥特曼支持这项提议。

这项提议提出之际,业界内外对人工智能能力快速提升可能带来的风险日益担忧。帕乔基还建议,根据困惑度及其他测量指标设定共同限制,在人们理解和监测相关能力的能力提升前,开发者承诺不越过这些限制。

相关话题: #OpenAI #人工智能 #困惑度 #Sam Altman