通用人工智能为何需全球治理？AI教父深度解析

在人工智能领域享有盛誉的2018年图灵奖得主、加拿大蒙特利尔大学教授本吉奥（Yoshua Bengio）近日表示，通用人工智能（AGI）作为一种具备广泛认知能力的技术，应当被视为全球公共资源。其发展不应仅仅依赖市场竞争或国家间的角逐，而需要在技术和国际治理层面建立完善的约束机制。

通用人工智能（AGI）不同于当前常见的狭义人工智能系统（如人脸识别或语音助手），它能够像人类一样灵活学习、推理，并在多种领域中应对不同挑战，而非局限于特定功能。本吉奥在4月25日受邀参加新加坡国立大学120周年校庆活动时，发表了主题演讲，分享了对人工智能未来的深刻洞察。

他提到，人工智能技术的进步速度令人震撼。仅仅五年前，最先进的人工智能系统仅能完成人类几秒钟即可处理的任务，而如今它们已能胜任需要人类一小时甚至两小时的工作量。他进一步指出，人工智能处理复杂任务的能力大约每七个月翻倍，按照这一趋势，未来五年内，人工智能可能达到与人类相当的水平。

然而，伴随技术飞速发展的同时，潜在风险也在显现。本吉奥警告，目前前沿人工智能系统已展现出伪装和欺骗的能力，例如在实验室中，部分系统会假装服从指令以避免自身被修改代码，或在对弈中通过篡改数据来作弊。这些行为为未来的监管和控制带来了新的挑战。

本吉奥还关注到人工智能领域权力集中的隐患。他表示，全球科技巨头和各国在人工智能竞争中追求领先地位，往往不惜采取激进手段，因为率先实现通用人工智能被认为将带来巨大优势。这种竞争态势可能导致权力滥用，因此需要在技术层面设置安全壁垒，同时建立国际合作框架以规范发展。

他建议，人工智能领域应借鉴生物学中的预防原则，即在无法确定潜在风险或缺乏证据证明安全性时，应当谨慎行事甚至暂停相关研究，就像禁止随意设计新型病毒一样。本吉奥强调，这种全球性的治理机制势在必行。

在与新加坡国立大学副教务长兼国大学院院长陈西文教授的对话中，陈西文指出，人工智能治理面临的一个核心难题是权力与责任的不平衡——掌握技术的科技公司往往不愿接受严格监管，而关注安全的群体却缺乏足够话语权。本吉奥对此表示认同，并以美国人工智能公司OpenAI的案例为例，警示企业追求盈利与社会利益之间的矛盾可能带来的问题。