新加坡研究AI代理身份识别与追踪机制

新加坡政府正研究如何识别和追踪自主式人工智能代理。人力部代部长兼数码发展及新闻部高级政务部长刘洁敏在国会回应议员陈佩玲的休会动议时说,资讯通信媒体发展局正与科技企业合作,探索利用现有网站域名系统(DNS)辨识及验证AI代理,并评估是否需要建立国家级登记制度。

AI代理能理解指令、自行规划步骤,并调用不同工具和系统代人完成工作,例如订机票、处理交易或执行企业任务。随着AI代理开始代表用户行事,如何确认其身份和权限,以及出现错误时由谁负责,成为治理问题。

陈佩玲建议政府考虑建立类似Singpass的AI代理数码身份系统,让不同机构查核代理身份及获授权执行的事项。刘洁敏说,政府认同建立跨平台信任机制的必要性,并指出相关机制须回答三个问题:代理是谁、获授权做什么,以及谁须为其行为负责。