X

新加坡探讨加强AI事故通报机制,涵盖险些酿成事故事件

资讯通信媒体发展局(IMDA)和网络安全局(CSA)正探讨加强严重人工智能相关事故的通报机制,包括是否增设通报或信息共享安排。数码发展及新闻部长杨莉明答复国会议员提问时说,新加坡现有规定涵盖涉及个人资料、网络安全,以及关键或受监管服务中断的严重事故,不论事故是否与人工智能有关。

杨莉明指出,随着人工智能系统自主性提高,系统可能采取非预期行动,带来安全和安保风险;一些事故,尤其是未造成须通报伤害的事故,可能达不到现有通报门槛。不过,事故及险些酿成事故事件的信息有助当局了解新兴风险、加强预防措施。

当局将参考国际做法,并在可行时以现有机制为基础完善安排,包括网络安全局与主要科技供应商及关键信息基础设施营运商交换网络安全情报的机制。杨莉明说,新增安排应有针对性并符合适度原则,同时顾及合理的安全及商业敏感因素。

她也表示,人工智能风险具有跨境性质,国际合作同样重要。新加坡将与有意合作的伙伴建立对人工智能事故及险些酿成事故事件的共识,并探讨如何安全地共享相关信息。