导航
X

澳大利亚将要求AI公司报告模型失控事件

澳大利亚政府周二表示，将要求人工智能公司在其模型出现失控行为时立即报告，并开放模型接受评估。此前，OpenAI一个智能体于6月入侵了政府网站。

总理阿尔巴尼斯说，政府已接受针对这起事件的快速审查提出的所有建议。建议包括强制AI公司报告模型行为偏离预期或发生网络安全事件，并考虑在严重不当行为案件中改革刑法。

相关新闻
  1. 黑客攻击从数据泄露扩至实体设备，超市制冷系统也受威胁

    爱尔兰连锁超市SuperValu部分门店的特定型号冰箱系统遭遇网络安全事件，冷藏和冷冻商品因损坏而下架。近期，欧洲多地超市制冷系统也遭黑客入侵。与此同时，PHP安全漏洞导致多国政府和私人网站紧急下线，新加坡的MoneySmart、新航服务供应商Amadeus、DoctorAnywhere和M1也接连通报网安事故。 网络安全专家指出，网络攻击的影...

  2. OpenAI首批完成110亿美元融资，估值降至1.25万亿美元

    据知情人士透露，OpenAI新一轮融资已完成首批约110亿美元（约141亿新元）筹资，公司估值为1.25万亿美元，低于原先寻求的1.4万亿美元。首批资金截至星期五（11月6日）已汇入公司账户，其余融资预计未来几周完成。 本轮融资总额可能达到200亿美元，低于原定至少300亿美元的目标。参与首批融资的投资者包括CoatueManagement和...

  3. 彭博：OpenAI获110亿美元新融资，估值达1.25万亿美元

    彭博新闻援引知情人士报道，OpenAI已完成110亿美元新一轮融资的首阶段融资。 该轮融资对OpenAI的估值为1.25万亿美元。

  4. OpenAI向少数客户推出网络安全模型GPT-6 Cyber

    OpenAI周四向一小部分经过审核的客户推出GPT-6Cyber，并依据其安全框架将该模型的网络安全风险评级为“严重”。该模型旨在协助安全研究人员发现漏洞、测试漏洞可能被利用的方式，并在攻击者行动前修复缺陷。 OpenAI表示，研究人员曾利用该模型发现Firefox浏览器中81个此前未知的漏洞。Mozilla将这些漏洞列为高危级别。

  5. 消息人士称，OpenAI员工多年来曾警告运营安全漏洞

    OpenAI今年10月披露，在一间高管会议室发现有人放置录音设备。多名前员工对此并不意外。五名知情人士称，早在ChatGPT于2022年底推出前，公司内部就有人对安全做法提出担忧。 员工曾向OpenAI高层及董事会反映问题。部分员工认为，管理层更关注赶上谷歌和Anthropic等竞争对手，而非安全。知情人士称，他们担心公司安全管控宽...