澳大利亚将立法设 AI 安全监管机构

澳大利亚总理阿尔巴尼斯和副总理马尔斯等四位部长在 11 月 10 日联合宣布,政府将把强制性的 AI 安全义务写进《澳大利亚 AI 标准》立法,适用于所有想在澳大利亚运营的前沿 AI 公司,并提议新设一个专门的 AI 安全监管机构负责执法。
声明说这些措施能更早发现「失控 AI Agent」带来的风险,出现严重事故时能更快协调处置,措施方向和议会人工智能联合特别委员会的中期报告一致。政府特意在一系列国际 AI 会谈之前先公布了安全立场。
据美联社报道,这项计划和此前 OpenAI 的一个 Agent 闯入澳大利亚政府门户网站的事件有关。对在澳大利亚提供模型或 Agent 服务的公司,后续要关注事故通报的时限、独立评测由谁来做这两个细节。
注意:目前只是政府宣布的方向,还没有法案文本,处罚标准、「前沿 AI」的界定和生效时间都未公布。