Anthropic 起草联邦 AI 安全法案:50 人伤亡或 10 亿美元损失才叫停

据 Politico 10 月 16 日起的连续报道,Anthropic 正在向美国国会议员推一份自己起草的联邦 AI 安全法案。Anthropic 发言人表示,草案体现的是它 6 月提出的 Advanced AI Framework。
按 Tom's Hardware 转述的 Politico 报道,在商务部登记的独立第三方会定期评估实验室和模型,发现紧迫风险要在 72 小时内上报;实验室可以付钱给评估方,但不能影响其独立性。草案还规定,除商务部外,任何联邦机构都无权命令实验室停止发布模型。
争议在两处:一是门槛被批评定得太高;二是草案含有优先于州法的条款,和 Anthropic 此前支持各州监管权的立场不一致。背景是 Anthropic 正在筹备上市,见我们写的 Anthropic 三季度营收与 IPO。
注意:这只是一家公司递交的草案,没有进入正式立法程序;我们没看到草案原文,细节以媒体报道为准。