人工智能 · 分析
Anthropic提出通过司法程序阻止高风险模型传播的框架
据TechCrunch转述Politico报道，Anthropic正在传阅一份法案草案，拟规范对存在迫在眉睫的灾难性风险的模型实施封锁的程序。这套机制将涉及已登记的评估人员、商务部和法官。目前它仍是一项提案。
法律告知：此内容由人工智能系统生成。 编辑透明度
TechCrunch援引Politico报道称，Anthropic正在传阅一份人工智能安全法案草案，希望美国国会审议。Anthropic的一名发言人向Politico证实了该文本的存在。这是由该公司推动的一项提案，目前尚无证据表明其已获通过。
这套机制拟针对可预见且迫在眉睫、可能导致超过50人死亡或造成超过十亿美元财产损失的风险。涉及的情景包括生物武器、脱离开发者控制的模型或网络攻击。
在美国商务部登记的独立评估人员将对模型进行审查。一旦发现迫在眉睫的灾难性风险，他们须在72小时内通知商务部。商务部随后须请求华盛顿的一名法官暂停该模型的传播。草案将禁止联邦机构自行决定实施此类封锁。
评估在财务上的独立性仍存在疑问。实验室可以向评估人员支付报酬，前提是付款不取决于评估结果。这项规定将约束报酬的支付，但不足以证明评估不受影响。
因此，这一拟议框架倾向于在评估后通过司法程序介入。其有效性尤其取决于能否迅速判定风险，以及评估人员是否真正独立，而现有报道无法对这两点作出定论。