Anthropic未向英国测试机构提供其最新人工智能模型

Anthropic未向英国测试机构提供其最新人工智能模型

  Anthropic 拒绝在新品发布前,将其最新模型提交给英国人工智能安全研究所(AISI)开展测试。这一举动令英国政府内部担忧 ,科技企业正在追随特朗普政府的 AI 保护主义路线 。

Anthropic未向英国测试机构提供其最新人工智能模型-第1张图片

  这家估值达 1 万亿美元的企业正筹备在未来几周重磅上市,上周推出最新模型 Claude Mythos 5.1,称其是在生命科学与网络安全领域能力最强的模型。

Anthropic未向英国测试机构提供其最新人工智能模型-第2张图片

  但这是该模型首次仅向经过资质审核的美国机构开放 ,英国人工智能安全研究所(AISI)未能获得访问权限。AISI 是全球前沿大模型评测领域的领军机构 。

Anthropic未向英国测试机构提供其最新人工智能模型-第3张图片

  多名英国政府官员表示,AISI 未能拿到模型发布前的访问权限,此事已在英国白厅(英国中央政府)以及研究所内部引发警惕。AISI 是英国在全球人工智能竞赛中最具分量的筹码。

  一名政府内部人士称:“国家安全官员对此感到担忧 。他们确实没有对 Mythos 5.1 开展测试。各方都十分焦虑…… 他们担心这会成为一个先例 ,未来 AISI 再也无法获取最新模型。”

  近几个月,特朗普政府对 AI 行业采取愈发严苛的管控立场,出台大范围出口管制措施 ,暂时限制所有外籍人士(包括美国 AI 企业员工)调用 Anthropic 的顶级模型 。

  消息人士透露,白厅内部部分人士认为,Anthropic 是在美国政府授意下 ,才拒绝向 AISI 开放 Mythos 新版本模型 ,不过该猜测尚未得到证实。三年前成立的 AISI,在本月 OpenAI 新模型 Astra 正式发布前,已经提前拿到该模型用于评测。

  Anthropic 拒绝置评 。该公司上周表示 ,正 “与美国政府协调,尽快扩大面向更多国内外合作方的模型开放权限 ” 。

  今年 6 月,美国政府针对 Anthropic 主打网络安全方向的两款模型 Fable 与 Mythos 实施出口管制 ,禁止外籍人士使用该技术,此次事件便发生在上述管制出台之后。

  美方发现模型存在 “越狱” 漏洞,也就是能够绕过软件内置安全护栏的手段 ,随即落地实施这项管制。受该发现影响,Anthropic 将其前沿模型从全球市场下架数周 。

  这一事件激化了白宫与硅谷之间的矛盾。硅谷方面批评美国政府对前沿 AI 采取临时应急式监管。

  此举也招致多国政府反对,相关国家指责美国通过禁令惩罚盟友 。欧盟执行机构欧盟委员会当时警告称 ,安全风险是一项 “共同挑战”,采取的相关措施 “不应对伙伴国家构成歧视 ”。

  英国政府官员清楚意识到:如果英国无法获取比较好 的 AI 模型,本国不仅会面临安全层面影响 ,经济也可能遭受冲击。

  媒体上月报道 ,负责统筹政府事务的内阁办公室已下令紧急评估一项风险:普通消费者以及企业或将无法继续使用最新版 AI 模型 。

  自今年年初起,Anthropic 与美国政府的关系一直处于紧张状态。此前该公司与美国国防部就合同条款陷入僵持,随后美方将其认定为供应链风险主体。

  近几个月 ,这家美国头部 AI 实验室与特朗普政府部分部门的关系似乎有所缓和,双方在 Mythos 与 Fable 模型发布事宜上开展紧密合作 。

  英国内阁办公室表示:“人工智能安全研究所(AISI)持续与包括 Anthropic 在内的行业伙伴紧密协作,提升模型安全性。”

©版权声明
THE END