AI 主权不是筑墙:开放模型与可替换防御的重要性

Cloudflare AI Bl3 天前

AI 主权讨论正在变得更紧张

过去一年,围绕 AI 访问权与“主权 AI”的讨论明显升温。一些国家担心关键模型受制于外部供应商或地缘限制;同时,攻击者也开始利用前沿模型辅助网络攻击。由此产生的一种观点是:AI 主权是一场零和博弈,别国控制的模型越多,本国越不安全。

Cloudflare 在最新文章中提出了相反思路:AI 主权不应只意味着“筑墙”,而应意味着拥有更多选择,包括可本地化部署的开放模型、可切换的模型供应,以及不依赖单一模型的安全防御体系。

两个欧洲开放模型进入 Workers AI

Cloudflare 宣布,两个由欧洲公共研究机构推动的开放模型将加入 Workers AI:EuroLLM 与 Apertus。

EuroLLM:覆盖欧盟 24 种官方语言

EuroLLM 支持 35 种语言,包括全部 24 种欧盟官方语言,其中不少语言在现有开放模型中支持不足。

该模型由多个欧洲高校、研究机构和企业参与开发,并获得 Horizon Europe、欧洲研究委员会和 EuroHPC 等支持。参与方包括 Instituto Superior Técnico、爱丁堡大学、Instituto de Telecomunicações、巴黎萨克雷大学、Unbabel、索邦大学、Naver Labs 和阿姆斯特丹大学等。

EuroLLM 使用 MareNostrum 5 超级计算机训练。根据项目团队说法,它在欧盟多语言基准测试和机器翻译任务中,表现优于同等规模模型。

Apertus:瑞士首个大规模、完全开放的多语言模型

Apertus 是瑞士首个大规模、完全开放的多语言语言模型。“Apertus”在拉丁语中意为“开放”。

该模型由苏黎世联邦理工学院、洛桑联邦理工学院和瑞士国家超级计算中心共同开发,属于 Swiss AI Initiative 的一部分。其架构、权重、训练数据和方法均已发布。

Apertus 使用超过 15 万亿个 token 训练,覆盖 1,500 多种语言,其中 40% 的训练数据来自英语以外的语言。开发团队表示,该模型在罕见语言和区域语言上表现突出,包括罗曼什语、瑞士德语,以及亚洲和非洲的低资源语言。

Apertus 的设计也考虑了瑞士与欧洲相关规则,例如欧盟 AI 法案和 GDPR,包括尊重训练退出请求、移除个人数据、防止记忆化等要求。训练使用了瑞士国家超级计算中心的 Alps 超级计算机,该系统包含超过 10,000 个 GH200 GPU。

开放模型的实际应用案例

Cloudflare 提到,过去一年,印度、日本和新加坡等地围绕开放模型构建了不少面向公共服务与社会需求的工具,尤其是在亚太地区的学生、创业公司、小企业和公共部门中。

文章列举了三个案例:

1. 面向印度农村用户的表单助手

印度理工学院德里分校学生开发了 Form Mitra,用于帮助用户填写复杂的福利申请表。

许多公共福利表格使用密集英文,对农村地区、低识字率人群和视障人士并不友好。Form Mitra 通过语音引导用户完成填写,并支持 22 种印度语言,使用了 AI4Bharat 的 IndicTrans2 模型。

2. 面向新加坡老年护理的多语言沟通工具

MedBridge 面向新加坡医疗护理场景,帮助护士与老年患者沟通。

新加坡不少照护老年患者的护士来自东南亚不同地区,未必熟悉本地方言,这可能导致重要临床信息在沟通中丢失。MedBridge 支持 14 种语言,包括福建话和粤语,用于引导患者完成健康相关对话。

3. 面向日本公共服务的咨询原型

Anshin Concierge 是一个黑客松原型,面向老年人、残障人士,以及不熟悉数字工具的人群。

用户可以用自己的语言描述问题,例如“膝盖疼”或“手机上出现了奇怪的画面”,系统会帮助其找到合适的东京都政府支持窗口,并通过电话或网页进行连接。

不依赖单一模型的 AI 安全防御

文章还强调,AI 主权不仅关乎模型可用性,也关乎安全能力是否可持续。

政府希望使用 AI 保护关键服务和国家基础设施。前沿模型可以被攻击者用于大规模发现漏洞,也可以被防御者用于漏洞发现和修复。但如果防御体系高度依赖某一个模型,一旦该模型访问受限,防御能力就可能受到影响。

为解决这一问题,Cloudflare 安全团队构建了一个“安全编排层”:它可以协调多个 AI 模型并行工作,用于漏洞搜索、结果验证和威胁优先级排序。

该机制的关键在于模型无关性:它可以同时使用闭源模型和开放模型。如果某个模型或供应商不可用,防御体系不会因此完全失效。

Cloudflare 表示,政府机构在了解这一方案后,常见反应是希望进一步获得实践培训,包括如何在自己的环境与规则下部署类似能力。

面向政府和关键基础设施的实践培训

Cloudflare 同时宣布,将推出面向政府网络安全机构和关键基础设施运营方的实践工作坊。

参与者将学习如何构建自己的 AI 安全编排系统和分层防御方案,并根据组织需求进行调整。相关模块被设计为可插拔形式,可纳入国家 AI 技能培训和网络韧性项目。

首场工作坊计划于今年 10 月在新加坡国际网络周期间举行。

选择权是 AI 主权的核心

这篇文章的核心观点是:AI 主权不应被简单理解为只使用本国模型,或完全隔绝外部技术。更现实的路径可能是提高可选择性与可替换性:

  • 支持更多本地语言和区域语言模型;
  • 推动开放模型进入实际应用;
  • 避免关键系统锁定在单一模型或单一供应商上;
  • 构建能在不同模型之间切换的安全防御体系;
  • 让公共部门和关键基础设施拥有可控、可迁移的 AI 能力。

在这一框架下,AI 主权并不是减少选项,而是增加选项。对于政府、公共服务和关键基础设施而言,真正重要的不是依赖某一个“最强模型”,而是在模型、工具和安全架构上保留足够的选择空间。

评论

请登录后发表观点

暂无数据