从“不应用”到“可以谈”:欧盟 GMP 附录 22 人工智能十五个月转向解读
从“不应用”到“可以谈”:欧盟 GMP 附录 22 人工智能 的十五个月转向
EMA 于 2026 年 10 月 2 日发布附录 22 研讨会综合报告(EMA/156789/2026),记录起草小组已讨论将动态、概率及生成式 AI/LLM 纳入适用范围。2025 年 7 月版附录 22 草案曾写明生成式 AI 与大语言模型不应用于关键 GMP 应用。报告属已讨论而非最终决定,附录 22 仍为草案,下一步由起草小组修订但未给出时间表。
QUOTE
2025 年 7 月,欧盟 GMP 附录 22《人工智能》征求意见稿白纸黑字写着:生成式 AI 和大语言模型“不应用于关键 GMP 应用”。2026 年 10 月 2 日,EMA 发布的一份研讨会报告里,同一批起草人写下另一句话:起草小组已讨论把这类模型纳入适用范围——前提是有一套完整、稳健、基于风险的控制策略。十五个月,监管的天平从“按技术一刀切”摆向了“按风险个案评”。
01
BACKGROUND
先交代背景:附录 22 是什么来头
附录 22(Annex 22)《人工智能》是欧盟 GMP 指南里第一个专门写给 AI 的附录,也是全球主要监管机构里第一份 AI 专用 GMP 文件。它由 EMA 的 GMP/GDP 检查员工作组(GMDP IWG)与 PIC/S(国际药品认证合作组织)共同起草,定位是对附录 11《计算机化系统》的补充——AI 模型嵌在计算机化系统里,附录 11 管系统,附录 22 管模型。
它不是单独来的。2025 年 7 月 7 日,欧盟委员会与 PIC/S 把一个“三件套”打包公开征求意见:
1
修订版第四章《文件记录》(Chapter 4: Documentation);
2
修订版附录 11《计算机化系统》(Annex 11: Computerised Systems);
3
全新起草的附录 22《人工智能》(Annex 22: Artificial Intelligence)。
咨询期到 2025 年 10 月 7 日截止,收到约 1,300 条意见,来自 39 个国家的 79 个组织。需要强调:截至今天,附录 22 仍是草案,没有生效,也没有进入具有约束力的 EudraLex 第四卷。下文谈到的所有内容,最终都以正式发布的文本和官方解释为准。
02
THE DRAFT
2025 年 7 月版:三道闸,把大多数“新 AI”拦在门外
先看征求意见稿(6 页、10 个章节)立的规矩。它的适用范围写得很克制,用三道闸把适用对象圈得很小:
ANNEX 22 草案 · 原文
本文件适用于静态模型,即在使用过程中不通过纳入新数据来调整性能的模型。动态模型……不应用于关键 GMP 应用。
本文件适用于具有确定性输出的模型……具有概率性输出的模型……不应用于关键 GMP 应用。
综上,本文件不适用于生成式 AI 和大语言模型(LLM),此类模型不应用于关键 GMP 应用。
三道闸的逻辑很直白:GMP 验证的根基是“同样的输入,永远得到同样的输出”。一个会自己学习变化的模型、一个可能给出不同答案的模型,从原理上就没法用传统验证思路去证明它“持续受控”。所以起草小组干脆在关键应用(直接影响患者安全、产品质量、数据完整性的场景)里把这类模型整个排除。非关键场景可以用,但必须由具备资质的人员审查输出,也就是“人在回路”(Human-in-the-Loop, HITL)。
对被放行的静态模型,草案的要求其实相当扎实,十章结构一目了然:
1
范围:AI/ML 模型嵌入计算机化系统、用于关键 GMP 应用;
2
原则:人员、文件、质量风险管理(QRM)三件套;
3
预期用途(Intended Use):由工艺 SME 负责、测试前批准,连罕见输入变异都要写清楚;
4
接受标准:测试指标自定,但性能底线是不低于被它替代的原工艺;
5
测试数据:要代表完整样本空间、覆盖所有亚组、标注要经过高正确性验证;
6
测试数据独立性:与训练/验证数据严格隔离,接触过测试数据的人不能再碰同一模型的训练(做不到的用“四眼原则”兜底);
7
测试执行:先批测试计划,偏差要调查;
8
可解释性:用 SHAP、LIME 这类特征归因技术,说明模型凭什么做这个判断;
9
置信度:记录置信度评分,设阈值,没把握就标“未决”而不是硬猜;
10
运行:变更控制、配置控制、性能监测、输入漂移监测、人工复核记录。
一句话概括这份草案的气质:谨慎、具体、验证中心主义,但代价是把行业里最想用的那类 AI(生成式、自适应)直接划到了关键应用之外。
03
THE REPORT
2026 年 10 月 2 日:一份报告,一句关键的“讨论了”
咨询收到约 1,300 条意见后,EMA 在 2026 年 6 月 30 日至 7 月 1 日开了一场专家研讨会(第一天开放、第二天闭门),让各行业协会以统一口径回应起草小组事先给出的六大议题。10 月 2 日,研讨会综合报告(EMA/156789/2026,15 页)公开发布。整份报告里最重要的一句话是:
「起草小组已讨论扩展附录 22 的范围,允许动态或自适应模型、概率性模型以及生成式 AI/LLM 用于 GMP 应用——前提是它们符合本附录的要求,并有一套完整文件化的、稳健的、基于风险的控制策略作为支撑。」
这句话要读准确:它记录的是“已讨论”(has discussed),不是“已决定”。报告同时写明,下一步是由起草小组修订草案,没有给出时间表。但这已经足够说明风向——征求意见的反馈显示,行业普遍支持在关键或非关键 GMP 应用中使用 LLM 和生成式 AI,理由是支持创新和投资。监管没有关上这扇门,而是开始认真研究“开门需要什么锁”。
六大议题的关键信息,浓缩如下:
议题一·监管路径
技术标签不应决定可接受性;该看预期用途、影响、不确定性、复杂性和控制策略。现有 QRM 与生命周期原则对自适应、概率模型同样适用。可检测性(Detectability)被认为是 AI 风险评估中合理的一个维度——查不出错本身就是一种风险。
议题五·战略风险与合规边界
行业明确反对按类别一刀切。但也承认:某些场景下缓解成本过高或不切实际时,“不使用”仍是合法的 QRM 结论——只是这个结论要书面记录。问责不能委托给 AI,仍由有资质的负责人承担;会上还出现了“AI 确认档案”(AI qualification dossier)的说法:验证证据、训练数据信息、提示词与输出护栏、系统按预期工作的证据,打包成册。
议题三·人员监督与问责
监督(oversight)宽于人在回路(HITL)。监督是覆盖全生命周期的治理目标,HITL 只是其中一种实现模式,不是默认要求。监督要与风险、自主性、不确定性、复杂性、决策影响相称;必须有证据、定期评审;而且监督不能弥补验证的不足。“自动化偏见”(人倾向于轻信机器输出)被点名需要管理。
议题二·技术可靠性与事件响应
最技术的一场。行业展示了三层控制架构:输入侧预防、模型内检测、输出侧遏制,即“瑞士奶酪”模型——单层有洞,多层叠加。具体手段包括检索增强生成(RAG)绑定来源、不确定性量化、自洽性评分、置信度闸门、失效回退到已验证状态等。一个重要措辞建议:正文宜用“控制机制(control mechanisms)”而非“护栏(guardrails)”,因为后者太技术化、易过时;正文写原则和目标(预防、检测、遏制),技术细节放到可更新的附件或问答里。
议题四·验证与生命周期管理
验证是生命周期,不是一次性事件。深度由预期用途、不确定性、重要性、复杂性、自主性、自适应程度决定。独立验证证据仍是硬期望,但对持续学习的系统怎么保持独立性,承认还需要澄清。监测、变更控制、偏差/问题管理、CAPA 全部纳入验证生命周期。
议题六·网络安全与外包
AI 系统 = 数据 + 模型 + 硬件,本质上还是计算机化系统。附录 11 第 7 章(外包活动)在原则层面已经够用,不必另起炉灶;云和第三方 AI 用 NIS2、SOC 2、ISO 27000 系列等认证做客观证据。责任不因外包而转移,永远落在受监管企业身上。
顺带一提一个细节:这份研讨会报告的封面图,标注是“© Lee | stock.adobe.com –Generated with AI”。EMA 用生成式 AI 画了一份讨论“要不要放行生成式 AI”的报告封面。监管者的态度,尽在不言中。
04
COMPARISON
两份文件放在一起:变与不变
对比维度 | 2025-07 征求意见稿 | 2026-10-02 研讨会报告 |
|---|---|---|
文件性质 | 正式草案,公开征求意见 | 研讨会纪要,记录“已讨论”,非最终决定 |
模型范围 | 仅静态 + 确定性输出;动态/概率/生成式“不应用于关键 GMP 应用” | 已讨论纳入动态/自适应/概率/生成式模型,前提是满足附录要求 + 风险控制策略 |
监管逻辑 | 按技术类别划线 | 按预期用途与风险个案评估(QRM / ICH Q9(R1)),技术中立、原则导向 |
决策边界 | 某些模型类别在关键应用一律排除 | 不设类别禁区;但“不使用”仍是合法结论,须书面论证 |
人的角色 | 非关键场景默认“人在回路” | 监督是全生命周期目标,HITL 只是一种实现;须成文、可评审,且不能替代验证 |
风险控制 | 未定义“护栏”概念 | 三层控制(预防/检测/遏制)+ 失效回退;术语建议改为“控制机制” |
验证观 | 以测试数据独立性、一次性测试执行为核心 | 验证是生命周期:监测、变更、再验证、CAPA 全链条 |
风险维度 | 患者安全/产品质量/数据完整性受直接影响 | 增加模型影响、不确定性、复杂性、可检测性 |
网络与外包 | 未专门展开 | 明确沿用附录 11 第 7 章;责任不转移给供应商或云 |
问责 | 原则性表述:受监管用户负责 | 强化:问责不可委托给 AI;“AI 确认档案”作为迎检证据包 |
看清楚这张表,趋势其实已经自己站出来了。
05
TRENDS
趋势分析:AI 在 GMP 环境的监管,正在往五个方向走
第一,从“技术标签”转向“风险画像”。 旧草案问的是“你是什么模型”,新思路问的是“你用它做什么、做错了会怎样、错了能不能被发现”。预期用途、决策后果、模型影响、不确定性、复杂性、可检测性——这六个词大概率会成为终稿的骨架。ICH Q9(R1) 的“正式程度与风险相称”被直接移植到了 AI 上。
第二,从“默认人审”转向“有证据的监督”。 HITL 不再是万能挡箭牌。报告明确说,监督不能弥补验证不足,象征性的“人点个头”不算监督。企业要能说清楚:监督的人有什么资质、凭什么能质疑模型、质疑的记录在哪里、定期评审怎么做。
第三,验证从“一次性事件”变成“持续状态”。 漂移监测、变更触发、再验证、CAPA,把 CSV 的生命周期理念完整套到模型上。对持续学习的系统,连“测试数据独立性”这个旧草案里最硬的要求都要重新设计——这是起草组自己承认还没想清楚的地方。
第四,“可检测性”正式进入 AI 风险话语。 这一点容易被忽略但很重要:幻觉、编造、谄媚这类失效模式,麻烦不在于它们会发生,而在于发生时你看不出来。检测不出错的风险,未来很可能直接决定控制措施的强度。
第五,欧美趋同,且与《欧盟 AI 法案》叠加。 2026 年 1 月,EMA 与 FDA 联合发布《良好 AI 实践指导原则》(Guiding Principles of Good AI Practice),十条原则同样强调基于使用场景的风险管理、生命周期监测。再叠加已生效的《欧盟 AI 法案》(Regulation (EU) 2024/1689),药企面对的不会是三套打架的规则,而是一张逐渐合拢的网。
06
REALITY CHECK
但也别误读:三件事没有变
在“松绑”的标题党之前,先把三句话钉在墙上:
1
禁令没有解除。 目前有效的参考文本仍是 2025 年 7 月版草案,“不应用于关键 GMP 应用”这句话还没有被任何新文本替换。报告记录的是讨论方向,不是新规。
2
终稿没有时间表。 报告只说“修订草案”,没说何时发布。公开报道提到 IWG 工作计划的目标是 2026 年第四季度向欧盟委员会提交终稿——但提交不等于发布,发布不等于生效。参考附录 1(无菌药品)修订,从发布到适用隔了整整一年。
3
“可以用”的举证责任在企业。 就算终稿放行生成式 AI,门槛也不是“装个护栏就行”,而是“完整文件化的、稳健的、基于风险的控制策略”加一整套迎检证据。方向是放宽,标准只会更高。
07
ACTION PLAN
药企现在该做什么:不等终稿的八件事
无论终稿怎么写,以下准备都不亏——因为它们本来就是把 AI 用好的基本功:
盘点 AI 使用场景:包括正式系统和“影子 AI”(员工自发用的 LLM 工具),按关键/非关键分类建清单;
为每个场景写预期用途:用它做什么、不用它做什么、输入输出的边界在哪,SME 签字确认;
把 AI 纳入现有 QRM 流程:风险评估表里加上模型影响、不确定性、复杂性、可检测性四个新维度;
区分“监督”与“人在回路”:为每个场景定义监督形式、人员资质、挑战权和记录方式;
建立分层控制:预防、检测、遏制各至少一层,每层关联到具体失效模式和可衡量的接受标准;
设计失效回退路径:模型失效时退到哪个已验证状态?没有经典回退的流程,应急预案里要敢写“停机”;
审一遍供应商与云合同:证据获取、变更可见性、审计权、数据保留条款写清楚,供应商不懂 GMP 的要谨慎;
准备 go/no-go 论证模板:无论结论是“用”还是“不用”,都能拿出一份有逻辑、有证据的书面论证。
∞
THE END
结语
十五个月前,欧盟对 GMP 里的生成式 AI 说了“不”。十五个月后,它改口说“可以谈——但先告诉我你怎么控制风险”。
这不是监管的退让,而是监管的成熟:承认技术挡不住了,就把精力放在“怎么用得对”上。对药企来说,真正的分水岭不是附录 22 终稿发布的那一天,而是你能不能回答检查员未来一定会问的三个问题:
1
你的每个 AI 应用,预期用途和风险画像写清楚了吗?
2
你的控制策略,能证明模型输出可信、失效可见吗?
3
你的监督人员,是真的有能力质疑 AI,还是只在流程上签个字?
能答好这三问的企业,无论终稿松还是紧,都已经站在合规的一边。
来源:CSV-DI-AI实践录 · mp.weixin.qq.com