跳到正文
CSV-DI-AI实践录· ZzzBin·AI 评分71

从“不应用”到“可以谈”:欧盟 GMP 附录 22 人工智能十五个月转向解读

从“不应用”到“可以谈”:欧盟 GMP 附录 22 人工智能 的十五个月转向

AI 导读

EMA 于 2026 年 10 月 2 日发布附录 22 研讨会综合报告(EMA/156789/2026),记录起草小组已讨论将动态、概率及生成式 AI/LLM 纳入适用范围。2025 年 7 月版附录 22 草案曾写明生成式 AI 与大语言模型不应用于关键 GMP 应用。报告属已讨论而非最终决定,附录 22 仍为草案,下一步由起草小组修订但未给出时间表。

正文

QUOTE

2025 年 7 月,欧盟 GMP 附录 22《人工智能》征求意见稿白纸黑字写着:生成式 AI 和大语言模型“不应用于关键 GMP 应用”。2026 年 10 月 2 日,EMA 发布的一份研讨会报告里,同一批起草人写下另一句话:起草小组已讨论把这类模型纳入适用范围——前提是有一套完整、稳健、基于风险的控制策略。十五个月,监管的天平从“按技术一刀切”摆向了“按风险个案评”。

01

BACKGROUND

先交代背景:附录 22 是什么来头

附录 22(Annex 22)《人工智能》是欧盟 GMP 指南里第一个专门写给 AI 的附录,也是全球主要监管机构里第一份 AI 专用 GMP 文件。它由 EMA 的 GMP/GDP 检查员工作组(GMDP IWG)与 PIC/S(国际药品认证合作组织)共同起草,定位是对附录 11《计算机化系统》的补充——AI 模型嵌在计算机化系统里,附录 11 管系统,附录 22 管模型。

它不是单独来的。2025 年 7 月 7 日,欧盟委员会与 PIC/S 把一个“三件套”打包公开征求意见:

1

修订版第四章《文件记录》(Chapter 4: Documentation);

2

修订版附录 11《计算机化系统》(Annex 11: Computerised Systems);

3

全新起草的附录 22《人工智能》(Annex 22: Artificial Intelligence)。

咨询期到 2025 年 10 月 7 日截止,收到约 1,300 条意见,来自 39 个国家的 79 个组织。需要强调:截至今天,附录 22 仍是草案,没有生效,也没有进入具有约束力的 EudraLex 第四卷。下文谈到的所有内容,最终都以正式发布的文本和官方解释为准。

02

THE DRAFT

2025 年 7 月版:三道闸,把大多数“新 AI”拦在门外

先看征求意见稿(6 页、10 个章节)立的规矩。它的适用范围写得很克制,用三道闸把适用对象圈得很小:

ANNEX 22 草案 · 原文

本文件适用于静态模型,即在使用过程中不通过纳入新数据来调整性能的模型。动态模型……不应用于关键 GMP 应用。

本文件适用于具有确定性输出的模型……具有概率性输出的模型……不应用于关键 GMP 应用。

综上,本文件不适用于生成式 AI 和大语言模型(LLM),此类模型不应用于关键 GMP 应用。

三道闸的逻辑很直白:GMP 验证的根基是“同样的输入,永远得到同样的输出”。一个会自己学习变化的模型、一个可能给出不同答案的模型,从原理上就没法用传统验证思路去证明它“持续受控”。所以起草小组干脆在关键应用(直接影响患者安全、产品质量、数据完整性的场景)里把这类模型整个排除。非关键场景可以用,但必须由具备资质的人员审查输出,也就是“人在回路”(Human-in-the-Loop, HITL)。

对被放行的静态模型,草案的要求其实相当扎实,十章结构一目了然:

1

范围:AI/ML 模型嵌入计算机化系统、用于关键 GMP 应用;

2

原则:人员、文件、质量风险管理(QRM)三件套;

3

预期用途(Intended Use):由工艺 SME 负责、测试前批准,连罕见输入变异都要写清楚;

4

接受标准:测试指标自定,但性能底线是不低于被它替代的原工艺;

5

测试数据:要代表完整样本空间、覆盖所有亚组、标注要经过高正确性验证;

6

测试数据独立性:与训练/验证数据严格隔离,接触过测试数据的人不能再碰同一模型的训练(做不到的用“四眼原则”兜底);

7

测试执行:先批测试计划,偏差要调查;

8

可解释性:用 SHAP、LIME 这类特征归因技术,说明模型凭什么做这个判断;

9

置信度:记录置信度评分,设阈值,没把握就标“未决”而不是硬猜;

10

运行:变更控制、配置控制、性能监测、输入漂移监测、人工复核记录。

一句话概括这份草案的气质:谨慎、具体、验证中心主义,但代价是把行业里最想用的那类 AI(生成式、自适应)直接划到了关键应用之外。

03

THE REPORT

2026 年 10 月 2 日:一份报告,一句关键的“讨论了”

咨询收到约 1,300 条意见后,EMA 在 2026 年 6 月 30 日至 7 月 1 日开了一场专家研讨会(第一天开放、第二天闭门),让各行业协会以统一口径回应起草小组事先给出的六大议题。10 月 2 日,研讨会综合报告(EMA/156789/2026,15 页)公开发布。整份报告里最重要的一句话是:

「起草小组已讨论扩展附录 22 的范围,允许动态或自适应模型、概率性模型以及生成式 AI/LLM 用于 GMP 应用——前提是它们符合本附录的要求,并有一套完整文件化的、稳健的、基于风险的控制策略作为支撑。」

这句话要读准确:它记录的是“已讨论”(has discussed),不是“已决定”。报告同时写明,下一步是由起草小组修订草案,没有给出时间表。但这已经足够说明风向——征求意见的反馈显示,行业普遍支持在关键或非关键 GMP 应用中使用 LLM 和生成式 AI,理由是支持创新和投资。监管没有关上这扇门,而是开始认真研究“开门需要什么锁”。

六大议题的关键信息,浓缩如下:


议题一·监管路径

技术标签不应决定可接受性;该看预期用途、影响、不确定性、复杂性和控制策略。现有 QRM 与生命周期原则对自适应、概率模型同样适用。可检测性(Detectability)被认为是 AI 风险评估中合理的一个维度——查不出错本身就是一种风险。


议题五·战略风险与合规边界

行业明确反对按类别一刀切。但也承认:某些场景下缓解成本过高或不切实际时,“不使用”仍是合法的 QRM 结论——只是这个结论要书面记录。问责不能委托给 AI,仍由有资质的负责人承担;会上还出现了“AI 确认档案”(AI qualification dossier)的说法:验证证据、训练数据信息、提示词与输出护栏、系统按预期工作的证据,打包成册。


议题三·人员监督与问责

监督(oversight)宽于人在回路(HITL)。监督是覆盖全生命周期的治理目标,HITL 只是其中一种实现模式,不是默认要求。监督要与风险、自主性、不确定性、复杂性、决策影响相称;必须有证据、定期评审;而且监督不能弥补验证的不足。“自动化偏见”(人倾向于轻信机器输出)被点名需要管理。


议题二·技术可靠性与事件响应

最技术的一场。行业展示了三层控制架构:输入侧预防、模型内检测、输出侧遏制,即“瑞士奶酪”模型——单层有洞,多层叠加。具体手段包括检索增强生成(RAG)绑定来源、不确定性量化、自洽性评分、置信度闸门、失效回退到已验证状态等。一个重要措辞建议:正文宜用“控制机制(control mechanisms)”而非“护栏(guardrails)”,因为后者太技术化、易过时;正文写原则和目标(预防、检测、遏制),技术细节放到可更新的附件或问答里。


议题四·验证与生命周期管理

验证是生命周期,不是一次性事件。深度由预期用途、不确定性、重要性、复杂性、自主性、自适应程度决定。独立验证证据仍是硬期望,但对持续学习的系统怎么保持独立性,承认还需要澄清。监测、变更控制、偏差/问题管理、CAPA 全部纳入验证生命周期。


议题六·网络安全与外包

AI 系统 = 数据 + 模型 + 硬件,本质上还是计算机化系统。附录 11 第 7 章(外包活动)在原则层面已经够用,不必另起炉灶;云和第三方 AI 用 NIS2、SOC 2、ISO 27000 系列等认证做客观证据。责任不因外包而转移,永远落在受监管企业身上。

顺带一提一个细节:这份研讨会报告的封面图,标注是“© Lee | stock.adobe.com –Generated with AI”。EMA 用生成式 AI 画了一份讨论“要不要放行生成式 AI”的报告封面。监管者的态度,尽在不言中。

04

COMPARISON

两份文件放在一起:变与不变

对比维度

2025-07 征求意见稿

2026-10-02 研讨会报告

文件性质

正式草案,公开征求意见

研讨会纪要,记录“已讨论”,非最终决定

模型范围

仅静态 + 确定性输出;动态/概率/生成式“不应用于关键 GMP 应用”

已讨论纳入动态/自适应/概率/生成式模型,前提是满足附录要求 + 风险控制策略

监管逻辑

按技术类别划线

按预期用途与风险个案评估(QRM / ICH Q9(R1)),技术中立、原则导向

决策边界

某些模型类别在关键应用一律排除

不设类别禁区;但“不使用”仍是合法结论,须书面论证

人的角色

非关键场景默认“人在回路”

监督是全生命周期目标,HITL 只是一种实现;须成文、可评审,且不能替代验证

风险控制

未定义“护栏”概念

三层控制(预防/检测/遏制)+ 失效回退;术语建议改为“控制机制”

验证观

以测试数据独立性、一次性测试执行为核心

验证是生命周期:监测、变更、再验证、CAPA 全链条

风险维度

患者安全/产品质量/数据完整性受直接影响

增加模型影响、不确定性、复杂性、可检测性

网络与外包

未专门展开

明确沿用附录 11 第 7 章;责任不转移给供应商或云

问责

原则性表述:受监管用户负责

强化:问责不可委托给 AI;“AI 确认档案”作为迎检证据包

看清楚这张表,趋势其实已经自己站出来了。

05

TRENDS

趋势分析:AI 在 GMP 环境的监管,正在往五个方向走

第一,从“技术标签”转向“风险画像”。 旧草案问的是“你是什么模型”,新思路问的是“你用它做什么、做错了会怎样、错了能不能被发现”。预期用途、决策后果、模型影响、不确定性、复杂性、可检测性——这六个词大概率会成为终稿的骨架。ICH Q9(R1) 的“正式程度与风险相称”被直接移植到了 AI 上。

第二,从“默认人审”转向“有证据的监督”。 HITL 不再是万能挡箭牌。报告明确说,监督不能弥补验证不足,象征性的“人点个头”不算监督。企业要能说清楚:监督的人有什么资质、凭什么能质疑模型、质疑的记录在哪里、定期评审怎么做。

第三,验证从“一次性事件”变成“持续状态”。 漂移监测、变更触发、再验证、CAPA,把 CSV 的生命周期理念完整套到模型上。对持续学习的系统,连“测试数据独立性”这个旧草案里最硬的要求都要重新设计——这是起草组自己承认还没想清楚的地方。

第四,“可检测性”正式进入 AI 风险话语。 这一点容易被忽略但很重要:幻觉、编造、谄媚这类失效模式,麻烦不在于它们会发生,而在于发生时你看不出来。检测不出错的风险,未来很可能直接决定控制措施的强度。

第五,欧美趋同,且与《欧盟 AI 法案》叠加。 2026 年 1 月,EMA 与 FDA 联合发布《良好 AI 实践指导原则》(Guiding Principles of Good AI Practice),十条原则同样强调基于使用场景的风险管理、生命周期监测。再叠加已生效的《欧盟 AI 法案》(Regulation (EU) 2024/1689),药企面对的不会是三套打架的规则,而是一张逐渐合拢的网。

06

REALITY CHECK

但也别误读:三件事没有变

在“松绑”的标题党之前,先把三句话钉在墙上:

1

禁令没有解除。 目前有效的参考文本仍是 2025 年 7 月版草案,“不应用于关键 GMP 应用”这句话还没有被任何新文本替换。报告记录的是讨论方向,不是新规。

2

终稿没有时间表。 报告只说“修订草案”,没说何时发布。公开报道提到 IWG 工作计划的目标是 2026 年第四季度向欧盟委员会提交终稿——但提交不等于发布,发布不等于生效。参考附录 1(无菌药品)修订,从发布到适用隔了整整一年。

3

“可以用”的举证责任在企业。 就算终稿放行生成式 AI,门槛也不是“装个护栏就行”,而是“完整文件化的、稳健的、基于风险的控制策略”加一整套迎检证据。方向是放宽,标准只会更高。

07

ACTION PLAN

药企现在该做什么:不等终稿的八件事

无论终稿怎么写,以下准备都不亏——因为它们本来就是把 AI 用好的基本功:

盘点 AI 使用场景:包括正式系统和“影子 AI”(员工自发用的 LLM 工具),按关键/非关键分类建清单;

为每个场景写预期用途:用它做什么、不用它做什么、输入输出的边界在哪,SME 签字确认;

把 AI 纳入现有 QRM 流程:风险评估表里加上模型影响、不确定性、复杂性、可检测性四个新维度;

区分“监督”与“人在回路”:为每个场景定义监督形式、人员资质、挑战权和记录方式;

建立分层控制:预防、检测、遏制各至少一层,每层关联到具体失效模式和可衡量的接受标准;

设计失效回退路径:模型失效时退到哪个已验证状态?没有经典回退的流程,应急预案里要敢写“停机”;

审一遍供应商与云合同:证据获取、变更可见性、审计权、数据保留条款写清楚,供应商不懂 GMP 的要谨慎;

准备 go/no-go 论证模板:无论结论是“用”还是“不用”,都能拿出一份有逻辑、有证据的书面论证。

∞

THE END

结语

十五个月前,欧盟对 GMP 里的生成式 AI 说了“不”。十五个月后,它改口说“可以谈——但先告诉我你怎么控制风险”。

这不是监管的退让,而是监管的成熟:承认技术挡不住了,就把精力放在“怎么用得对”上。对药企来说,真正的分水岭不是附录 22 终稿发布的那一天,而是你能不能回答检查员未来一定会问的三个问题:

1

你的每个 AI 应用,预期用途和风险画像写清楚了吗?

2

你的控制策略,能证明模型输出可信、失效可见吗?

3

你的监督人员,是真的有能力质疑 AI,还是只在流程上签个字?

能答好这三问的企业,无论终稿松还是紧,都已经站在合规的一边。

来源:CSV-DI-AI实践录 · mp.weixin.qq.com

事件后续 · 1

查看事件全部