跳到正文
小南AI实验室·AI 评分69

EMA Annex 22 AI 研讨会报告总结:业界就生成式 AI 在 GMP 中的应用提交意见

EMA Annex 22 AI 研讨会--报告总结,视频翻译以及澄清

AI 导读

EMA 于 2026 年 6 月 30 日至 7 月 1 日召开 Annex 22(GMP 环境下 AI 应用)多方研讨会,为 AI 指南起草收集业界结构化意见。

正文

摘要

1. EMA 于 2026 年 6 月 30 日至 7 月 1 日召开 Annex 22(GMP 环境下 AI 应用)多方研讨会,汇总行业对 AI 指南起草的统一意见。

2. 业界核心立场:AI 可接受性由预期用途与风险控制决定,而非技术标签;反对分类禁止,主张基于风险、技术中立。

3. 六个议题覆盖监管路径、战略风险边界、人工监督、技术可靠性、验证生命周期、网络安全外包。

4. 会议视频翻译及报告双语版见文章内容。

EMA(欧洲药品管理局)于 2026 年 6 月 30 日至 7 月 1 日召开 GMP Annex 22 多方研讨会。Annex 22 旨在为嵌入 AI 模型的计算机化系统,对 Annex 11 提供补充性指导。其现行草案将生成式 AI、大型语言模型(LLM)、概率性输出模型、动态模型及性能会自适应的模型排除在关键 GMP 应用之外。

公开征求意见后,业界明确支持在 GMP 应用中(无论关键或非关键)使用这类模型,现实需求是支持创新、鼓励药企投资。起草小组因此请求召开 AI 专家会议,评估能否将基于风险的方法应用于生成式 AI/LLM。本次研讨会的目的是从工业界收集结构化、基于经验的输入,围绕 AI 系统全生命周期的控制、治理与缓解措施,尤其强调 ICH Q9 质量风险管理原则。

在微信查看原视频

一、六议题一览

议题

关注焦点

对 Annex 22 的核心影响

议题 1
监管路径

能否凭预期用途与风险控制容纳自适应、概率性模型

澄清预期用途、不确定性、可检测性等定义,凭文件化证据与生命周期控制证明合理性

议题 5
战略风险边界

是否存在不可逾越的战略禁区

趋向「基于性能的适用性框架」,明确推进 / 不推进的记录结论

议题 3
人工监督

护栏之下还需何种人工监督

要求「有意义、基于风险且文件化」的监督,区分监督与 HITL

议题 2
技术可靠性

护栏能否可靠防幻觉 / 捏造,失效如何上报

要求层级化控制与文件化上报路径,术语放附录

议题 4
验证生命周期

模型演进时如何保持验证有效

要求文件化 AI 生命周期(验证、监测、变更、CAPA、供应商监督)

议题 6
网络安全外包

AI 是否需要独立网络安全制度

交叉引用 Annex 11 第 7 章,补充 AI 专用考量

(议题编号沿用报告原文的 1.1 至 1.6,但其对应主题未按数字顺序排列,本表已标注实际主题。)

二、议题逐条总结

议题 1:自适应与概率性 AI 模型的监管路径

行业立场以利益相关方统一意见呈现:不应仅凭技术标签将自适应、概率性与生成式 AI 模型排除在 GMP 应用之外。核心标准是模型能否被证明适用于预期用途,相关风险能否在现有药品质量体系内控制。风险评估应考虑重要性、不确定性、复杂性与正式化程度。

关键讨论围绕「不确定性」与「不可接受风险」的区分展开。演讲者指出,不确定性应推动更多知识生成、更强的生命周期控制、更正式的验证与再确认,而非自动禁止。一个类比说明:测量系统会漂移、校准周期按风险调整、生命周期评审早已用于确认系统持续适用,GMP 并非没有应对「系统行为随时间变化」的机制。可检测性作为风险评估维度得到支持,尤其在缺陷难以观察之处。问答聚焦框架是否充分应对幻觉、捏造、谄媚等生成式 AI 特有现象,回应是此类行为必须在开发与验证阶段识别评估,若企业无法证明适用性则该用途不成立。总体共识是 Annex 22 应保持技术中立、基于原则,与 Annex 11、ICH 指南一致。

对 Annex 22 的影响

定义需澄清预期用途、模型影响、复杂性、不确定性、控制策略、可检测性与持续适用性。业界应凭文件化证据与生命周期控制证明使用合理性。

关于「EMA 反转 GenAI 禁令」的表述

研讨会报告发布后,部分媒体将其概括为「EMA 反转了此前生成式 AI 不允许进入 GMP 关键应用的立场」。对照报告原文,这一表述存在三处偏差:

一、「不允许」来自草案文本,不是生效禁令。将生成式 AI、LLM、概率性输出模型排除在关键 GMP 应用之外的是 Annex 22 征求意见稿的现行文本,该文本本身处于修订流程中,不存在已生效的「禁令」可供反转。

二、研讨会是起草过程的输入环节,不是立场宣布。会议由起草小组发起,目的是评估能否将基于风险的方法应用于生成式 AI/LLM,从工业界收集结构化意见。报告原文的定位是「这些信息将由起草小组认真审阅与考量,用于指导 Annex 22 的持续修订」,即修订依据的一部分,而非修订结果。

三、后续路径是「适用性证明」,不是「允许进入」。即使 Annex 22 修订后纳入这类模型,前提仍是企业以文件化证据与生命周期控制证明适用性,报告同时明确:无法证明适用性的用途不成立。将评估过程表述为「反转」,等于把中间状态当成了结论。

在微信查看原视频

议题 5(编号 1.2):战略风险与合规边界

第二场审视在关键 GMP 决策中使用生成式 AI 是否存在战略边界。行业立场强烈反对分类禁止:不应有仅凭技术类别或关键性标签就被认为不可接受的决策类别,可接受性应结合决策后果、模型影响、不确定性、复杂性及将残余风险降至可接受水平的能力,逐案评估。演讲承认某些用例中缓解工作量可能过大、不切实际或不足,此时结论应是该用途在当时、该情境下不合理,并须记录在案。

问答提出的重要监管挑战是:企业如何向检查员证明组合的层级控制确实为关键决策提供可靠输出。回应将风险评估定为起点,应描述风险场景、映射到场景的控制,以及验证与监测生成的证据。责任与问责也被探讨:使用 AI 不应免除既有法规下的责任,责任人员可依赖合格专家。「AI 确认卷宗」概念被提出,作为包含验证证据、训练数据信息、围绕提示与输出的护栏、系统按预期运行证据的一揽子文件。战略分会强化了将 Annex 22 定位为「基于结果」而非「技术规定清单」的取向。

对 Annex 22 的影响

Annex 22 可能趋向明确的「基于性能的适用性框架」:识别预期用途、评估决策后果与各类因素、定义控制、验证、监测残余风险、记录推进 / 不推进结论。直接影响、模型影响、控制策略与残余风险接受等定义可能需强化;业界期望一套可供检查的证据包。

在微信查看原视频

议题 3(编号 1.3):人工监督与问责

第三场审视使用技术护栏与 AI 辅助工作流时人工监督的作用。会议对「人工监督」(广义生命周期治理目标)与「人工介入 HITL」(具体实现:工作流推进前须等待人工动作)作了关键区分。人工监督关注的是:具备资质、可问责的人能否理解、质疑、干预、推翻、拒绝或上报。

监督应置于集成控制框架内,而非作为独立保障。护栏降低风险,但不能消除对与风险相称的人工监督或问责的需求。监督模型以错误决策影响、模型影响、不确定性、复杂性及重要性为标准,决定人工介入程度与允许的自主性水平。一个偏差管理用例说明:高风险影响、不确定性与复杂性多变的模型,即使 AI 影响起初偏信息性,人工介入程度也可能很高;随知识增长风险特征可能转变,允许更高自主性与更少人工介入,反之新风险出现则监督加强。问答聚焦于监督能否真正起作用:如何监测监督者表现、管理自动化偏倚、人工审阅者需何种能力与信息、回退 / 推翻如何验证、监督如何举证。回应指出培训、资质、知识测试、审计追踪、对 AI 输出与人工修改的记录、对人机团队表现的监测均可作为证据。会议支持 Annex 22 采用要求「有意义、基于风险且文件化」监督的措辞,而非默认、象征性或万能式人工介入。

对 Annex 22 的影响

Annex 22 应要求人工监督根据预期用途与 QRM 在控制策略中定义,区分监督、HITL、HOTL 监测、回退 / 推翻与问责。要求可包括培训、资质、文件化、可审计性,以及对监督有效性的定期评审。业界期望包含审阅者能够理解、质疑、干预的证据。

在微信查看原视频

议题 2(编号 1.4):技术可靠性与事件响应

这是当天技术含量最高的一场,考察护栏能否预防、检测或遏制幻觉、错误建议与捏造数据,以及失效应如何上报。演讲用五个用例(自适应 HVAC 控制、支持偏差管理的智能体 AI、为电子批记录提供 GMP 风险评估支持的 LLM、文本转 SQL 的数据提取、生物反应器补料的模型预测控制)说明层级控制模型:输入 / 预防控制、模型内 / 检测控制、输出 / 遏制控制,关联「瑞士奶酪」概念,单层不完美但多层叠加降低风险。

输入控制包括使用情境验证、分布外检测、语义验证与基于规则限值;模型内控制包括带引用绑定的检索增强生成、保形预测、不确定性量化、自一致性评分;输出控制包括硬性约束、置信度门控、CUSUM 控制图、人工门控、回退至已确认状态。关键讨论:护栏是针对特定风险的具体控制,不能假定为已知失效模式设计的控制也覆盖未预期失效模式。多位与会者质疑「护栏」一词是否应写入 Annex 22,行业建议主附件更宜用「控制机制」。讨论反映一致意见:主附件载明原则与目标(预防、检测、遏制),技术方法与用例更适合放在附录、问答或可更新载体。回退方面,HVAC 与生物反应器示例在失效或越界时回退至预先确认的控制状态;完全由模型运行的工艺可能没有此类经典回退,需在应急策略中考虑,有时接受停机即应急方案。

对 Annex 22 的影响

本讨论可能显著影响控制策略章节:要求层级控制与上报路径,同时避免详述任一技术方法。定义需涵盖控制机制、不可接受输出、失效模式、上报、回退、安全状态与监测阈值。业界期望控制的文件化确认、阈值证据与生命周期监测。

在微信查看原视频

议题 4(编号 1.5):验证与生命周期管理

第五场将验证与生命周期管理作为联通其他议题的集成框架,定位为六大支柱架构核心。验证应是生命周期过程,而非一次性事件。模型预期用途、设计假设、情境、数据、训练与验证策略,应界定验证深度与类型。风险因素包括不确定性、重要性、复杂性、AI 方法新颖性、供应商经验、模型局限、决策后果、可解释性、自主程度与自适应能力,这些因素决定验证活动、控制选择、证据要求、监测与再验证 / 变更触发。演讲强调用于验证 / 测试的数据应与开发训练数据独立。

问答中,监管者询问模型持续以运行数据再训练时如何保持独立性,回应是运用生命周期机制、既定样本、测试集、程序与控制保留独立验证手段;监测与变更控制触发条件决定何时追加验证或重新优化。供应商与云监督被关联到验证,因为受监管用户责任不可转移。可复用用例模式的概念浮现:针对相似 AI 用例类型开发风险模式并映射适用控制策略。会议强化 Annex 22 应要求文件化 AI 生命周期:预期用途、设计 / 确认、独立验证、验收标准、监测、变更控制、再验证 / 再确认、事件与问题管理、CAPA、供应商监督、定期风险评审。

对 Annex 22 的影响

验证会议可能影响生命周期控制、模型性能持续、再验证 / 再确认与变更管理文本。定义需包含生命周期验证、独立测试集、运行监测、模型漂移、重新优化、变更触发条件与控制有效性。业界期望一套与风险和预期用途相匹配的 AI 验证 / 确认包。

在微信查看原视频

议题 6(编号 1.6):网络安全与外包活动

最后一个议题,演讲者从「AI 系统由数据、模型、软件与硬件构成,从 GMP 角度看仍是计算机化系统」前提出发,主张既有 Annex 11 原则(尤其第 7 章外包活动)已为网络安全与供应商管理提供适当框架,并参考 NIS2、SOC 2、ISO 27000 系列及 EU AI Act 的网络安全引用。

两个核心信息:其一,只要 Annex 11 与适用网络安全标准得到妥善应用,AI 不须在 Annex 22 中另设独立网络安全制度,访问控制、审计追踪、供应商确认、持续监测、协议与法律安排均已被覆盖;其二,即便由第三方提供模型、平台或云基础设施,受监管药品用户仍对计算机化 / AI 系统负有责任,责任在运营层面可分担,但 GMP 用途下的问责仍归于受监管用户。供应商与云监督被详细讨论:协议必须厘清责任、配置预期、变更控制参与度、证据获取、审计 / 认证安排与控制透明度。对云与 AI 服务,用户应要求与控制、数据完整性、匿名化 / 最小化、零数据留存、机密计算、区域要求、联邦学习、数据防泄漏相关的证据。责任共担模型下,提供方与客户责任随 IaaS / PaaS / SaaS 模式而不同。问答聚焦难以物理审计大型云供应商时所需的客观保证证据,答案是借助 NIS2、SOC 2、ISO 27000 等认证合规信息评估契合度,不满足则另选方案。

对 Annex 22 的影响

Annex 22 可能以交叉引用方式援引 Annex 11 处理网络安全与外包,同时补充 AI 专用考量(证据、透明度、变更可见性、数据留存、机密计算、责任共担)。定义可能包含责任共担、第三方 AI 提供方、受监管用户问责、供应商证据与变更可见性。

在微信查看原视频

三、跨议题共性主题

所有会议浮现的共同主题,构成 Annex 22 起草的核心骨架:

文件化预期用途

稳健质量风险管理(ICH Q9)

生命周期验证与监测

与风险相称的人工监督

有效控制机制(预防、检测、遏制分层)

清晰问责,且不因使用 AI 而转移

供应商与云监督

可证明的可控状态

在评估用于 GMP 监管活动的 AI 系统时,不确定性、复杂性、模型影响与可检测性都是重要考量,且既有 GMP 原则(质量风险管理、验证、生命周期管理、监督、外包活动)对 AI 系统仍然相关且适用。

四、下一步

研讨会呈现的信息(含各参与行业协会计的统一答复)将由 Annex 22 起草小组认真审阅与考量。之后起草小组将评估跨六个议题的关键主题、通用方法、分歧领域与已识别挑战,用于指导 Annex 22 的持续修订,目标是建立基于科学、风险相称且可落地的框架,用于 AI 在 GMP 监管环境中的使用。必要时可开展额外的澄清与内部讨论,以确保修订后的指南在保护产品质量与患者安全,与技术创新的潜在收益之间取得恰当平衡。

延伸资料|报告双语对照 PDF

本报告的英文原文与中文对照完整版(20 页)已整理完毕,覆盖全部六个议题的原始表述。

获取方式:关注公众号后,切换到主页对话窗口,留言「EMA」,即可收到文件的下载地址。

资料来源:EMA, Good manufacturing practice (GMP) — Multistakeholder workshop on expert contributions to artificial intelligence guidance development (Annex 22), EMA/156789/2026, 30 June 2026(官方研讨会报告)。本内容为报告提炼,非官方译本,与英文原文有出入以原文为准。

来源:小南AI实验室 · mp.weixin.qq.com

事件后续 · 1

查看事件全部