EMA就EU GMP附录22《人工智能》发布讨论报告，不再绝对禁止生成式AI

2026年10月2日，EMA发布了关于EU GMP 附录22《人工智能》的讨论报告。此前，该附录22草案曾表示：不适用于生成式AI和大语言模型（LLM）、概率输出模型、动态模型和自适应模型，并明确此类模型不应用于关键GMP应用。此次报告显示，已经反转：

反转，反对绝对禁止生成式AI：

此前，附录22草案版本曾规定："本文件不适用于生成式AI和大语言模型（LLM）、概率输出模型、动态模型以及性能自适应模型，此类模型不应在关键GMP应用中使用。"

此次报告中行业强烈反对仅按技术类别绝对禁止生成式AI、LLM、概率模型、自适应/动态模型用于GMP；报告表示：可接受性应逐案、考虑决策后果、模型影响、不确定性、复杂性，以及将残余风险降低到可接受水平的能力。基于预期用途和风险来评估。但这不是无条件允许——如果风险无法控制，QRM 的结论仍可以是“不使用”。

不确定性≠风险不可接受：

报告明确：不确定性应推动更多知识生成、更强的生命周期控制、更正式的验证、监测和再验证，而不是自动禁止。

生成式AI模型存在不确定性，但这并不等于它一定不可接受，不确定性本身不应成为“一刀切禁止”的理由；正确做法是：因为存在不确定性，所以要加强：

• 知识生成；

• 生命周期控制；

• 正式验证；

• 监控；

• 再验证；

• 是否可接受，取决于能否通过这些控制把风险降到可接受水平。

  
  

人工监督≠人机回圈：

报告表示：人工监督是贯穿生命周期的治理目标，人机回圈只是其中一种具体实现模式。人工监督必须与风险、自主性、不确定性和决策影响相称。

人类审查

报告表示：人类审查者不需要理解模型所有内部细节，但必须充分理解相关模型原则、流程、输出和决策背景，足以挑战AI。

讨论还承认，人类审查者可能面临操作压力或疲劳。但表示：这类风险不是AI特有，应通过现有GMP规定管理。

人类监督不能替代不充分的验证，控制有效性必须有证据。

如何在GMP检查中证明AI系统的人工监督有效？

检查中如何证明AI的人工监督有效？报告提到，可能的证据包括：

• 培训；

• 确认；

• 知识测试；

• 审计追踪；

• 记录AI输出和人类修改；

• 监控human-AI团队表现。

  
  

这些证据也可以用于应对自动化偏见、疲劳和瓶颈问题：

• 培训记录可证明审查者知道自动化偏见风险；

• 知识测试可证明审查者有能力挑战AI；

• 审计追踪可显示人类是否真正修改或拒绝了AI输出；

• 记录AI输出和人类修改可发现是否存在盲目接受；

• 监控human-AI团队表现可评估监督是否有效；

• 如果人在回路成为瓶颈，监控数据可能显示审查延迟、积压或形式化签字。