跳到正文
GMP-Verlag LOGFILE Feature·AI 评分60

在GMP环境中应用FDA七步模型开展AI/ML验证的一年回顾

Applying the FDA’s 7-Step Model for AI/ML Validation in GMP Environments: One Year Later

AI 导读

咨询顾问撰文回顾一年来应用FDA七步模型开展AI/ML验证的实践,提出将该模型映射为高层风险评估、可信度评估计划和可信度评估报告三份文档。文章提到FDA于2025年1月发布相关草案指南,EMA随后发布新的Annex 22草案,其中关键GMP应用不纳入概率性与动态模型,包括覆盖各类大语言模型的生成式AI。作者建议把AI/ML验证嵌入现有CSV流程,并为QA与数据科学人员提供交叉培训。

正文 · AI 翻译

在GMP环境中应用FDA的AI/ML验证七步模型:一年之后

07.09.2026

  • LOGFILE 专题

阅读时间 10 分钟 | 作者:Dr. Ulrich Köllisch(umk consulting GmbH 常务董事兼首席顾问)、Dr. Jennifer Roebber(GxP-CC 高级顾问)
发表于 LOGFILE 18/2026

人工智能在GMP监管环境中正变得越来越重要,给企业带来了新的监管挑战。本文总结了最新的监管动态,介绍了一个基于FDA七步模型的验证框架,并概述了AI/ML验证的初步实践经验。


概述

人工智能已成为所有企业中最具代表性、被反复提及的热词,企业面临着实施更快、更智能、更高效流程的巨大压力。这种压力同样存在于GMP监管环境中。然而,我们也看到相反的推动力,即一种认为AI/ML系统根本无法以合规方式验证和控制的世界观。过去两三年是实施新项目以及监管指南和最佳实践方法不断变化的“狂野西部”。在本文中,我们将回顾最新的监管动态,提出一个以FDA去年年初发布的七步方法[1]为指导的AI/ML子系统验证框架,并分享我们从首批真实AI/ML验证项目中获得的一些经验教训。


AI/ML系统:特征与验证挑战

过去一年的一大惊喜是涌现出的AI/ML工具和系统种类繁多。我们看到了处理各种数据的项目——从图像和文本到整个数据湖——以及表现出不同程度自主性和人机交互的模型。AI/ML始终是计算机系统框架内的软件子系统[6],或嵌入在设备之中,而不是脱离现有系统独立存在的东西。从这个意义上说,AI/ML验证方法往往类似于现有框架(例如CSV框架)的延伸,而非一种全新的范式。另一方面,这些项目都带来了现有“传统”工具中未曾见过的新挑战:我们需要扩展并重新思考数据完整性、测试和监测的具体细节,并应用定义AI/ML特殊性的新监管指南,例如:

  • 有限的可解释性(“黑箱”行为):
    取决于模型的复杂性和供应商的透明度,AI/ML模型的行为往往更难解释。
  • 概率模型:
    AI/ML模型可以以概率方式运行,这意味着相同的输入在重复运行中不会导致相同的输出。并非所有AI/ML模型都是如此!
  • 动态模型:
    AI/ML模型可能是动态的,这意味着模型会随着所提供的数据和反馈随时间而变化。并非所有AI/ML模型都是如此!

法规与指南

首先,FDA 于 2025 年 1 月发布了他们的指南草案 [1],其中引入了验证概念和术语的转变。FDA 没有使用“验证”一词,而是为其新框架选用了更具人文色彩的术语“可信度”或简称为“建立信任”。该框架由基于风险建立可信度的 7 步流程组成。有趣的是,该流程非常通用;它没有针对生成式 AI 等复杂 AI 系统作出特别规定,并强调在狭窄的使用场景内的可信度以及描述性文档以覆盖系统风险。在实施中,该方法整体上呈现出一套熟悉的质量保证方法,但在具体场景和风险评估复杂性方面缺乏一些细节和细微差别。

我们在 EMA 的指南草案中看到了不同的侧重点:在 FDA 发布其框架仅 6 个月后,EMA 发布了新的附录 22 草案 [4]——一个完全针对 AI 的新附录。他们的方法不同于 FDA,更具规定性。在这份初始草案中,不同的 AI 系统从一开始就被划定范围:对于关键 GMP 应用,概率模型和动态模型不在范围内。概率模型包括生成式 AI,涵盖所有大型语言模型。其逻辑很明确:这些系统违反变更控制和测试原则,将需要一种更细致的方法并辅以高水平的专家审查。目前,EMA 认为这些风险太大,不允许用于关键情形,但表示随着草案的修订,这一思路可能会有所更新。

尽管方法各异,监管机构已反复强调他们对总体实施新技术、特别是 AI 和机器学习系统的积极态度。从 FDA 方面,我们看到了关于在 ELSA 4.0 应用中实施 AI 平台使用以提升机构效率的出版物 [11]。这与 FDA 总体 CGMP 要求 [9] 非常契合,该要求强调应使用当前技术来改进工艺质量。

图 1 | 针对 AI 的监管指南得到行业标准现行最佳实践的支持。AI 政策源自行业内长期存在的质量框架原则。


验证概念

各指南以及此后发布的大量行业最佳实践(见引文,图 1)的一个共同主题是:AI/ML 子系统的验证最好从采用修改后的风险框架方法开始。

我们对底层风险管理的理解是:与其检查每一种可能的系统排列并寻找明确的监管声明,不如使用指导性的核心原则。其中一个备受青睐的原则是附录 11 [2](最近在修订版 [3] 中再次重申)的声明:“当系统实现计算机化或更新时——工艺的总体风险不应增加”。我们将其与 ICH Q9 (R1) [5] 用于识别和处理风险的体系相结合:

  • 首先识别工艺中的危害,然后评估、评价并缓解风险
  • 一旦完成上述工作,基于产品质量、患者安全和产品供应做出透明的风险决策就会直接得多。
  • 识别并评估由使用 AI/ML 子系统专门引入的风险(在您现有的风险管理流程内)。

随着 AI/ML 子系统被整合进更大的计算机化系统,我们建议将 AI/ML 验证流程嵌入现有的 CSV 相关规程中,而不是制定一套单独的“AI 专用”政策。无论规模大小,AI 系统始终嵌入在更大的运行环境中,并与其他软件、硬件、人员和规程发生交互。正如我们从 ICH Q9、附录 11/15 以及 EU GMP 第 4 章(文件)中所知,更大且往往不那么明显的风险来自系统、规程和人员之间的交互。一体化政策能更有效地管理这些交互。

图 2 | 使用 FDA 模型建立可信度的 7 步方法。


走完这 7 个步骤

图 2 展示了 FDA 提出的用于在模型中建立可信度的 7 步方法,并结合我们提出的框架,将这七个步骤映射到三份文件:高层风险评估(HLRA)、可信度评估计划(CAP)和可信度评估报告(CAR)。在将这一模型应用于实际验证项目一年之后,我们得出以下要点:

  • 高层风险评估(上图中的漏斗):建议将 FDA 流程的前三个步骤合并为一份文件。这样做的目的是在验证流程的极早期就确定该用例是否可接受,并根据所识别的风险分类确定整体验证工作量。它可用于在过度投入某一特定场景之前,判断范围是否过宽,或模型风险是否过高。然而,即使只是进行非常高层级的检查,我们也发现 FDA 的风险类别方法过于简单化:大多数模型都落入定义不清的“中等风险”类别,且没有明确的后续步骤。我们发现,流程和数据流映射是任何有意义的风险评估的前提条件。这有助于促成对预期用途(即关注的问题和使用场景)的共同理解。总体而言,需要将拟议预期用途的关键性与模型的脆弱性(见图 2)结合起来,才能理解整体风险。这种方法能为某些模型(例如概率/动态模型)识别出更高的风险类别,并说明风险来自何处。例如,一个因动态模型而产生高脆弱性的模型,可以通过更多的模型审查和更低的自主性来缓解。文献 [8] 和 [6] 中也提出了类似的方法。由于在项目开始时可能需要整理完整的开发数据集,而且使用场景(例如人工交互的程度)可能尚未最终确定,因此对于 AI/ML 子系统而言,规划和项目阶段本质上是迭代/敏捷的。
  • 可信度评估计划:本步骤的目的是制定计划并记录模型如何(或如何不)解决特定于 AI/ML 子系统的风险问题。在监管指南中,FDA 和 EMA 分别列出了需要考虑的模型特定主题章节,这些要求和场景可以纳入检查清单。在应用中,我们发现本步骤最好作为一项由多学科团队(如适用,包括技术供应商)参与的练习来实施,并讨论哪些方面与范围内的项目相关。CAP 可以按照 AI/ML 子系统的生命周期步骤进行排序,并提供一份出色的路线图,用于识别、评估并向不同利益相关方以及检查员和审计员解释危害及其相关风险。其结果输入验证项目并影响不同文件:特别是 URS 和功能风险评估,并由此在“常规”验证项目中控制需求、危害及相关风险。同样,迭代方法在实际应用中已被证明最有裨益,因为并非所有与 CAP 相关的信息都能预先获得。实施设计可能需要根据初始可信度评估的结果进行更改(例如,选择技术供应商;增加护栏和监控概念以确保严格运行)。
  • 可信度评估报告:本步骤的目的是记录所执行的活动(例如,设计决策、测试和程序控制)与 CAP 中所述计划活动的对比。因此,验证活动发生在 CAP 和 CAR 之间,而报告通常在项目很晚的阶段、在验证报告关闭之前完成。我们发现本步骤通常起到最终检查的作用:任何与 CAP 的偏差都需要由 QMS 管理。
  • FDA 指南的最后一步是充分性确定:AI 模型对其预期用途是否可信?这可以直接在 CAP 中回答,也可以正式纳入验证报告。

经验教训

在应用这一七步模型时,我们发现以下主要经验教训:

用户需求:

  • 尽早准备好你的需求:系统需要在哪些类别中实现可衡量的改进?业务所需的阈值是什么?如果整体风险不能增加(根据附录 11),URS 必须显示与现有值相比有所改进(或至少相同水平)。如果这些数字从一开始就无法获得,就无法做出采购、设计和验证的决策。
  • 机器学习模型“只是”数学模型,不可能完美。总是存在权衡——URS 应该偏向高严格性,还是这会使业务案例不可行(例如,目视检查中过高的误剔除率)?

人工审核/复核是一种非常常见的缓解措施,但是

  • 在该用例中,人工审核真的可能且合理吗?(例如,高通量)
  • 人机团队是否有可能更好地协同工作?例如:LLM 输出表述良好且听起来合理——但却是错误或不完整的:人类真的能发现这个错误吗

供应商管理:

  • 与供应商的早期沟通是了解可选方案、其产品及所用模型的关键。早期沟通有助于为选择正确的供应商和正确的产品提供决策依据。要质疑供应商的说法,例如用具有挑战性的测试用例来验证。
  • 让供应商参与 CAP 的开发,并将专门的问题纳入审计或供应商评审中。

AI/ML 培训

  • QA 必须在 AI/ML 基础知识方面提升技能,以便能够进行充分的基于风险的决策。在 AI/ML 子系统中,风险场景和类别发生了变化,更加侧重于数据,并且数据治理和数据管理的重要性增强。
  • 在存在不确定性的情况下,监管机构(尤其是 FDA)强调,公司应主动联系,甚至在项目早期就进行沟通,以讨论该项目。

结论

总之,在不断演变的监管环境中,我们发现 AI/ML 子系统验证已成功实施并接受检查,其方法是结合 Annex 11 和 ICH Q9 中众所周知的验证原则主干,以及针对 AI/ML 子系统及其相关风险的专门文档。多学科团队的互动以及利益相关方的培训——例如向 QA 教授 AI/ML 原则、向数据科学家教授 QA 和 CSV 原则——是成功实施的关键。


参考文献

[1] 关于使用人工智能支持药品和生物制品监管决策的考量;FDA;2025

[2] Eudralex 第4卷 药品生产质量管理规范 人用和兽用药品;附录11 计算机化系统;2011

[3] 指南草案:修订版附录11 – 计算机化系统;EMA;2025

[4] 指南草案:新附录22 – 人工智能;EMA;2025

[5] ICH Q9(修订版1)质量风险管理;ICH;2023

[6] ISPE GAMP® 人工智能指南;ISPE;2025

[7] VDI/VDE-EE3516 第7部分:GxP 领域的验证 - 制药行业中机器学习方法的使用;VDI;2024

[8] Blumenthal 等;机器学习风险与控制框架;Pharmaceutical Engineering,2024

[9] 现行药品生产质量管理规范(CGMP)事实;FDA;2025

[10] 药物开发中良好人工智能实践指导原则;FDA/EMA;2026

[11] FDA 新闻稿:FDA 扩展人工智能能力并完成数据平台整合;2026年5月


您有任何问题或建议吗?请通过以下方式联系我们:redaktion@gmp-verlag.de

相关产品

跳过产品图库

GMP Compliance Adviser | Named User Licence | 12M

GMP Compliance Adviser | 指定用户许可 | 12M

使用具名用户许可证时,一名用户可以访问知识门户;使用企业许可证时,任意数量的用户均可访问。约 5,000 页实用 GMP 知识,配有插图和表单:可在工作场所快速实施的实用指南符合 GMP 的系统的详细说明国际法规和指南通过定期更新始终保持最新 下载优势与价格60 多份示例文档此外,GMP Compliance Adviser 还包含 60 多份示例文档(MS Office)和实用示例,供您使用。示例 SOP示例表单示例报告示例文档检查清单流程图(流程图)QRM 应用实用示例(例如风险分析)确认和验证的示例文档案例研究由 80 多位具有直接相关行业实践经验的作者撰写由 80 多位专家组成的团队解读监管要求,并描述其在实践中的实施方式。这些作者在制药行业、咨询和政府部门方面经验丰富。

收到付款后立即交付

€1,368.00 不含增值税净价

GMP:KnowHow Pharma Logistics (GDP) | Named User Licence | 12M

GMP:KnowHow Pharma Logistics (GDP) | 具名用户许可证 | 12M

您面向符合GDP的药品物流的知识门户。 无论您是物流服务提供商,还是制药行业的客户,遵守监管要求都至关重要。GMP:KnowHow知识门户将引导您了解制药和物流供应链中复杂的监管环境!该知识门户以通俗易懂的方式为您概述所有重要主题。交互式图形帮助您浏览EU GDP指南(2013/C 343/01)涵盖的所有领域。您还可以直接获取每个主题的相关法规段落。这样您就可以直接比较各项要求,节省宝贵的研究时间。有一点是肯定的:该知识门户能解答您关于药品、原料药和医疗器械供应链的问题。您不必是专家。暂时还不是。您将在GMP:KnowHow Pharma Logistics (GDP)中找到问题的答案。 GDP从哪里开始,GMP在哪里结束?符合GDP意味着什么? 我什么时候还必须考虑GMP要求? 某些活动需要哪些许可? 我必须满足哪些要求? 当前的法律依据是什么? 我如何获得保障? 我的工作有哪些授权,例如来自雇主的授权? 谁负责——客户还是承包商? 以及更多 与GMP Compliance Adviser有何区别? GMP:KnowHow Pharma Logistics (GDP)是一个专注于药品优良运销规范(GDP)的实用知识门户。它是一个独立于GMP Compliance Adviser的产品,专注于对药品、原料药和医疗器械承运商以及物流客户至关重要的内容。重点在于实用知识以及如何在日常业务中应用这些知识。如有需要,可以立即调取实用知识旁边的相关法规,相关段落一目了然。 此外,还提供示例文档,帮助您立即取得进展。 作者Simone Ferrante,现任Fisher Clinical Services质量总监,此前曾担任Grieshaber Group的质量控制负责人和负责人(GDP)。她也是GMP-Verlag的长期作者和GDP专家。

付款后立即发货

€610.00 净价,不含增值税

E-Learning GMP:READY | Specialist Knowledge GMP for Engineers

E-Learning GMP:READY | 面向工程师的GMP专业知识

为什么GMP规则对技术员和工程师很重要? 技术员和工程师在确保符合药品生产质量管理规范(GMP)标准方面发挥着关键作用。他们参与以下关键活动: 通风系统的规划与建设, 水处理设备的维护, 测量传感器的校准。 因此,他们共同对药品质量负责,必须确保其工作符合GMP标准。您的优势: 约2小时快速熟悉GMP主题, 不受时间和地点限制的在线培训, 可打印的个人证书, 12个月访问权限,用于初次培训和后续培训, 法律变更时自动更新,内容符合2003/94/EC指令第7(4)条。作者 本在线学习课程由Dipl.-Ing. Andreas Nuhn(D & B Pharmadesign GmbH)协作开发。

收到付款后约2-5个工作日交货

€245.00 净价,不含增值税

GMP Fundamentals | A Step-by-Step Guide

GMP基础 | 分步指南

本手册是一本实用且易于阅读的指南,无需事先具备知识,即可让您快速、全面地了解药品生产质量管理规范(GMP)的复杂世界。 部分主题包括: GMP:目的和基本制药术语 法律、许可证和检查 人员:责任与卫生 标准操作规程(SOP)和文件记录 房间和设施的设计 加工和包装 质量控制和上市放行 供应商、仓储和物流(药品优良运销规范 = GDP) 字母索引和缩写 通过实际示例以及与日常生活的比较,将有助于轻松理解GMP法规。GMP基础是一本有用的指南,有助于进入GMP世界并教授必要的基础知识。

收到付款后立即交货

€44.90 净价,不含增值税

来源:GMP-Verlag LOGFILE Feature · gmp-publishing.com