ISPE 2025 年 GAMP 人工智能指南解读之定位篇
ISPE 人工智能指南解读(一)定位篇
作者对 ISPE 2025 年出版的 GAMP 人工智能指南作定位解读,指出该指南在第一章 §1.1 声明自身不是标准或法规,只提供支持判断的结构。指南全书 31 章、23 个附录,第一章 Table 1.1 按与 GAMP 5 的关系把内容分为三类,需精读的新增内容集中在 AI 特有主题。
QUOTE
这册指南没有提供通用的风险换算表和性能阈值,而是 把判断责任留给企业 ,并给出支持判断的结构。
—— ISPE GAMP® Guide: Artificial Intelligence(2025)解读
2025 年,ISPE 为人工智能单独出版了一册 GAMP 指南,全称 ISPE GAMP® Guide: Artificial Intelligence。全书 31 章、23 个附录 ,由 GAMP 软件自动化与人工智能特别兴趣组(SA & AI SIG)组织编写,参与者来自罗氏、阿斯利康、礼来、默沙东等企业,英国 MHRA 也有人员参与审阅。
GAMP 5 第二版在 2022 年发布时,已经讨论了敏捷、云计算和数据完整性。AI 又增加了哪些新问题,以至于需要 另写一册 ?答案不只是“多了模型测试”这么简单,还涉及术语、生命周期、数据治理和组织职责的调整。
本文看点
01
指南先声明自己“不是”什么
02
AI Act 的“有限风险”不等于低患者风险
03
五层术语与 validation set 的陷阱
01
NOT A STANDARD
先弄清它“不是”什么
第一章 §1.1 有一句需要特别注意的话:
REFERENCE · 第一章 §1.1
“This Guide is not a standard or regulation. Regulated companies need to establish policies and procedures to meet applicable regulatory requirements.”
指南还重申了 GAMP 5 的一贯立场:宣称公司、供应商或产品 “通过 GAMP 认证、获得 GAMP 批准、符合 GAMP” ,都是不恰当的。
引用这册指南,不等于满足了合规要求。它提供行业实践和论证思路,合规结论仍要由适用法规、监管要求以及企业自身的证据支撑。
后文提到的成熟度分级、控制措施和 PoC 要素,也都应当这样使用: 用于帮助判断和论证,而不是逐项打勾 。
02
BRIDGE
它是 GAMP 5 与 AI 之间的“桥”
前言用 bridge 描述这册指南的定位:连接 GAMP 5 的一般概念与 AI 的特性。落到文档结构上,就是 GAMP 5 已经充分讨论的内容不再重写 ,只补充 AI 场景下需要调整的部分。
第一章 Table 1.1 按附录与 GAMP 5 的关系,把内容分成三类:
类别 | 内容 |
|---|---|
通用主题延伸到 AI 场景 | QbD、供应商管理、科学风险管理、批判性思维、知识管理与 AI 素养、IT 基础设施、概念/项目/运维/退役四阶段、法规汇编 |
AI 特有主题 | 适配数据与数据质量、数据与模型治理、可信 AI、AI 成熟度、软硬件分类、AI 采纳挑战、ML 基础、可解释 AI、网络安全、AI 医疗器械 |
通用计算机化系统主题 | 验证规划、设计评审与可追溯、供应商质量规划、验证报告、项目配置与变更管理、文档与信息管理、标准对齐、系统描述、数据迁移、敏捷开发——这些明确指回 GAMP 5 处理 |
因此,阅读时不必从第 1 页顺翻到第 290 页。第三类主题仍以 GAMP 5 为主;这册指南需要精读的新增内容,主要集中在 第二类,以及第一类中因 AI 而调整的部分 。Table 1.1 可以当作查阅入口。
03
FRAMEWORKS
与哪些现有框架衔接
第一章 §1.1 列出了指南希望保持兼容的框架和标准:
ISO 9001 质量管理体系
ISO/IEC 42001(AI 管理体系)
IEC 62304(医疗器械软件生命周期)
ISO 14971(医疗器械风险管理)
ISO/IEC 23894(AI 风险管理指南)
ISO 12207(软件生命周期过程)
CMMI(能力成熟度模型)
CRISP-ML(Q)(ML 生命周期过程)
ITIL(IT 服务管理)
ASTM E2500(制药系统规范、设计与确认)
这份清单说明,指南希望为质量、IT、数据科学、工程和法规团队提供一套 可以共同使用的工作语言 。企业如果已经运行 ISO/IEC 42001 或 CMMI 等体系,也可以据此寻找对应关系,而不是另建一套相互平行的管理要求。
04
EU AI ACT
EU AI Act 与 GxP 的风险分级不能直接换算
第一章 §1.3 单独讨论 EU AI Act。该法规于 2024 年通过,指南提醒读者注意两套术语之间的差异,其中一句话尤其重要:
REFERENCE · 第一章 §1.3
“Even though terminology appears to be similar to established concepts in GxP areas, requirements should be carefully assessed when applying the EU AI Act. A system classified as limited risk per the EU AI Act may exhibit a high impact on patient safety, product quality, and data integrity.”
按 EU AI Act 判为“有限风险”(limited risk)的 AI 系统,仍可能对患者安全、产品质量和数据完整性产生高影响。
原因在于,两部体系关注的后果并不相同。EU AI Act 将风险分为不可接受、高风险、有限风险和最小风险,分别对应禁止、严格义务、透明度义务和自愿行为准则;GxP 评估则更直接地围绕 患者、产品和数据 展开。两者都可能使用“高”“低”“有限”等词,但不能据此相互推导。
指南也对主要角色作了对应:
provider(提供者)
通常对应本指南的 supplier(供应商);进口商和分销商一般也是供应商的特殊形式。
deployer(部署者)
通常对应受监管企业。
受监管企业并非永远只是 deployer
例如,将 AI 功能纳入自有医疗器械并上市时,企业在 AI Act 下可能同时承担 provider 的义务。
指南没有提供“AI Act 风险等级 → GxP 风险等级”的对照表,而是要求企业 结合具体要求分别评估 。AI Act 第 4 条关于 AI 素养(AI literacy)的要求,则贯穿全书,第六篇会进一步展开。
05
BUILDING BLOCKS
九块基石:五个继承,四个新增
第二章给出了全册的概念底座。GAMP 5 第二版的五个关键概念原样继承:
1
产品与工艺理解
2
QMS 内的生命周期方法
3
可扩展的生命周期活动
4
基于科学的质量风险管理(QRM)
5
借力供应商
在此之上,新增四个 AI 特有的概念:
6
质量源于设计(QbD)
7
适配数据与数据质量(Fit for Purpose Data and Data Quality)
8
数据与模型治理和管理(Data and Model Governance and Management)
9
知识管理(Knowledge Management)
五个原有概念加四项新增内容,构成指南所说的 九块基石 (building blocks)。
这套“5+4”的结构说明,GAMP 5 的五个基本概念仍然成立,只是需要在 AI 场景下重新理解;新增工作主要集中在 QbD、数据、模型治理和知识管理。
数据与模型治理应放在组织层面建设
而不是每个项目各自搭一套。否则,数据和模型难以跨项目复用,投入无法共享,风险也可能被割裂管理。
知识管理重点指向 AI 素养的持续建设
并且与风险管理相互关联。ICH Q9(R1) 修订的一个驱动因素,正是强化风险管理与知识管理之间的联系。
06
TERMINOLOGY
五层术语:先分清讨论的是哪一层
第二章 §2.4.4 定义了从模型到完整计算机化系统的五层嵌套关系:
层 | 名称 | 定义 |
|---|---|---|
最内层 | 模型(model) | 处理模型输入、产生模型输出的子程序;可以是 ML 模型,也可以是一套复杂规则 |
第二层 | AI 子系统(AI sub-system) | 模型+模型输入的预处理+模型输出的后处理(如适用) |
第三层 | AI 功能(AI function) | 一个或多个 AI 子系统+其他非 AI 模块(数据源、结果展示、用户交互) |
第四层 | AI 系统(AI system) | 组件/计算机系统层面,可含多个 AI 功能和非 AI 功能 |
最外层 | 含 AI 的计算机化系统 | 计算机化系统整体,可含多个 AI 系统、非 AI 计算机系统和附加组件 |
为了和非 AI 系统对照,指南还提出了 non-AI-enabled computerized system 这一表述。
这套分层直接影响 验证对象、供应商职责和变更范围 的界定。例如,采购一个内嵌 LLM 聊天机器人的标准产品(GAMP 第 3 类)时,模型由供应商提供,企业的工作重点在模型需求规范和模型测试;如果采用第 5 类定制应用,则还要覆盖模型设计规范、发布候选和集成测试等活动。第二篇讨论验证路径时,会继续使用这套分层。
07
VALIDATION SET
validation set 与 validation 不是同一个概念
第二章 §2.4.6 专门处理了一个容易混淆的术语: 生命科学中的 validation(验证),与数据科学中的 validation set,并不是同一个概念 。
验证(validation)
生命科学语境:确定计算机化系统适用于预期用途、并符合适用法规的所有活动。
确证(verification)
生命科学语境:通过客观证据确认规定要求已被满足。
验证集(validation set)
数据科学语境:用来在未见数据上评估模型表现,是增量开发的一部分,会被反复使用很多次,但不构成正式的确证活动。
测试集(test set)
迭代开发全部结束后,独立于训练集和验证集使用;把模型跑在测试集上得出 KPI,才算得上验证活动——本指南称之为模型测试(model testing)。
因此, validation data set 更准确地说是调参所用数据集 ,而不是 GxP 意义上的验证证据。部分机构使用 tuning data set;FDA 也使用 tuning data,并将训练集与调参集合称 development data。
指南同时明确:迭代实验期间的模型评估(model evaluation)不属于正式验证活动;模型测试需要使用独立的测试集。第四篇会结合测试设计进一步说明。
08
STATIC OR DYNAMIC
静态还是动态系统
第二章 §2.4.7 把系统按模型的适应性分成两类:
静态系统
模型固定在特定版本,参数不变,除非人工执行版本变更。
动态系统
嵌入的模型可以不经人工批准自动演化。
指南的判断很直白: 截至发布时,静态模型是主流 ,因为数据要求、基础设施要求、维持受控状态的验证工作量都更简单。
但动态设计在三种场景下值得考虑:
1
预期运行期会有新增案例数据能提升模型表现、扩展适用面
2
人机交互模式或需动态反映的信息(如治疗方案变化)会变
3
预期出现趋势性漂移,导致训练集和测试集不再具有代表性
代价是,动态设计除了模型本身,还要管理其增量学习路径,相应的验证活动也更复杂。指南同时提醒, EMA 不允许在关键性临床试验中使用动态系统 。因此,静态或动态的选择既是技术决策,也受 GxP 领域和法域约束,并会影响后续数据管道、需求规范和运维监控的设计。
09
AI CAPABILITIES
指南列举的六类 AI 能力
第二章 §2.4.1.2 列了 AI 的六类能力,可视作一张用例地图:
能力 | 指南给出的例子 | 落点 |
|---|---|---|
从非结构化数据中提取信息 | LLM 自动分类偏差、摘要文献与科学出版物 | 办公与质量场景 |
识别复杂模式 | 药物警戒中识别潜在不良反应、辅助匹配临床指南 | 安全信号 |
实时图像处理 | CNN(已发展到 50 层以上)用于灌装后已轧盖西林瓶的质量控制 | 生产线 |
管理复杂知识 | 语义分析辅助偏差根因分析(RCA) | 质量调查 |
决策支持 | 结合影像的风险评分 | 临床/诊断 |
生成类人内容 | 头脑风暴、标签与产品信息翻译、药物警戒案例信息抽取、复杂法规/SOP 库检索 | 全职能 |
这份清单可以帮助团队判断业务问题是否适合采用 AI。但反过来也要看到:如果问题不依赖这些能力,就不应仅因为技术热门而强行引入 AI,仍应先比较 规则、统计分析或其他常规方案 。
10
TRUSTWORTHY AI
可信 AI 七原则:指南采用的版本
第二章 §2.4.8 引了欧盟委员会 2019 年的可信 AI 伦理指南(七大要求),也引了澳大利亚政府的 AI 伦理原则,然后给出了本指南自己采用的一套七原则:
1
人类自主与控制(Human autonomy and control)
2
安全与保障(Safety and security)
3
公平与偏差缓解(Fairness and mitigation of bias)
4
隐私与数据保护(Privacy and data protection)
5
透明性(Transparency)
6
问责(Accountability)
7
可持续(Sustainability)
这套结构与欧盟的七项要求并不相同,对比如下:
欧盟七要求(2019) | 本指南七原则(2025) |
|---|---|
人类能动性与监督 | 人类自主与控制 |
技术稳健性与安全 | 安全与保障 |
隐私与数据治理 | 隐私与数据保护 |
透明性 | 透明性 |
多样性、非歧视与公平 | 公平与偏差缓解 |
社会与环境福祉 | 可持续 |
问责 | 问责 |
主要差别在于:欧盟的“隐私与数据治理”在这里调整为“隐私与数据保护”,数据治理另行纳入九块基石;“社会与环境福祉”则表述为“可持续”。这使它更便于在 GxP 工作中讨论和检查 ,而不只停留在伦理声明层面。
七条原则之间也可能冲突。例如,定义 AI 医疗器械的目标人群时,排除某些患者群体似乎不公平;但如果缺少该群体安全有效的证据,排除又可能是必要措施。指南没有给出统一答案,而是要求 多方参与、说明理由,并尽可能提供证据 。
∞
THE END
小结
AI 需要单独立册,不只是因为多了一种测试方法。
有三处是 GAMP 5 无法覆盖的:模型、AI 子系统与完整计算机化系统之间的 五层关系需要重新定义 ;数据与模型治理、AI 素养、成熟度管理超出了单个验证项目的边界;监管风险分级也不能从旧经验直接推导。
这册指南通篇没有给通用阈值、风险换算表或模板,而是 把判断责任留给企业 ,只提供判断所需的结构。下一篇看验证结构:两条生命周期如何衔接,Cat 3、Cat 4、Cat 5 三类路径分别要做什么。
END
来源:CSV-DI-AI实践录 · mp.weixin.qq.com