跳到正文
CSV-DI-AI实践录· ZzzBin·· 13 天前AI 评分68

ISPE 2025 年 GAMP 人工智能指南解读之定位篇

ISPE 人工智能指南解读(一)定位篇

AI 导读

作者对 ISPE 2025 年出版的 GAMP 人工智能指南作定位解读,指出该指南在第一章 §1.1 声明自身不是标准或法规,只提供支持判断的结构。指南全书 31 章、23 个附录,第一章 Table 1.1 按与 GAMP 5 的关系把内容分为三类,需精读的新增内容集中在 AI 特有主题。

正文

QUOTE

这册指南没有提供通用的风险换算表和性能阈值,而是 把判断责任留给企业 ,并给出支持判断的结构。

—— ISPE GAMP® Guide: Artificial Intelligence(2025)解读

2025 年,ISPE 为人工智能单独出版了一册 GAMP 指南,全称 ISPE GAMP® Guide: Artificial Intelligence。全书 31 章、23 个附录 ,由 GAMP 软件自动化与人工智能特别兴趣组(SA & AI SIG)组织编写,参与者来自罗氏、阿斯利康、礼来、默沙东等企业,英国 MHRA 也有人员参与审阅。

GAMP 5 第二版在 2022 年发布时,已经讨论了敏捷、云计算和数据完整性。AI 又增加了哪些新问题,以至于需要 另写一册 ?答案不只是“多了模型测试”这么简单,还涉及术语、生命周期、数据治理和组织职责的调整。

本文看点

01

指南先声明自己“不是”什么

02

AI Act 的“有限风险”不等于低患者风险

03

五层术语与 validation set 的陷阱

01

NOT A STANDARD

先弄清它“不是”什么

第一章 §1.1 有一句需要特别注意的话:

REFERENCE · 第一章 §1.1

“This Guide is not a standard or regulation. Regulated companies need to establish policies and procedures to meet applicable regulatory requirements.”

指南还重申了 GAMP 5 的一贯立场:宣称公司、供应商或产品 “通过 GAMP 认证、获得 GAMP 批准、符合 GAMP” ,都是不恰当的。

引用这册指南,不等于满足了合规要求。它提供行业实践和论证思路,合规结论仍要由适用法规、监管要求以及企业自身的证据支撑。

后文提到的成熟度分级、控制措施和 PoC 要素,也都应当这样使用: 用于帮助判断和论证,而不是逐项打勾 。

02

BRIDGE

它是 GAMP 5 与 AI 之间的“桥”

前言用 bridge 描述这册指南的定位:连接 GAMP 5 的一般概念与 AI 的特性。落到文档结构上,就是 GAMP 5 已经充分讨论的内容不再重写 ,只补充 AI 场景下需要调整的部分。

第一章 Table 1.1 按附录与 GAMP 5 的关系,把内容分成三类:

类别

内容

通用主题延伸到 AI 场景

QbD、供应商管理、科学风险管理、批判性思维、知识管理与 AI 素养、IT 基础设施、概念/项目/运维/退役四阶段、法规汇编

AI 特有主题

适配数据与数据质量、数据与模型治理、可信 AI、AI 成熟度、软硬件分类、AI 采纳挑战、ML 基础、可解释 AI、网络安全、AI 医疗器械

通用计算机化系统主题

验证规划、设计评审与可追溯、供应商质量规划、验证报告、项目配置与变更管理、文档与信息管理、标准对齐、系统描述、数据迁移、敏捷开发——这些明确指回 GAMP 5 处理

因此,阅读时不必从第 1 页顺翻到第 290 页。第三类主题仍以 GAMP 5 为主;这册指南需要精读的新增内容,主要集中在 第二类,以及第一类中因 AI 而调整的部分 。Table 1.1 可以当作查阅入口。

03

FRAMEWORKS

与哪些现有框架衔接

第一章 §1.1 列出了指南希望保持兼容的框架和标准:

ISO 9001 质量管理体系

ISO/IEC 42001(AI 管理体系)

IEC 62304(医疗器械软件生命周期)

ISO 14971(医疗器械风险管理)

ISO/IEC 23894(AI 风险管理指南)

ISO 12207(软件生命周期过程)

CMMI(能力成熟度模型)

CRISP-ML(Q)(ML 生命周期过程)

ITIL(IT 服务管理)

ASTM E2500(制药系统规范、设计与确认)

这份清单说明,指南希望为质量、IT、数据科学、工程和法规团队提供一套 可以共同使用的工作语言 。企业如果已经运行 ISO/IEC 42001 或 CMMI 等体系,也可以据此寻找对应关系,而不是另建一套相互平行的管理要求。

04

EU AI ACT

EU AI Act 与 GxP 的风险分级不能直接换算

第一章 §1.3 单独讨论 EU AI Act。该法规于 2024 年通过,指南提醒读者注意两套术语之间的差异,其中一句话尤其重要:

REFERENCE · 第一章 §1.3

“Even though terminology appears to be similar to established concepts in GxP areas, requirements should be carefully assessed when applying the EU AI Act. A system classified as limited risk per the EU AI Act may exhibit a high impact on patient safety, product quality, and data integrity.”

按 EU AI Act 判为“有限风险”(limited risk)的 AI 系统,仍可能对患者安全、产品质量和数据完整性产生高影响。

原因在于,两部体系关注的后果并不相同。EU AI Act 将风险分为不可接受、高风险、有限风险和最小风险,分别对应禁止、严格义务、透明度义务和自愿行为准则;GxP 评估则更直接地围绕 患者、产品和数据 展开。两者都可能使用“高”“低”“有限”等词,但不能据此相互推导。

指南也对主要角色作了对应:


provider(提供者)

通常对应本指南的 supplier(供应商);进口商和分销商一般也是供应商的特殊形式。


deployer(部署者)

通常对应受监管企业。


受监管企业并非永远只是 deployer

例如,将 AI 功能纳入自有医疗器械并上市时,企业在 AI Act 下可能同时承担 provider 的义务。

指南没有提供“AI Act 风险等级 → GxP 风险等级”的对照表,而是要求企业 结合具体要求分别评估 。AI Act 第 4 条关于 AI 素养(AI literacy)的要求,则贯穿全书,第六篇会进一步展开。

05

BUILDING BLOCKS

九块基石:五个继承,四个新增

第二章给出了全册的概念底座。GAMP 5 第二版的五个关键概念原样继承:

1

产品与工艺理解

2

QMS 内的生命周期方法

3

可扩展的生命周期活动

4

基于科学的质量风险管理(QRM)

5

借力供应商

在此之上,新增四个 AI 特有的概念:

6

质量源于设计(QbD)

7

适配数据与数据质量(Fit for Purpose Data and Data Quality)

8

数据与模型治理和管理(Data and Model Governance and Management)

9

知识管理(Knowledge Management)

五个原有概念加四项新增内容,构成指南所说的 九块基石 (building blocks)。

这套“5+4”的结构说明,GAMP 5 的五个基本概念仍然成立,只是需要在 AI 场景下重新理解;新增工作主要集中在 QbD、数据、模型治理和知识管理。


数据与模型治理应放在组织层面建设

而不是每个项目各自搭一套。否则,数据和模型难以跨项目复用,投入无法共享,风险也可能被割裂管理。


知识管理重点指向 AI 素养的持续建设

并且与风险管理相互关联。ICH Q9(R1) 修订的一个驱动因素,正是强化风险管理与知识管理之间的联系。

06

TERMINOLOGY

五层术语:先分清讨论的是哪一层

第二章 §2.4.4 定义了从模型到完整计算机化系统的五层嵌套关系:

层

名称

定义

最内层

模型(model)

处理模型输入、产生模型输出的子程序;可以是 ML 模型,也可以是一套复杂规则

第二层

AI 子系统(AI sub-system)

模型+模型输入的预处理+模型输出的后处理(如适用)

第三层

AI 功能(AI function)

一个或多个 AI 子系统+其他非 AI 模块(数据源、结果展示、用户交互)

第四层

AI 系统(AI system)

组件/计算机系统层面,可含多个 AI 功能和非 AI 功能

最外层

含 AI 的计算机化系统

计算机化系统整体,可含多个 AI 系统、非 AI 计算机系统和附加组件

为了和非 AI 系统对照,指南还提出了 non-AI-enabled computerized system 这一表述。

这套分层直接影响 验证对象、供应商职责和变更范围 的界定。例如,采购一个内嵌 LLM 聊天机器人的标准产品(GAMP 第 3 类)时,模型由供应商提供,企业的工作重点在模型需求规范和模型测试;如果采用第 5 类定制应用,则还要覆盖模型设计规范、发布候选和集成测试等活动。第二篇讨论验证路径时,会继续使用这套分层。

07

VALIDATION SET

validation set 与 validation 不是同一个概念

第二章 §2.4.6 专门处理了一个容易混淆的术语: 生命科学中的 validation(验证),与数据科学中的 validation set,并不是同一个概念 。


验证(validation)

生命科学语境:确定计算机化系统适用于预期用途、并符合适用法规的所有活动。


确证(verification)

生命科学语境:通过客观证据确认规定要求已被满足。


验证集(validation set)

数据科学语境:用来在未见数据上评估模型表现,是增量开发的一部分,会被反复使用很多次,但不构成正式的确证活动。


测试集(test set)

迭代开发全部结束后,独立于训练集和验证集使用;把模型跑在测试集上得出 KPI,才算得上验证活动——本指南称之为模型测试(model testing)。

因此, validation data set 更准确地说是调参所用数据集 ,而不是 GxP 意义上的验证证据。部分机构使用 tuning data set;FDA 也使用 tuning data,并将训练集与调参集合称 development data。

指南同时明确:迭代实验期间的模型评估(model evaluation)不属于正式验证活动;模型测试需要使用独立的测试集。第四篇会结合测试设计进一步说明。

08

STATIC OR DYNAMIC

静态还是动态系统

第二章 §2.4.7 把系统按模型的适应性分成两类:


静态系统

模型固定在特定版本,参数不变,除非人工执行版本变更。


动态系统

嵌入的模型可以不经人工批准自动演化。

指南的判断很直白: 截至发布时,静态模型是主流 ,因为数据要求、基础设施要求、维持受控状态的验证工作量都更简单。

但动态设计在三种场景下值得考虑:

1

预期运行期会有新增案例数据能提升模型表现、扩展适用面

2

人机交互模式或需动态反映的信息(如治疗方案变化)会变

3

预期出现趋势性漂移,导致训练集和测试集不再具有代表性

代价是,动态设计除了模型本身,还要管理其增量学习路径,相应的验证活动也更复杂。指南同时提醒, EMA 不允许在关键性临床试验中使用动态系统 。因此,静态或动态的选择既是技术决策,也受 GxP 领域和法域约束,并会影响后续数据管道、需求规范和运维监控的设计。

09

AI CAPABILITIES

指南列举的六类 AI 能力

第二章 §2.4.1.2 列了 AI 的六类能力,可视作一张用例地图:

能力

指南给出的例子

落点

从非结构化数据中提取信息

LLM 自动分类偏差、摘要文献与科学出版物

办公与质量场景

识别复杂模式

药物警戒中识别潜在不良反应、辅助匹配临床指南

安全信号

实时图像处理

CNN(已发展到 50 层以上)用于灌装后已轧盖西林瓶的质量控制

生产线

管理复杂知识

语义分析辅助偏差根因分析(RCA)

质量调查

决策支持

结合影像的风险评分

临床/诊断

生成类人内容

头脑风暴、标签与产品信息翻译、药物警戒案例信息抽取、复杂法规/SOP 库检索

全职能

这份清单可以帮助团队判断业务问题是否适合采用 AI。但反过来也要看到:如果问题不依赖这些能力,就不应仅因为技术热门而强行引入 AI,仍应先比较 规则、统计分析或其他常规方案 。

10

TRUSTWORTHY AI

可信 AI 七原则:指南采用的版本

第二章 §2.4.8 引了欧盟委员会 2019 年的可信 AI 伦理指南(七大要求),也引了澳大利亚政府的 AI 伦理原则,然后给出了本指南自己采用的一套七原则:

1

人类自主与控制(Human autonomy and control)

2

安全与保障(Safety and security)

3

公平与偏差缓解(Fairness and mitigation of bias)

4

隐私与数据保护(Privacy and data protection)

5

透明性(Transparency)

6

问责(Accountability)

7

可持续(Sustainability)

这套结构与欧盟的七项要求并不相同,对比如下:

欧盟七要求(2019)

本指南七原则(2025)

人类能动性与监督

人类自主与控制

技术稳健性与安全

安全与保障

隐私与数据治理

隐私与数据保护

透明性

透明性

多样性、非歧视与公平

公平与偏差缓解

社会与环境福祉

可持续

问责

问责

主要差别在于:欧盟的“隐私与数据治理”在这里调整为“隐私与数据保护”,数据治理另行纳入九块基石;“社会与环境福祉”则表述为“可持续”。这使它更便于在 GxP 工作中讨论和检查 ,而不只停留在伦理声明层面。

七条原则之间也可能冲突。例如,定义 AI 医疗器械的目标人群时,排除某些患者群体似乎不公平;但如果缺少该群体安全有效的证据,排除又可能是必要措施。指南没有给出统一答案,而是要求 多方参与、说明理由,并尽可能提供证据 。

∞

THE END

小结

AI 需要单独立册,不只是因为多了一种测试方法。

有三处是 GAMP 5 无法覆盖的:模型、AI 子系统与完整计算机化系统之间的 五层关系需要重新定义 ;数据与模型治理、AI 素养、成熟度管理超出了单个验证项目的边界;监管风险分级也不能从旧经验直接推导。

这册指南通篇没有给通用阈值、风险换算表或模板,而是 把判断责任留给企业 ,只提供判断所需的结构。下一篇看验证结构:两条生命周期如何衔接,Cat 3、Cat 4、Cat 5 三类路径分别要做什么。


END

来源:CSV-DI-AI实践录 · mp.weixin.qq.com