跳到正文
ISPE iSpeak 专家博客·AI 评分43

EU GMP Annex 22 是否会对遗留人工智能系统设祖父条款?来自 21 CFR Part 11 的经验

Will EU GMP Annex 22 Include Grandfathering for Legacy Artificial Intelligence Systems? Lessons from 21 CFR Part 11

AI 导读

ISPE 博客探讨 EU GMP Annex 22 尚未定稿之际,遗留 AI 系统能否参照 21 CFR Part 11 的实施经验获得过渡期或祖父条款。文章指出,FDA 当年未要求企业替换既有计算机化系统,而是通过评估、整改、再验证和基于风险的逐步合规实现过渡;祖父条款预计只是额外过渡时间,而非永久豁免。

正文 · AI 翻译

在法规可强制执行之前,已经在运行的人工智能系统会怎样?

这并不是一个新的监管挑战。当 21 CFR Part 11 引入对电子记录和电子签名的要求时,也出现过类似的问题。虽然 Annex 22 尚未定稿,但 Part 11 的实施为监管机构可能如何对待遗留人工智能系统提供了有用的参考。

回顾:21 CFR Part 11 当时发生了什么?

当美国食品药品监督管理局(US FDA)引入 21 CFR Part 11 时,制药行业已经部署了数千个支持生产、实验室运营、质量管理和临床研究的计算机化系统。

考虑到立即合规在运营上的复杂性,US FDA 采取了务实的实施方式。监管机构并未要求企业更换现有系统,而是期望企业对自身系统进行评估、识别合规差距,并逐步实施适当的控制措施。

典型活动包括:

  • 对照新的监管期望评估现有计算机化系统
  • 整改已识别的合规差距
  • 必要时对系统进行再验证
  • 在升级和重大系统变更期间应用 Part 11 控制措施

这种基于风险的策略使企业能够在保持业务连续性的同时逐步提升合规水平。

Annex 22 会采取类似的做法吗?

尽管 EU GMP Annex 22 的最终版本尚未发布,但许多监管专业人士预计,其实施可能会遵循类似的务实过渡策略。

更换目前支持药品生产、质量运营、实验室、供应链活动和临床流程的每一个人工智能系统,将带来重大的运营和财务挑战。因此,监管机构可能会考虑为遗留人工智能系统提供过渡期——或某种形式的祖父条款。

然而,祖父条款不应被解读为永久豁免合规。根据以往的监管经验,它更可能意味着为企业提供额外时间,通过结构化的整改和治理来实现合规。

祖父条款对遗留人工智能系统可能意味着什么?

如果 Annex 22 包含过渡条款,企业仍应预期需要证明现有 AI 系统在其整个生命周期中得到了适当控制。

潜在的监管期望可能包括:

  • 维护 AI 赋能系统的全面清单
  • 根据预期用途和 GxP 影响对 AI 应用进行分类
  • 开展有记录的风险评估
  • 维护描述模型用途、训练数据、假设和已知局限性的文档
  • 建立人工监督和明确界定的问责机制
  • 在运营生命周期内监测模型性能
  • 通过正式变更控制管理模型更新
  • 对第三方 AI 供应商和供货商进行资质确认和监督

祖父条款很可能不是豁免遗留系统,而是为企业提供一条结构化路径,使现有部署逐步符合 Annex 22 的期望。

AI 需要持续的生命周期管理

与传统软件应用不同,AI 系统会引入随时间演变的动态风险。

示例包括:

  • 模型漂移
  • 数据漂移
  • 算法偏见
  • 可解释性降低
  • 随着运行条件变化而出现的性能下降

这些特征将 AI 与传统计算机化系统区分开来,并进一步凸显了持续治理而非一次性验证的必要性。因此,预计 Annex 22 将更加强调生命周期管理、持续监测和定期重新评估。

已经实施 AI 解决方案的组织应立即开始记录治理流程,而不是等到该法规成为强制性要求。

为 Annex 22 做准备(当下)

无论最终的过渡条款如何,组织都可以采取若干实际步骤来加强 AI 治理并提升未来的监管准备度:

  • 建立 AI 系统的完整清单。
  • 根据 GxP 影响和患者风险对 AI 应用进行分类。
  • 建立 AI 治理框架,明确角色与职责。
  • 实施涵盖监测、审查和变更控制的生命周期管理程序。
  • 为 AI 支持的决定定义人工监督要求。
  • 优先对较高风险的遗留 AI 系统开展整改活动。

这些活动符合既定的质量风险管理原则,将帮助组织为未来的 Annex 22 期望做好准备,无论具体实施时间表如何。

结论

21 CFR Part 11 的实施表明,监管机构认识到在复杂的制药环境中引入重大监管变更所面临的现实情况。合规并非要求立即更换遗留系统,而是通过分阶段评估、整改和基于风险的实施来实现。

EU GMP Annex 22 可能会呈现类似的理念,尽管最终监管要求仍在制定中。如果包含祖父条款,其很可能为组织提供过渡时间——而非永久豁免合规。

主动建立 AI 清单、治理框架、生命周期管理实践和基于风险的整改计划的组织,将在 Annex 22 可强制执行时更有能力证明合规并保持检查准备状态。

免责声明

监管考量:本博文反映了基于 Annex 22 草案和 21 CFR Part 11 历史实施情况的当前监管期望和行业观点。组织应关注欧洲官方监管出版物,以获取最终要求和实施指南。

来源:ISPE iSpeak 专家博客 · ispe.org