周末杂谈：FDA可以用注册申报资料训练AI吗？

防止泄露企业机密的注册申报信息，是FDA使用AI时应考虑的问题

10月18日在美国华盛顿特区举行的“全球药物生产领袖论坛”（Global Pharmaceutical Manufacturing Leadership Forum）上，讨论嘉宾们对FDA在AI方面的表现，提出了一些意见。

有些FDA给企业药品注册申报的回复信，虽然用词和语法都完美，但专业性欠缺，让人不禁要问：这是AI写的，还是缺乏经验的审评员写的？这样做有损企业对FDA的信任。（笔者注：企业花大力气研制药品、撰写注册申报材料，竟被FDA如此不负责任地对待）
FDA用AI分析注册申报材料中的临床数据后告诉企业：你的数据有些可疑，却不说理由是什么，而是让企业自己证明数据是没问题的。这种强人所难的做法在国会那是过不去的，早晚会暴雷。（笔者注：国会是FDA的婆婆，因为FDA的经费来自国会。即使是企业缴费，像新药缴费（PDUFA）和仿制药缴费（GDUFA），也都是国会的立法）
FDA在用企业的药品注册申报资料来训练FDA的AI模型。这样做是有法律风险的。

这最后一条意见，笔者还是首次听闻。

法律不限制FDA将企业的药品注册申报资料，按自己的意愿，做各种各样的分析和处理，前提是只供内部使用。法律禁止FDA将资料中的商业机密部分，例如：药学（CMC，Chemistry, Manufacturing, and Controls）资料中的未公开配方、生产工艺等受保护信息，泄露给他人。对有专业认知和法律意识的人来说，防止泄露机密信息容易做到。对AI来说，就不一定了。

若FDA只是以检索增强生成（Retrieval-Augmented Generation，RAG）方式，将药品注册申报资料与AI联用，但不将其放入AI模型本身，防止机密信息的泄露就容易。但若将资料用于AI模型的微调，将其植入AI模型的参数空间，成为AI模型的一部分，防止机密信息的泄露就可能不简单了。

设想一家企业的药品注册申报资料中的某一生产工艺不满足FDA的要求，但经过一些改进后满足了要求。这些信息都被放入了FDA的AI模型。后来，另一家企业提交了相近药品的注册申报资料，含相似的工艺。FDA用AI来给第二家企业回信，需确保不泄露第一家企业的机密信息。例如：依据第一家企业未公开的经验，让第二家企业知道其工艺基本可行，但需做些改进，尽管不告知如何改进，是否已经是泄露信息了？

在笔者查阅的FDA公开文件中，到目前为止，在已公开发表的FDA关于AI应用的规章和政策性文件中，都未看到有关其自身使用药品注册申报资料来训练AI模型的合法性讨论。当然，上面说的都是针对FDA自行部署和管控的AI模型。若模型训练还涉及FDA与第三方AI模型公司的合作，那防止信息泄露的问题就复杂多了。

若FDA用AI起草回复信，然后由人来审核，就可避免信息泄露。但这要求审核人既具有审评经验，知道什么话能说、什么话不能说，又具有运用AI的经验，知道如何添加约束条件、及约束的效果，也就是知道运用AI时的风险点在哪。

从这个角度看，AI的应用仍离不开人的专业判断，也可能带来新的审核任务和岗位需求。岂不是好事？

点击绑定/注册识林，获取最新全球监管动态

识林网址:www.shilinx.com