人工智能介入诊疗的合规路径(上)

｜目 录｜
前言
一. 人工智能在医疗服务领域的机遇与挑战
(一) 人工智能在医疗服务领域的机遇: 应用场景的全面覆盖
(二) 人工智能在医疗服务中面临的挑战: 介入诊疗的风险与监管
二. 人工智能介入诊疗的路径及其具体应用场景
(一) 诊疗活动的含义
1. 诊疗活动的法律定义
2. 诊疗活动的一般含义
3. 诊疗活动的综合理解
(二) 人工智能介入诊断
1. 医学影像智能辅助诊断
2. 中医经络智能检测
(三) 人工智能介入治疗
1. 临床专病智能辅助决策
2. 医学影像智能辅助治疗
3. 手术智能辅助规划
4. 放射治疗靶区智能辅助勾画
5. 处方前置审核智能辅助(含中药审方)
6. 临床用药智能辅助
7. 患者用药指导智能辅助
8. 手术机器人
9. 针灸推拿机器人
(四) 人工智能介入诊断和治疗
1. 基层全科医生智能辅助决策
2. 中医临床智能辅助诊疗
三. 人工智能介入诊疗的产品风险与监管
(一) 产品风险
1. 医疗器械一般风险
2. 人工智能医疗器械特有风险
(二) 产品监管: 人工智能医疗器械
1. 人工智能的医疗器械管理属性与类别
2. 人工智能医疗器械的软件审查要求
四. 人工智能介入诊疗的行为风险与监管
(一) 行为风险
1. 违规替代医生诊疗
2. 违规自动生成处方
3. 知情同意缺失
4. 违规收费风险
(二) 行为风险的行政监管
1. 诊疗资质监管
2. 诊疗规范监管
结语
随着人工智能技术的迅猛发展, 其在医疗服务领域的应用正以前所未有的速度渗透至预防、诊断、治疗及康复的全链条环节。2024年11月, 国家卫生健康委、国家中医药局、国家疾控局联合发布的《卫生健康行业人工智能应用场景参考指引》(以下简称《应用指引》)明确列举了84种具体应用场景, 涵盖从智能影像诊断到手术机器人辅助操作的多维度创新实践。这一政策文件的出台, 标志着我国医疗行业正式迈入“人工智能+”的智能化转型新阶段。然而, 技术红利背后暗藏的风险亦不容忽视, 人工智能介入诊疗活动可能引发的产品和行为风险, 不仅考验着现有医疗监管体系的韧性, 更直接关系到患者的生命健康权益。
本文旨在系统剖析人工智能介入诊疗活动的行政风险, 梳理其监管框架, 为推动人工智能技术在医疗领域的安全应用提供合规指引和实践参考。
一、人工智能在医疗服务领域的机遇与挑战
(一) 人工智能在医疗服务领域的机遇: 应用场景的全面覆盖
《应用指引》列举了多达84种人工智能在卫生健康行业的应用, 并描述了每一种应用的概念和场景。[1]

卫生健康行业人工智能应用场景参考指引全景图
(图源自《卫生健康行业人工智能应用场景参考指引》)
整体上, 人工智能在卫生健康行业的布局已覆盖了医疗服务管理, 基层公卫服务, 健康产业发展和医学教学科研等多个领域。其中, 尤其以在医疗服务领域的应用场景最为丰富, 这不仅意味着医疗产业生态的创新与升级, 也预示着人工智能将充分赋能医疗服务, 造福广大患者。
(二) 人工智能在医疗服务中面临的挑战: 介入诊疗的风险与监管
机遇往往与挑战并存, 人工智能在医疗领域的广泛应用也衍生了各种风险。尤其当其介入诊疗活动, 对患者生命健康权益产生直接影响时, 必然面临更为严格的监管。
传统的诊疗活动由医生主导和控制, 而现如今, “人工智能+医疗服务”的应用场景覆盖了从“就医咨询”到“患者院后管理”的全过程, “人工智能+医药服务”也包含了从“处方前置审核”到“患者用药指导”的完整阶段, 这固然给传统诊疗活动带来了显著的效率提升, 但同时也不禁令人忧虑, 人工智能介入诊疗活动是否足够安全?是否会剥夺医生在诊疗活动中的主导权, 导致患者生命健康沦为人工智能的试验品?
考虑人工智能介入诊疗活动带来的风险并寻找监管路径, 是保障人工智能在医疗服务中健康可持续发展的有益思考, 也是保护患者生命健康安全的必然要求。
二、人工智能介入诊疗的路径及其具体应用场景
为准确理解“人工智能介入诊疗活动”, 首先需明确“诊疗活动”的含义, 分析“介入诊疗活动”的介入路径及其具体应用场景, 再确定“介入诊疗活动”的监管边界。
(一) 诊疗活动的含义
“诊疗活动”的含义既要紧扣其法律含义, 也不能脱离其词义的一般理解, 综合二者才能得出合法且合理的结论。
1. 诊疗活动的法律定义
《医疗机构管理条例实施细则》第八十八条“诊疗活动指通过各种检查, 使用药物、器械及手术等方法, 对疾病作出判断和消除疾病、缓解病情、减轻痛苦、改善功能、延长生命、帮助患者恢复健康的活动。”[2] 据此, 可将“诊疗活动”的法定要件概括为: (1)行为要件: 通过各种检查, 使用药物、器械及手术等方法; (2)目的要件: 对疾病作出诊断或治疗。
2. 诊疗活动的一般含义
根据《辞海》对“诊断”和“治疗”的解释, “诊断”是指医生对患者病情诊察后所作的结论, 须根据对病史的了解和各种医学检查的结果, 判断患者所患疾病及其病因、部位、性质和功能损害程度等。“治疗”是指消除疾病, 减少患者痛苦并促使其恢复健康的医疗措施, 主要包括去除病因、消除症状、改善功能的不平衡状态、恢复机体的生理功能、增强患者的一般健康等。[3]
一般理解而言, 诊断是医生通过系统性信息处理得出疾病结论的认知过程, 而治疗是针对疾病本质的系统性干预方案。诊断包括: (1)诊断依据: 病史采集(如主诉/现病史) + 检查数据(如影像/实验室/基因检测数据); (2)推理路径: 病因推断 → 病灶定位 → 病性判断 → 病程评估; (3)诊断结论: 明确的疾病和/或病理状态描述(如“HER2阳性乳腺癌”)。治疗包含五阶干预逻辑: (1)靶点控制: 直接消除病因(如抗生素杀菌); (2)症状管理: 缓解痛苦体征(如止痛药降压); (3)功能修复: 逆转病理损伤(如干细胞治疗); (4)生理调节: 恢复内环境稳态(如胰岛素调节血糖); (5)健康促进: 增强抗病能力(如疫苗/营养支持)。
3. 诊疗活动的综合理解
结合诊疗的法律定义和一般理解, 诊疗活动由行为要件和目的要件共同构成。行为要件: 通过各种检查, 使用药物、器械及手术等医学方法; 目的要件: 以疾病的诊断或治疗为目的。其中, 目的要件中的“诊断或治疗”可作如下理解: (1)诊断: 核心在于对疾病的认知和判断, 依据是患者病史和检查数据, 结论是所患疾病和状态, 中间的推理过程包括病因、部位、性质和功能损害程度等属于诊断中的过程性认知和判断, 不构成完整的诊断, 但若得出诊断结论, 则该过程构成对结论的补充, 与结论整体构成完整的诊断。(2)治疗: 核心在于对医治疾病的决策和干预, 依据是诊断结果, 目的包括消除病因、缓解症状、修复损伤、恢复稳态、促进健康等。
需注意的是, 上述诊断结论并不必然要求得出医学上以通用名称表达的疾病结论, 也可以仅是功能/抵抗力下降或内环境稳态紊乱等相关的患病状态。例如, 原卫生部在有关隐形血栓的检测的批复中明确, 通过静脉采血进行隐性血栓检测, 是一种通过检查对疾病作出判断的行为, 属于诊疗活动。[4]并且, 在复杂的生理和病理过程中, 某疾病或某状态并不总是诊断结论, 其可能在另一诊断中构成另一疾病或另一状态的原因, 其角色处于原因和结论的动态变化中, 需要结合具体的诊断场景具体判断。
“诊疗活动”包括诊断或治疗, 人工智能介入诊疗也主要通过介入诊断或治疗环节。本文围绕前述“诊疗活动”的定义及人工智能介入诊疗活动的不同路径, 从《应用指引》中筛选以下几类较为典型的直接介入诊疗的应用场景, 并分析其对诊疗活动产生的相关影响。
(二) 人工智能介入诊断
1. 医学影像智能辅助诊断
作用: 针对医学影像数据进行智能分析、快速读片、报告生成, 实现高效精准的医学影像辅助诊断。(详见《应用指引》第3页)
影响: 介入病因推断和病灶定位环节, 影响诊断。
2. 中医经络智能检测
作用: 以中医经络、现代全息理论为基础, 应用人工智能技术模拟中医临床诊断过程, 准确提供经络、脏腑、体质、气血、情志等 5 个维度功能性检测结果, 反馈人体经络功能状态, 为临床诊疗提供辅助参考。(详见《应用指引》第14页)
影响: 介入检查环节, 影响诊断。
(三) 人工智能介入治疗
1. 临床专病智能辅助决策
作用: 智能清洗处理临床专科疾病数据, 构建决策模型和算法, 智能生成临床专病诊疗方案, 实现各类专病智能化、规范化、精准化全流程临床诊疗辅助, 提供辅助决策支持。(详见《应用指引》第4页)
影响: 介入决策环节, 影响治疗。
2. 医学影像智能辅助治疗
作用: 利用人工智能、虚拟增强现实和三维建模等技术, 智能分析医学影像数据, 为临床提供智能辅助治疗方案。(详见《应用指引》第5页)
影响: 介入决策环节, 影响治疗。
3. 手术智能辅助规划
作用: 智能分析医学影像、病理、检验等临床多模态数据, 明确手术关键部位、推荐最佳手术方案、评估手术风险、辅助医生提高手术精准性、减低术中风险及术后并发症。(详见《应用指引》第6页)
影响: 介入决策环节, 影响治疗。
4. 放射治疗靶区智能辅助勾画
作用: 实现 CT、MR 等医学影像中肿瘤及其周围重要组织轮廓自动勾画, 为临床精准放疗提供智能靶区定位。(详见《应用指引》第6-7页)
影响: 介入决策和干预环节, 影响治疗。
5. 处方前置审核智能辅助(含中药审方)
作用: 结合审方规则或中医药配伍规则, 辅助专业药师对处方进行合理性审查、追溯或提醒医生合理遣方用药, 预警不合理处方, 保障临床合理用药。(详见《应用指引》第11页)
影响: 介入决策和干预环节, 影响治疗。
6. 临床用药智能辅助
作用: 以药物和疾病的知识图谱为基础, 根据临床指征和药理学理论等, 对用药行为作出决策建议。(详见《应用指引》第11-12页)
影响: 介入决策环节, 影响治疗。
7. 患者用药指导智能辅助
作用: 通过机器学习、自然语言处理等技术为患者提供个性化的用药提醒和指导辅助。(详见《应用指引》第12页)
影响: 介入干预环节, 影响治疗。
8. 手术机器人
作用: 整合先进机械设备、智能导航系统、传感器技术和实时影像反馈技术, 建立辅助医生开展手术的智能机器人, 辅助医生开展精准、微创、远程手术。(详见《应用指引》第34页)
影响: 介入干预环节, 影响治疗。
9. 针灸推拿机器人
作用: 应用人工智能技术建立针灸推拿机器人, 实现中医针灸、推拿等传统非药物疗法的智能诊疗。(详见《应用指引》第35-36页)
影响: 介入干预环节, 影响治疗。
(四) 人工智能介入诊断和治疗
1. 基层全科医生智能辅助决策
作用: 应用人工智能技术结合基层医疗卫生机构常见病、慢性病诊疗规范, 构建基层全科诊疗辅助决策应用, 为基层全科医生提供智能诊断推荐, 检验检查和用药等诊疗处置建议, 并开展基层门诊处方和电子病历规范审核。(详见《应用指引》第5页)
影响: 介入诊断和决策, 影响诊断和治疗。
2. 中医临床智能辅助诊疗
作用: 应用中医四诊智能诊断设备采集全过程中医临床四诊数据, 基于中医药知识库, 建立中医大数据诊疗模型, 针对患者症状、诊断和相关病史自动推荐中医诊疗方案。(详见《应用指引》第13-14页)
影响: 介入诊断和决策, 影响诊断和治疗。
三、人工智能介入诊疗的产品风险与监管
人工智能介入诊疗领域并产生重要影响, 其风险也无处不在, 本文基于产品和行为两方面对其可能存在的风险进行简单梳理。
(一) 产品风险
1. 医疗器械一般风险
医疗器械是指直接或者间接用于人体的仪器、设备、器具、体外诊断试剂及校准物、材料以及其他类似或者相关的物品, 包括所需要的计算机软件; 其效用主要通过物理等方式获得, 不是通过药理学、免疫学或者代谢的方式获得, 或者虽然有这些方式参与但是只起辅助作用; 其目的是: (一)疾病的诊断、预防、监护、治疗或者缓解; (二)损伤的诊断、监护、治疗、缓解或者功能补偿; (三)生理结构或者生理过程的检验、替代、调节或者支持; (四)生命的支持或者维持; (五)妊娠控制; (六)通过对来自人体的样本进行检查, 为医疗或者诊断目的提供信息。[5]
人工智能在诊疗领域的应用包括设备(硬件)和系统(软件)及其相结合的方式, 结合上述医疗器械定义和前文所述应用场景, 人工智能介入诊疗的应用产品可能构成医疗器械, 须遵守医疗器械的监管规定, 包括医疗器械注册与备案, 生产, 经营与使用, 不良事件处理与召回等一系列规定, 否则将面临行政处罚风险。
例如, 邵阳学院附属第一医院(简称“当事人”)涉嫌使用未依法注册的医疗器械行政处罚案中, 当事人医学影像科影像诊断终端的分级诊疗平台系统机身未加贴医疗器械标签, 并使用湖南博铖科技开发有限公司提供的红医疗远程医疗与信息化服务平台(简称“红医疗服务平台”), 通过AI算法实现医学影像(DR/CT)的传输、存储、三维重建、密度测量及疾病诊断支持。经调查发现, 红医疗服务平台在技术原理、作用方式、预期目的、目标人群等方面, 与远程医疗系统(辽食药监械(准)字2014第2700198号)、远程会诊系统(京药监械(准)字2013第2700452号)等影像处理软件并无实质差别, 且经向湖南省药品监督管理局申请认定, 红医疗服务平台应按照二类医疗器械管理。而当事人未对湖南博铖科技开发有限公司的二类医疗器械经营备案凭证、分级诊疗平台影像处理软件的医疗器械注册证、医疗器械生产许可证等医疗器械合格证明文件进行进货查验。经调查, 湖南博铖科技开发有限公司至今未取得《二类医疗器械经营备案凭证》或《医疗器械经营许可证》。最终, 邵阳市市场监督管理局认定当事人构成涉嫌使用未依法注册的医疗器械, 并责令其停止使用。[6]
2. 人工智能医疗器械特有风险
因人工智能介入诊疗的产品包含软件, 除医疗器械相关风险外, 还须识别并控制软件的特有风险。
(1) 算法性能风险
假阴性与假阳性风险: 人工智能可能因算法缺陷导致漏诊(假阴性)或误诊(假阳性), 尤其是算法成熟度低时, 可能延误治疗或引发不必要的诊疗活动。
算法黑箱风险: 部分算法(如黑盒算法)可能缺乏可解释性, 影响临床决策的可信度和监管审查。
(2) 数据质量风险
数据污染与偏倚: 医疗器械数据可能存在扩增错误、标注偏差或非医疗器械数据(如患者主诉)的不当使用, 导致模型训练结果不可靠。
数据多样性不足: 若训练数据缺乏多病种、多模态或跨人种覆盖, 可能影响算法在不同场景下的泛化能力。
(3) 软件更新风险
重大更新风险: 算法或功能的重大更新可能改变软件安全性或有效性, 需申请变更注册, 否则其得出的结论将给患者带来重大安全隐患。
(4) 网络安全风险
数据泄露与攻击: 医疗器械联网后可能面临数据窃取、篡改或勒索攻击, 威胁患者隐私和系统稳定性。
(二) 产品监管: 人工智能医疗器械
如前文所述, 人工智能介入诊疗领域的应用产品可能构成医疗器械, 应当遵守《医疗器械监督管理条例》(2024年修订)及其配套的一系列监管规定, 但目前其产品风险主要集中在医疗器械注册与审查上。一系列人工智能在医疗器械领域的相关监管原则也围绕这一环节展开, 如《医疗器械软件注册审查指导原则》(2022年修订)、《人工智能医用软件产品分类界定指导原则》、《人工智能医疗器械注册审查指导原则》、《深度学习辅助决策医疗器械软件审评要点》、《医疗器械网络安全注册审查指导原则》和《移动医疗器械注册技术审查指导原则》。
1. 人工智能的医疗器械管理属性与类别
我国对医疗器械按照风险程度实行分类管理, 按照风险程度依次递增的顺序将医疗器械分为第一类医疗器械(以下简称Ⅰ类), 第二类医疗器械(以下简称Ⅱ类)和第三类医疗器械(以下简称Ⅲ类)。[7]Ⅰ类医疗器械实行产品备案管理, Ⅱ类和Ⅲ类医疗器械实行产品注册管理。[8]
(1) 医疗器械管理属性
《人工智能医疗器械注册审查指导原则》明确了“人工智能医疗器械”的含义是指基于“医疗器械数据”, 采用人工智能技术实现其预期用途(即医疗用途)的医疗器械, 包括作为医疗器械的人工智能独立软件和含有人工智能软件组件的医疗器械。“医疗器械数据”是指医疗器械产生的用于医疗用途的客观数据, 基于医疗器械数据包括医疗器械数据的生成、使用等情况, 其中使用情况含单独使用医疗器械数据, 或者以医疗器械数据为主联合使用非医疗器械数据(如患者主诉信息、检验检查报告结论、电子病历、医学文献等)。
《医疗器械软件注册审查指导原则》规定, 独立软件(SaMD)是指具有一个或多个医疗目的/用途, 无需医疗器械硬件即可完成自身预期用途, 运行于通用计算平台的软件, 可分为通用型独立软件和专用型独立软件。前者如医学图像处理软件、患者监护软件等, 后者有动态心电数据分析软件、眼科显微镜图像处理软件等。软件组件(SiMD)是指具有一个或多个医疗目的/用途, 控制/驱动医疗器械硬件或运行于医用计算平台的软件, 如心电图机、脑电图机所含嵌入式软件(即固件)、CT、MRI图像采集工作站软件等。独立软件作为医疗器械或医疗器械附件, 通常单独注册, 特殊情况可随医疗器械进行注册, 此时虽不控制/驱动医疗器械硬件但从产品角度运行于医用计算平台, 故视为软件组件, 如基于通用、专用数据接口与特定医疗器械联合使用的专用型独立软件可作为附件随医疗器械进行注册。软件组件作为医疗器械或医疗器械部件、附件的组成部分, 不宜单独注册, 需随医疗器械进行整体注册。
《人工智能医用软件产品分类界定指导原则》提出了“人工智能医用软件”的概念, 即基于医疗器械数据, 采用人工智能技术实现其医疗用途的独立软件。 《人工智能医用软件产品分类界定指导原则》第三条“管理属性界定”进一步明确, 人工智能医用软件产品的管理属性界定应基于其预期用途, 结合其处理对象、核心功能等因素进行综合判定。若软件产品的处理对象为医疗器械数据, 且核心功能是对医疗器械数据的处理、测量、模型计算、分析等, 并用于医疗用途的, 符合《医疗器械监督管理条例》有关医疗器械定义, 作为医疗器械管理。
综上, 可将以上概念的关系总结为: 人工智能医疗器械包括作为医疗器械的人工智能独立软件和含有人工智能软件组件的医疗器械, 人工智能医用软件专指独立软件。一般而言, 作为医疗器械管理的人工智能软件均需满足的条件包括: ①处理对象: 医疗器械数据, 即医疗器械产生的用于医疗用途的客观数据; ②作用方式: 生成和使用等, 包括处理、测量、模型计算、分析, 使用方式包括单独和联合使用; ③软件用途: 医疗用途。特别地, 人工智能医用软件还需具备功能独立性, 即无需医疗器械硬件即可完成自身预期目的。另外, 独立软件和软件组件的注册要求上有所不同, 通用型独立软件须单独注册, 专用型独立软件和软件组件可作为附件随医疗器械进行注册, 软件组件作为医疗器械或医疗器械部件、附件的组成部分, 不宜单独注册, 需随医疗器械进行整体注册。
(2) 医疗器械管理类别
由于软件组件作为医疗器械的附件或部件, 不进行单独注册, 因此其也不单独确定管理类别, 而独立软件尤其是通用型独立软件需要进行单独注册, 并涉及单独确定管理类别的问题。
《医疗器械分类规则》依据影响医疗器械风险程度的因素中不同的结构特征和是否接触人体, 将医疗器械的使用形式分为无源接触人体器械, 无源非接触人体器械, 有源接触人体器械和有源非接触人体器械, 其中独立软件属于“有源非接触人体器械”。[9] 再根据对医疗效果的影响程度, 可将有源非接触人体器械分为基本不影响、轻微影响、重要影响。[10] 根据《医疗器械分类判定表》, 对医疗效果有轻微影响的独立软件按Ⅱ类医疗器械管理, 对医疗效果有重要影响的独立软件按Ⅲ类医疗器械管理, 不涉及按照Ⅰ类医疗器械的监管情形。
《人工智能医用软件产品分类界定指导原则》进一步明确人工智能医用软件的医疗器械管理类别应结合产品的预期用途、算法成熟度等因素综合判定。一、对于算法在医疗应用中成熟度高(指安全有效性已得到充分证实)的人工智能医用软件, 其管理类别按照现行的《医疗器械分类目录》和分类界定文件等执行。二、对于算法在医疗应用中成熟度低(指未上市或安全有效性尚未得到充分证实)的人工智能医用软件, 依据其功能又可分为两类管理。若用于辅助决策, 如提供病灶特征识别、病变性质判定、用药指导、治疗计划制定等临床诊疗建议, 按照第三类医疗器械管理; 若用于非辅助决策, 如进行数据处理和测量等提供临床参考信息, 按照第二类医疗器械管理。
而关于预期用途和算法成熟度的认定, 《人工智能医疗器械注册审查指导原则》规定, 辅助决策是指通过提供诊疗活动建议辅助用户(如医务人员、患者)进行医疗决策, 如通过病灶特征识别、病灶性质判定、用药指导、治疗计划制定进行辅助分诊、辅助检测、辅助诊断、辅助治疗等, 相当于用户的“助手”。反之, 仅提供医疗参考信息而不进行医疗决策即为非辅助决策, 包括流程优化、诊疗驱动, 前者如成像流程简化、诊疗流程简化等, 后者如成像质量改善、成像速度提高、自动测量、自动分割、三维重建等, 相当于用户的“工具”。至于算法成熟度, 成熟是指安全有效性已在医疗实践中得到充分证实的情形, 全新是指未上市或安全有效性尚未在医疗实践中得到充分证实的情形。人工智能医疗器械的算法、功能、用途若有一项为全新则属于全新类型, 反之属于成熟类型。
综上, 人工智能独立软件尤其是通用型独立软件的医疗器械管理类别需要根据其预期用途、算法成熟度等因素综合确定。整体上, 独立软件只涉及Ⅱ类和Ⅲ类医疗器械, 不存在Ⅰ类医疗器械的管理情形; 具体而言, 须遵守《人工智能医疗器械注册审查指导原则》和《人工智能医用软件产品分类界定指导原则》的分类原则规定。
注释
[1] 《国家卫生健康委员会办公厅关于印发卫生健康行业人工智能应用场景参考指引的通知》(国卫办规划函(2024)420号)
[2] 《医疗机构管理条例实施细则》(2017修正)第八十八条。
[3] 参见《辞海》网络版4.0微信小程序端。
[4] 《卫生部关于静脉采血进行隐性血栓检测属于诊疗活动的批复》(卫医政函〔2008〕490号)。
[5] 《医疗器械监督管理条例》(2024修订)第一百零三条。
[6] 邵阳市市场监督管理局行政处罚决定书(邵市监案字〔2021〕58号)。
[7] 《医疗器械监督管理条例》(2024修订)第六条。
[8] 《医疗器械监督管理条例》(2024修订)第十三条。
[9] 《医疗器械分类规则》(2015)第五条。
[10] 《医疗器械分类规则》(2015)第六条。