卫生健康领域是人工智能的重要应用场景。医疗人工智能的快速发展正在深刻改变医疗服务模式，为保障人民群众健康、助力健康中国建设发挥重要作用。然而，在技术迭代突进的同时，算法歧视、黑箱操作等安全风险已然显现。“十五五”规划纲要明确要“有序推动数智技术在辅助诊疗、精准医疗”等场景的应用，并提出“坚持促进发展和规范管理相统筹”，加强“人工智能治理”。
医疗服务关乎人民群众的生命健康，医疗安全是不可突破的底线。因此，医疗人工智能应用更需要建立科学、精准、有效和全周期的监管机制。健全的监管体系不仅能有效防控医疗人工智能的潜在风险，也能为其持续健康快速发展提供助力。
监管体系须充分理解并适应人工智能特点
当前，人工智能迅猛发展，而监管体系滞后于人工智能发展速度。现行监管机制大多是根据可见或可预见的风险，提出粗线条监管措施，难以穿透人工智能设计、生产和应用的全链条进行监管，以至于出现监管滞后、可操作性差，甚至监管空白等问题。因此，健全的监管体系必须建立在充分理解和适应人工智能特点的基础上。
为适应人工智能加速迭代的发展节奏，应采用多种路径并进和更及时、灵活、强适应性的治理模式。
对人工智能的监管不能仅依赖立法和制度建构路径。实践证明，人工智能法律监管体系不仅要包括立法，也应包括如政府规划、宏观政策、实施办法、指南等规范性文件。因为政府规划、宏观政策等规范性文件具有更及时、实用、灵活和针对性强的特点，作用尤为突出。在逐步摸清人工智能发展规律和潜在风险的基础上，制定综合性或全国性法律，是较为切实可行的路径。
针对人工智能产品全生命周期环节多、链条长的特点，应建立即时性和全链条监管。在构建监管机制时，应当充分考虑人工智能在特定应用领域中跨行业、跨领域、多元主体参与的特点，充分发挥新型举国体制优势，建构跨领域、跨部门协作机制，明确各部门在人工智能领域的职能与责任，强化整体治理能力；厘清不同环节的特点，准确把握其风险源和安全节点，建立相应的监管机制，增强治理体系的科学性、针对性和可操作性。
以“嵌入式监管”作为制度创新突破口
针对人工智能专业性强的特点，须建立切中关键环节和节点的内在监管机制。由于社会公众并不了解人工智能技术及其内在规律，甚至相关主管部门也缺乏相应的技术人才和资源，监管能力难以快速提升。在此背景下，医疗人工智能技术迭代升级日新月异，传统的事后监管很难及时防控风险。因此，在政府主导、多元共治的治理框架内，对医疗人工智能的监管需要突出企业、医疗机构的“嵌入式监管”作用。这种“嵌入式监管”能够覆盖产品设计、数据梳理标注、人工智能训练、运行使用等全生命周期，使监管更具同步性、及时性和准确性的特点和优势。
创新在我国现代化建设全局中居于核心地位，既包括科技创新，也包括制度创新。在医疗人工智能监管领域，相应的制度创新势在必行。“嵌入式监管”可以作为医疗人工智能监管制度创新的突破口。
“嵌入式监管”是指在法律、法规等规范性文件基础上，按照主管部门和行业要求，由企业和经营主体在机构内部建立的、深度嵌入人工智能产品研发使用全周期各关键节点的、以机构自治为主的法律监管机制。通过法律和政府政策指令等，要求机构成立内在监管和合规审查部门，并将其存在和运行状况作为监管和考核主要内容。这样可有效提高政府监管的质效，同时有利于实现监管的细化与落地。
落实主体责任，形成“内外”协同监管新格局
“嵌入式监管”制度不仅是监管手段的创新，更是监管理念的创新，即落实参与研发、生产和使用等机构的主体责任，形成自治型的“嵌入式监管”和政府主管部门主导的外在监管相辅相成、协同治理的监管新格局。具体而言，嵌入式医疗人工智能法律监管机制应包括以下部分：
一是各阶段和节点的质量标准体系。安全是医疗服务、药品、医疗器械的底线，而安全需要通过具体标准、规范和程序才能实现。医疗人工智能是服务于健康的产品和工具，包括算法、数据筛选、数据标注、人工复核等在内的质量标准和要求必须明确、具体和可操作。
二是机构和单位内部设置的合规监管和质量复核专职人员与岗位。质量的保障在于实施，实施的关键在于人。医疗人工智能监管需要在关键环节上有专门设置的质量监管人员，设立专家复核复审制度，并建立相应的质量检验和复核记录制度。
三是法律及伦理审查机制和程序。医疗人工智能的服务对象和最终用户是患者或有健康需求的人。患者权利保障、禁止性医疗行为、收益和风险评估等法律和伦理规范应内化于人工智能允许全过程中。在医疗人工智能运行的关键节点建立健全伦理、法律评估审查机制，使相应法律和伦理规范成为其运行的内在约束。
四是跨学科、跨部门和跨领域的联合工作组。医疗人工智能的研发、部署、训练、供应和使用的链条长、参与方多，横跨多领域和多部门，不仅需要科技专家，也应吸纳包括特定场景专业人员（如医师和药师）、法律专业人员共同参与。
五是落实“人机对齐”原则。该原则是人工智能领域的核心议题，要求人工智能作为辅助工具，必须与人类价值观和行为标准对齐，坚持人的主体地位和主导权，从而确保医疗人工智能以人的健康为中心，以人为本，服务公众健康。
（作者：王晨光，系清华大学法学院教授）
