Nat. Biomed. Eng. | 医学中的小型语言模型

DRUGONE

大型语言模型在医疗转型中展现出巨大潜力，但其应用受到高计算成本、隐私顾虑和资源需求的限制，尤其是在资源有限地区以及中低收入国家。本文讨论小型语言模型作为医学应用中更具可扩展性、实践性和效率的替代方案。研究人员提出一种面向部署的模型选择框架，强调应根据任务需求、系统约束和临床环境来选择模型，并进一步讨论小型语言模型在弥合人工智能创新与真实临床实施之间差距方面的机会、挑战和未来方向。

医学中使用大型语言模型的现实障碍

在人工智能领域，大型语言模型因GPT系列在2022年前后的广泛引入而受到高度关注，被认为可能成为临床医学中的转型性技术。过去几年，随着模型架构、训练策略和临床数据集的快速发展，多种强大的大型语言模型相继出现，使其能力从通用语言理解扩展到专门医学领域。近来的大型语言模型还表现出较强的推理能力、上下文理解能力和知识泛化能力，在医学问答、临床文本摘要和临床决策支持等任务中取得了令人印象深刻的表现。然而，当大型语言模型真正进入医疗系统时，其部署和实施暴露出一系列明显挑战。

首先，由于参数规模庞大，大型语言模型在本地部署时需要大量计算资源，通常依赖高端图形处理器、大容量内存和高能耗基础设施。以1750亿参数模型为例，如果采用16位精度部署，需要约350 GB内存和多块高端GPU，并会产生相当可观的年度电力消耗。这使得本地部署在小型社区医院、基层医疗机构以及中低收入国家尤其困难。其次，大型语言模型通常依赖云端部署或闭源服务，这会带来额外的数据共享和隐私风险。医疗数据高度敏感，常有严格的数据驻留要求，即使是开源大型模型，也可能因为本地高性能硬件不足而不得不依赖云资源。远程服务器还可能引发延迟和网络依赖问题，这在时间敏感的临床场景中并不理想。第三，大型语言模型训练成本依然很高。即使相对低成本的大模型训练，也可能需要大量GPU小时，实际端到端成本还会因实验迭代、数据准备和工程开销显著增加。对许多医疗机构而言，尤其是中低收入国家的医疗系统，建设和维护本地高性能计算设施并不现实。

这些限制使大型语言模型在许多医院和临床环境中的可及性受到约束。因此，医疗领域需要寻找更具可扩展性、更低成本且更安全的解决方案。研究人员认为，小型语言模型正是应对这些障碍的一条重要路径。由于模型体量更小，小型语言模型能够在资源有限和去中心化环境中运行，对基础设施要求更低。在临床边缘端，小型语言模型可以部署在标准高端工作站上，或嵌入医疗设备中，从而在网络连接有限或不稳定的环境中支持人工智能辅助流程。比如，农村诊所中的超声解释任务，对于依赖云计算的超大模型而言难以实现，但对本地部署的小型模型而言则更可行。在医院或医疗集团层面，多个小型语言模型实例也可以并行部署，分别服务不同临床任务，在保持数据本地化的同时提高吞吐量。本地部署还可增强数据治理和患者隐私保护，因为敏感临床数据无需外传。小型语言模型参数更少、计算开销更低，因此推理速度更快、延迟更低，这对时间关键的医疗场景尤其重要。早期研究显示，将大型临床模型压缩为小型语言模型后，仍可保留较高性能，同时显著降低计算需求，证明其在标准医院硬件上部署具有可行性。

小型语言模型：面向部署优先医学人工智能的新前沿

小型语言模型的参数量远少于大型语言模型，通常从百万级到数十亿级不等。它们的目标是在尽可能保持大型语言模型准确性和适应性的同时，满足硬件限制、数据可用性和推理延迟等现实约束。与大型语言模型不同，小型语言模型可以部署在消费级边缘硬件上，例如个人电脑、智能手机甚至可穿戴设备，因此更适合临床部署。例如，设备端基础模型已经能够在移动系统中支持文本生成、图像识别和语音翻译，同时提升隐私与效率。在资源较低的环境中，一款运行小型医学模型的手机应用可以帮助非专科医务人员完成分诊，或分析可穿戴设备中的患者数据以识别健康风险，而无需互联网连接。这类床旁和现场部署可能直接改善资源受限地区的照护质量。

随着这些发展，小型语言模型在医学中的应用受到越来越多关注。由于小型语言模型尚无统一参数范围定义，本文主要聚焦于少于100亿参数的模型，因为这类模型适合在基层医疗环境中进行本地微调和部署。值得注意的是，一些研究虽然称其模型为大型语言模型，但从参数规模看，实际上更应归为小型语言模型。虽然BERT等编码器模型在临床文本表征学习中表现强劲，并且仍适用于结构化、任务特异性应用，但它们与现代大型语言模型常用的解码器模型在架构和功能上有根本差异。因此，本文主要关注基于解码器的语言模型，因为它们更容易与现代大型语言模型直接比较，并支持临床场景中的生成式推理。

除了适合本地部署，小型语言模型还可能支持更具智能体风格的医疗人工智能工作流。与其依赖一个单体大型语言模型，不如将多个紧凑的小型语言模型组合为模块化智能体，分别处理不同子任务。这种方式能够提供更强的控制性和透明度，因为每个组件都在清晰定义的范围内运行，并生成可被单独检查的中间输出。例如，一个负责信息收集的小模型可以与另一个负责指南核查的小型语言模型相连，每个模型在预定义规则下执行特定角色。这种模块化还可以促进更加民主化的人工智能发展，因为较小机构也可以在不具备大规模计算资源的情况下训练、微调或替换工作流中的单个小智能体。

小型语言模型也可以由大型语言模型衍生而来。知识蒸馏、剪枝和量化是常用技术，用于将大型语言模型的能力有效转移到小型语言模型中，在尽量不牺牲性能的情况下缩小模型规模。知识蒸馏中，大型语言模型作为教师模型，训练学生模型即小型语言模型，使其模仿教师模型的理解、生成和推理能力。剪枝通过删除不太重要的权重或神经元缩小模型；量化则把高精度参数转换为低精度表示，以降低存储和计算成本。这些技术通常结合使用，以在压缩比例和模型性能之间取得最佳平衡。

图1｜小型语言模型可由大型语言模型获得。

医学中部署小型语言模型与大型语言模型的决策边界

大型语言模型和小型语言模型之间的差异不只是描述性差异，而是会直接决定临床实践中模型选择的约束条件。与其追问小型语言模型能否在绝对性能上匹配大型语言模型，更重要的问题是：在什么情况下，哪一类模型更适合实际应用。研究人员将两者的区别理解为由任务需求和部署约束共同定义的决策边界。小型语言模型更适合任务定义明确、延迟要求严格、数据敏感性高且需要本地部署和快速推理的场景。典型例子包括结构化报告生成，如出院小结、分类任务，以及医疗设备数据的端侧分析，这些任务常要求即时和离线处理。相比之下，大型语言模型在复杂多步骤推理、跨领域知识综合和探索性临床决策中仍可能更具优势，尤其是在具备充足计算资源和云基础设施的环境中。许多真实应用则位于两者之间，因此需要混合方式，将上游复杂推理与下游轻量部署结合起来。

这种任务依赖的观点已有新兴证据支持。例如，面向用药咨询的轻量级模型在患者用药问答中达到临床可接受表现，同时保持适合真实部署的效率。近期一些紧凑型医学基础模型也显示，经过精心设计的小规模架构可以支持多模态临床任务，包括医学文档理解和影像分析，并显著降低计算需求。这些结果表明，在边界清晰、领域特异的任务中，小型模型更容易接近大型模型的表现，而不是在开放式推理基准中全面追平大型模型。但同时也必须注意，小型模型在通用推理和对一致性要求很高的场景中仍可能弱于大型模型，尤其是在跨多样化或开放式临床任务评估时。因此，模型能力与预期用途之间的精确匹配至关重要。

这种差异最重要的意义之一在于可及性。小型语言模型能够部署在普通个人电脑或移动设备等通用硬件上，使其成为资源较低医疗环境中少数可行选择之一。相反，大规模大型语言模型往往需要大量基础设施和云连接，因此在这些环境中的适用性受限。从实践角度看，模型选择应取决于具体环境。大型三级医院拥有先进基础设施，可能更适合用大型语言模型支持复杂诊断推理或科研应用；基层医疗、门诊和中低收入国家，则可能从可本地部署、针对具体临床任务定制的小型语言模型中获得更大价值。换言之，小型语言模型与大型语言模型的比较不应被理解为单纯的规模或性能竞争，而应被看作情境适配问题：最优模型由任务特征、系统约束和临床部署要求之间的相互作用共同决定。

以小型语言模型为中心的临床人工智能系统

现有关于小型语言模型的讨论，一个重要局限是过于关注单个模型的性能，而较少关注这些模型如何在真实临床系统中发挥作用。为弥补这一缺口，研究人员提出一种以小型语言模型为中心的临床人工智能架构，强调模块化、编排能力和系统级集成。

在这一架构中，多个专门小型语言模型被部署为领域特异性智能体，每个模型负责一个定义明确的临床任务，例如分诊、报告摘要或指南验证。这些模型由轻量级编排层协调，编排层负责动态路由输入、维护上下文并聚合输出。这种设计既允许灵活组合不同能力，又能够保持组件之间边界清晰，从而有利于审计、解释和监管合规。在该系统中，通用小型语言模型和领域特异小型语言模型具有互补作用。通用小型语言模型具有较广泛的语言能力和灵活性，适合患者沟通、行政文档和临床记录摘要等通用任务。但在高度专业的医学推理任务中，它们的表现可能受限。相比之下，基于放射报告、病理记录或药理数据库等整理良好的临床数据训练或微调的领域特异小型语言模型，可以在目标应用中提供更精确、更具情境敏感性的输出。

当前研究显示，在经过细致优化时，领域特异小型语言模型可以在定义明确的临床任务中达到甚至超过更大模型的表现，尤其是在信息抽取、结构化报告生成和专科决策支持等领域。不过，这种优势并不适用于所有任务，小型模型在开放式推理或跨领域场景中仍可能表现不足。这进一步说明，真正重要的是任务与模型之间的对齐，而不是单纯依赖模型规模。通用小型语言模型与领域特异小型语言模型之间的区别，不只是建模选择，也是系统级设计决策。有效的临床人工智能系统可以同时组合两类模型：通用小型语言模型处理常规、高频任务，而领域特异模型则在高精度、专科功能中被调用。在某些情况下，大型语言模型仍可在上游发挥作用，例如用于知识蒸馏、数据生成或原型开发，然后再将部署转移给更高效的小型语言模型。这样的系统视角更符合临床部署现实，因为延迟、可解释性、工作流兼容性和数据治理与模型准确率同样关键。将重点从单个模型能力转向协调系统设计，可以为小型语言模型进入医疗环境提供更现实、更可扩展的路径。

小型语言模型应用的挑战与未来方向

尽管小型语言模型具有潜在优势，但其采用仍面临多个相互关联层面的挑战，包括模型能力、数据依赖与约束、从评估到部署的转化差距，以及系统级集成问题。

首先是能力限制。由于参数较少，小型语言模型往往难以完成对诊断和治疗至关重要的深层上下文理解和多步骤推理任务。近期研究显示，加入基于思维链的增强推理路径，可以显著提升小型语言模型在医学基准上的表现，在某些情况下甚至超过通用大型模型和医学大型模型。未来仍需要在不牺牲效率的前提下增强小型语言模型的临床推理能力。自一致性投票、检索增强的逐步论证，以及辩论式反思采样等策略在研究环境中显示出潜力，但它们的计算成本和解释成本可能过高，尤其是在需要快速且临床上可辩护响应的时间敏感护理场景中。

其次是数据约束与依赖。训练数据质量对小型语言模型的整体表现具有关键影响。虽然高质量、精心整理的数据对所有规模模型都很重要，但由于参数容量有限、表示冗余较少，小型语言模型往往对噪声、标签错误和数据稀疏更敏感。相比之下，大规模模型有时可以借助更广泛的数据多样性、隐式正则化和过参数化部分缓解某些噪声影响，尽管它们仍然容易受到系统性偏见和低质量监督影响。真实世界医学数据通常碎片化、不一致且难以获取。因此，合成数据生成、高级数据清洗流程和联邦学习等方法，将对提升小型语言模型在不同临床环境中的稳健性和泛化能力至关重要。此外，从零开始构建小型语言模型并不容易，许多高性能小型模型仍来自较大的基础模型，或由预训练大型语言模型蒸馏而来。这种对大型模型教师和高质量训练数据的依赖，是小型语言模型发展的现实限制。

第三是评估到部署之间的差距。小型语言模型进入医疗应用的一个关键挑战，是基准表现与真实临床有效性之间存在距离。多数现有评估依赖静态基准或回顾性数据集，它们只覆盖有限的临床推理范围，很少反映真实临床工作流、纵向决策、多病共存或不确定性下的判断。大型语言模型也面临类似限制，因此直接比较不同模型本身就不完整。即使许多研究提示专科小型语言模型可以达到通用大型语言模型的表现，匹配大型模型的基准分数也不等同于满足临床质量或安全阈值。许多现有基准无法充分捕捉真实临床场景的复杂性。例如，一个擅长多项选择题的模型，仍可能难以处理真实患者病例中的复杂性和细微差别。这意味着看似在纸面上等同于大型语言模型的小型语言模型，在床旁实际使用时仍可能表现不足。

此外，许多现有基准最初是为通用大型语言模型设计的，而不是为领域特异小型语言模型设计的。因此，迫切需要面向小型语言模型、与临床相关的基准，评估它们在真实任务和真实约束条件下的表现，例如有限计算能力。评估也应从单纯准确率扩展到训练时间、延迟和计算成本等与小型语言模型部署相关的指标。与此同时，还需要开发面向小型语言模型的安全护栏，例如轻量级验证步骤，将模型关键建议与指南数据库交叉检查；更严格的提示设计，使输出保持在预定范围内；以及当模型置信度较低时的后备流程。为了支持安全有效的临床使用，评估框架必须超越传统基准，纳入迭代式真实世界临床评价，包括工作流层面测试、前瞻性验证、临床医生在环评估和部署后监测循环。

第四是系统级部署挑战。幻觉仍然是临床部署语言模型时最重要的安全风险之一，因为错误输出可能误导医生、误导患者，并削弱公众信任。有研究发现，未经缓解的蒸馏小型语言模型在短回答和长案例中都可能出现很高幻觉率，凸显小模型在缺乏安全措施时的脆弱性。不过，研究也表明，这一风险具有任务依赖性。当小型语言模型被部署在严格限定的工作流中，例如结构化临床记录生成，并结合领域特异微调和提示约束时，幻觉率会显著下降，甚至接近或低于既有人类文档错误率。这说明，安全性并不只取决于模型大小，更取决于模型如何被部署。可信部署需要建立严谨、医学扎根的幻觉和事实性基准，不仅关注平均错误率，也要关注不同临床情境和不同监督水平下的最坏失败模式。

小型语言模型还特别容易在使用局部或不平衡数据训练时放大偏见，从而强化既有医疗不平等。大型模型可能因更广泛的数据多样性而在某些方面受益，小型模型则可能过拟合本地文档模式，因此需要有针对性的偏见审计和亚组评估。如果某些患者亚组在训练数据中代表性不足，例如不同种族、性别、年龄或地理区域，模型在这些亚组中的表现可能显著下降。因此，必须建立强有力的公平性安全机制和偏见控制措施。最后，小型语言模型融入临床工作流也会带来架构挑战。新兴方案不再倾向部署单个模型，而是采用模块化、多小型语言模型系统，通过编排层协调任务特异模型。在这种范式中，每个小型语言模型都像一个领域专家，系统根据临床情境动态路由任务。这种“小型语言模型原生”架构支持可扩展、透明且情境感知的部署，但也要求在可靠性、互操作性和治理方面进行精心设计。总体来看，医疗领域采用小型语言模型并不只是提升模型性能的问题，而是需要同时对齐模型能力、数据质量、评估方法和系统级部署策略。只有同时解决这些维度，小型语言模型才能从有前景的研究工具转变为可靠的临床系统。

结论

人工智能在医疗中的作用，不是由模型规模单独决定的，而是由模型与临床现实的契合程度决定的。大型语言模型虽然具有强大推理能力，但其应用常受到成本、延迟和数据治理要求的限制。鉴于小型语言模型在效率、可负担性、隐私保护和易部署性方面的优势，尤其是在资源受限场景中，它们应在医学人工智能中发挥更重要作用。研究人员主张采用一种面向部署的视角：模型选择应由任务需求、系统约束和临床情境共同指导。从这一视角看，小型语言模型并不是大型语言模型的简化低配版本，而是许多医疗应用中经过部署优化的实用解决方案。随着领域重点从基准表现转向真实世界影响，对小型语言模型开发和评价的投入将变得越来越重要。最终，医学人工智能的核心挑战并不是不断追求更高基准分数，而是构建能够可靠融入临床工作流、并在规模化应用中改善患者照护的系统。

整理 | DrugOne团队

参考资料

Qin, Y., Yan, T., Wong, M.Y.H. et al. Small language models in medicine. Nat. Biomed. Eng (2026).

https://doi.org/10.1038/s41551-026-01734-3

内容为【DrugOne】公众号原创｜转载请注明来源