医疗RAG知识库的准入制设计

医疗RAG知识库的准入制设计

医疗领域AI咨询系统的核心难题在于如何约束模型输出，避免患者直接使用不当建议引发信任危机。横浜市推出的AI癌症咨询系统“ランタン”提供了一个实用工程案例，它采用RAG架构，通过实时检索经过审核的专业资料库生成答案。这种“先检索后作答”的机制本质上是限制模型自由发挥空间的有效手段。

知识库的质量直接决定回答质量的下限。在搭建医疗级RAG系统时，首要而非次要的任务是确保知识库本身的质量，而非匆忙处理文档切分或向量模型。不同于普通企业知识库追求“尽量全”，医疗场景必须推行严格的准入制。只有通过明确来源审核的文档才能进入知识库。例如，每份文档需标注发布机构、修订日期、专业医生复核记录和权威等级标签，如官方诊疗指南、学术期刊综述、医院内部共识或科普材料。不同等级在检索排序时应占据差异化权重，并建立定期清理机制，淘汰过期的医学指南，避免过期建议比缺失信息更具风险。

版本管理是知识库准入制的重要环节。同一疾病在不同年份的指南可能存在差异，知识库同时保存新旧版本将导致检索结果矛盾。横浜市系统的做法是为每个知识点设置“生效时间”字段，检索时自动过滤失效版本，确保模型始终基于当前有效的医学共识作答。这种设计使模型回答永远锚定在最新的权威标准上。

多步验证的检索链是实现准确性的关键环节。患者提问往往口语化且模糊，例如“化疗期间能喝茶吗”与“紫杉醇和绿茶有相互作用吗”指向完全不同的需求。单一向量相似度检索易召回无关内容，更稳妥的方法是将检索拆分为多步验证链。第一步通过意图识别与关键词规范化，将患者表述转换为标准医学术语；第二步基于规范术语进行初筛，召回候选文档；第三步关键信息核对，验证文档是否覆盖问题核心要素，包括药物名称、剂量和禁忌人群。只有全部验证通过的内容才进入生成环节。

当检索结果不足以支撑回答时，系统应明确告知“当前资料无法可靠回答该问题”，而非强行生成看似合理的答案。这种“宁缺毋滥”的策略在医疗场景下远比追求回答率重要，它将模型的判断替换为流程的判断，有效降低错误风险。

医疗信息天然存在冲突，不同指南对同一问题的推荐可能存在差异。一种常见错误是在生成时“中和”矛盾输出折中版本，这种做法在医疗场景中存在重大风险，因为医学建议通常无法简单平均。更合理的设计是让冲突显性化。当检索结果包含相互矛盾的建议时，系统应同时呈现各方观点，并标注各自来源等级和适用条件，让患者掌握完整信息后咨询专业医生。

横浜市系统的处理思路体现了“不替医生做决定，只帮患者做准备”的理念。它在回答中明确区分“已有共识”和“存在争议”的内容，对争议部分给出不同来源的表述，并提示患者差异可能源于个体情况不同，最终方案需由主治医生确定。这种设计既保证了信息完整性，又清晰划定了AI的职责边界。

可信来源标注是患者信任建构的重要环节。一种具体设计是每条回答底部附上“证据卡片”，而非简单引用链接。证据卡片包含三个要素：来源机构名称、文档标题与发布日期，以及与当前问题的相关度说明。例如，回答涉及化疗副作用管理时，卡片可显示“来源：日本癌症学会患者指南，2024年修订，与您询问的恶心症状管理直接相关”。这种设计将“AI说的”转变为“某机构在某份文档中说的”，患者可自行判断来源权威性，也可拿着证据卡片与医生核对。对于开发团队而言，证据卡片同时兼具质检工具功能，运营人员可定期抽查回答与证据卡片的匹配度，及时发现检索偏差并修正知识库。

回到“ランタン”系统的整体思路，其核心启示在于知识库设准入门槛、检索链多步验证，以及冲突信息透明呈现。这套方法论同样适用于金融、法律等对准确性要求极高的垂直领域。技术架构可以复制，但真正拉开差距的，是团队是否在“让AI少犯错”这件事上投入足够的工程耐心。