基于改进混合检索的大语言模型税务问答研究
岳帅1
王业2
周泽冰1
1.新疆农业大学计算机与信息工程学院 新疆乌鲁木齐 8300522.新疆农业大学网络与信息技术中心 新疆乌鲁木齐 830052
摘要：针对税务问答任务中检索效果不足的问题,文章提出了一种基于改进混合检索的大语言模型问答方法.首先,构建覆盖多类别、多标签的高质量税务政策问答数据集,涵盖增值税、企业所得税、个人所得税、发票管理等;然后,设计融合稀疏检索(BM25)与密集检索(DPR)的改进型混合检索算法,通过引入轻量级神经网络动态预测稀疏与密集检索的最优权重比例,并结合交叉编码器重排序,有效提升相关文档的检索准确性;最后,基于ChatGLM3-6B-base大语言模型,采用LORA微调方法,对模型进行针对性优化,增强其对税务政策语义的理解能力.实验证明,所提出的数据集与改进检索方法能够显著提升税务问答系统的检索召回率和准确率,同时,所提出的框架为大语言模型在税务政策问答任务的应用提供了理论与实践支撑.
关键词：税务问答稀疏检索与密集检索融合混合检索算法大语言模型LORA微调
论文发表日期：2026-02-25
在线出版日期：2026-05-22（本平台首次上网日期，不代表文献的发表时间）
页数：9( 34-41,45 )