基于BERT-BiLSTM和多元信息融合的关系检测模型
吉杰1
邵清1
沈颖2
1.上海理工大学光电信息与计算机工程学院 上海 2000932.上海计算机软件技术开发中心 上海 201203
摘要：知识库问答系统(KBQA)已广泛应用于搜索引擎,聊天机器人,以及图谱检索等任务中.它通过知识库中的知识三元组来回答问题,其中关系检测任务是核心环节.传统的关系检测模型通常使用问题向量和关系向量的相似度来表现问题与关系之间的联系,容易造成信息单一,从而使回答问题的准确率下降.在分析现有关系检测模型的基础上提出一种基于BERT预训练结构并融合多元信息元素的BiLSTM模型(FI-BERT-BiLSTM).首先通过在模型中加入BERT预训练层来弥补信息单一问题,其次构建信息融合层,强化问题与关系特征,对公共网络层的数据进行二次特征提取,并通过atten-tion机制加入额外信息来增加问题与关系特征的多样性.在SimpleQuestion和WebQuestion两个数据集上的仿真实验验证了模型的有效性.
关键词：知识库问答关系检测BERT深度学习双向注意力机制
分类号：TP391(计算技术、计算机技术)
资助基金：国家自然科学基金(61703278)上海市科学技术委员会科研计划项目(19511105103)
论文发表日期：2024-09-20
在线出版日期：2025-08-15（本平台首次上网日期，不代表文献的发表时间）
页数：8( 2626-2633 )
英文信息