基于BERT的医学智能问答模型研究

摘要：

传统医学智能问答系统多采用基于问答数据库的问题相似度匹配方式实现,该方法效率低,并且需要很高的标注成本才能建立训练数据集.针对这些问题,设计基于自注意力机制的双向编码表示(BERT)的自动答案生成医学智能问答模型.采用BERT预训练模型输出作为语义嵌入,并结合注意力机制传递到下游自然语言翻译模型中,联结成BERT问答模型.在英文医疗问答数据集MedQuAD和中文医疗问答数据集cMedQA2两个开源数据集进行训练和测试,BLEU值分别达到了 42.25和44.60,相比其他模型均有明显提高,可以将该模型用于实际问题中.

关键词：智能问答模型、BERT模型、预训练、注意力机制

所属期刊栏目：39

分类号：TP395(计算技术、计算机技术)

资助基金：安徽高校协同创新项目GXXT-2020-015

在线出版日期：2023-10-25（万方平台首次上网日期，不代表论文的发表时间）

页数：共4页

页码：23-25,29