随着人工智能技术的深入研究,通用领域问答系统已经被人们广泛接受。但是,由于垂直领域文本数据较少,文本表征阻碍着垂直领域问答系统的发展。为使在垂直领域问答系统更加高效准确,本文面向保险领域,提出了一种基于BERT模型的智能问答方法,并对比传统方法、保险语料作者的QACNN模型和改进的QALSTM模型,证明了BERT模型在保险领域中的有效性。最后,使用保险领域问答语料,完成答案选择任务,进而采用基于深度学习模型BERT的方法和迁移学习的策略构建垂直领域的问答系统。本课题的主要工作包括:(1)分析了智能问答的背景意义和现状,并在此基础上研究智能问答涉及的基本理论和技术。(2)基于BERT模型保险领域的算法研究。首先对保险领域数据进行预处理操作,包括对数据格式的转换、数据的分词和去除数据的停用词等,然后实现传统方法和BERT模型的保险领域智能问答。此外,还比较使用不同相似度计算方式对保险领域智能问答的影响。(3)实现保险领域的问答系统。通过分析传统方法、BERT模型、QACNN模型和QALSTM模型各自在实验中的效果,选择BERT模型以及余弦距离为相似度计算方式构建系统。在win10上,以Pycharm为开发工具,使用python自主开发了一套保险领域的问答系统。系统主要包括:问题分析、答案选择、反馈统计以及用户相关功能。最后,通过用户的反馈来解决将来的优化问题。
基本信息
题目 | 基于BERT的保险领域问答系统的研究与实现 |
文献类型 | 硕士论文 |
作者 | 元成 |
作者单位 | 北方民族大学 |
导师 | 张少敏,李宁 |
文献来源 | 北方民族大学 |
发表年份 | 2020 |
学科分类 | 信息科技,经济与管理科学 |
专业分类 | 计算机软件及计算机应用,保险 |
分类号 | F840;TP391.1 |
关键词 | 自然语言处理,智能问答系统,答案选择,模型,词向量 |
总页数: | 70 |
文件大小: | 5601K |
论文目录
摘要 |
abstract |
第一章 绪论 |
1.1 课题研究的背景与意义 |
1.2 国内外研究现状 |
1.3 本文工作 |
第二章 智能问答的基础理论和技术 |
2.1 智能问答系统基础 |
2.2 传统生成词向量的方法 |
2.3 注意力机制与Transformer |
2.4 开发环境 |
2.5 本章小结 |
第三章 基于BERT模型保险领域智能问答的算法研究 |
3.1 数据集介绍与预处理 |
3.2 基于传统方法的保险领域智能问答 |
3.3 基于BERT模型的保险领域智能问答 |
3.4 相似度计算 |
3.5 本章小结 |
第四章 实验结果与分析 |
4.1 实验评价指标 |
4.2 实验结果与分析 |
4.3 本章小结 |
第五章 保险领域智能问答系统的设计与实现 |
5.1 系统概要设计 |
5.2 数据库设计 |
5.3 系统实现 |
5.4 系统功能模块测试 |
5.5 本章小结 |
第六章 总结与展望 |
6.1 工作总结 |
6.2 创新内容 |
6.3 展望 |
参考文献 |
致谢 |
个人简介 |
附件 |
参考文献
[1] BERT语言模型的探究[J]. 电脑编程技巧与维护 2021(01) |
[2] 基于BERT的不完全数据情感分类[J]. 计算机应用 2021(01) |
[3] 一种基于BERT的自动文本摘要模型构建方法[J]. 计算机与现代化 2020(01) |
[4] 基于BERT的医疗电子病历命名实体识别[J]. 湖南工业大学学报 2020(04) |
[5] 基于改进BERT的中文文本分类[J]. 工业控制计算机 2020(07) |
[6] DIL BERT[J]. 二十一世纪商业评论 2016(04) |
[7] DLL BERT[J]. 二十一世纪商业评论 2015(07) |
[8] 基于BERT的电子病历命名实体识别[J]. 自动化与仪器仪表 2021(03) |
[9] 融入BERT的企业年报命名实体识别方法[J]. 上海交通大学学报 2021(02) |
[10] 基于BERT的常见作物病害问答系统问句分类[J]. 计算机应用 2020(06) |
[11] 基于BERT的任务导向对话系统自然语言理解的改进模型与调优方法[J]. 中文信息学报 2020(05) |
[12] DIL BERT[J]. 21世纪商业评论 2013(22) |
[13] DIL BERT[J]. 21世纪商业评论 2012(23) |
[14] 基于预训练BERT模型的客服工单自动分类研究[J]. 云南电力技术 2020(01) |
[15] 基于BERT的中文命名实体识别方法[J]. 计算机科学 2019(S2) |
[16] 加入自注意力机制的BERT命名实体识别模型[J]. 智能系统学报 2020(04) |
[17] 基于BERT的安全事件命名实体识别研究[J]. 信息安全研究 2021(03) |
[18] DELL BERT[J]. 21世纪商业评论 2014(12) |
[19] 基于BERT的警情文本命名实体识别[J]. 计算机应用 2020(02) |
[20] 基于BERT的文本情感分析方法的研究[J]. 信息技术与信息化 2020(02) |
[21] Google开源BERT模型源代码[J]. 数据分析与知识发现 2018(11) |
[22] 基于BERT模型的政策条件识别研究[J]. 科技视界 2020(07) |
[23] 基于BERT模型的舆情分类应用研究[J]. 网络安全技术与应用 2019(11) |
[24] DIL BERT[J]. 21世纪商业评论 2014(11) |
[25] 基于BERT和方面注意力的方面情感分析方法[J]. 无线互联科技 2020(16) |
[26] 世界高等学校发展境外分校的现状分析——基于C-BERT数据分析[J]. 宁波大学学报(教育科学版) 2017(06) |
[27] 基于BERT的民事相关问答问句分类[J]. 电脑知识与技术 2021(01) |
[28] 基于BERT特征的双向LSTM神经网络在中文电子病历输入推荐中的应用[J]. 中国数字医学 2020(04) |
[29] 基于BERT和TF-IDF的问答社区问句自动标引研究——以金投网问答社区为例[J]. 情报科学 2021(03) |
[30] 基于BERT的对AI理解语言方式的研究[J]. 科技视界 2019(05) |
相似文献
[1]基于BERT改进的文本表示模型研究[D]. 王楠禔.西南大学2019 |
[2]基于BERT词向量和Attention-CNN的智能司法研究[D]. 杨彬.大连理工大学2019 |
[3]基于BERT和知识蒸馏的自然语言理解研究[D]. 张睿东.南京大学2020 |
[4]基于BERT的电网故障事件抽取与应急预案推荐方法研究[D]. 廖佳路.武汉科技大学2020 |
[5]基于BERT的用户画像算法研究[D]. 张秋平.广东工业大学2020 |
[6]BERT在文本分析中的应用研究[D]. 刘创.郑州大学2020 |
[7]基于BERT预训练模型的中文主观题自动评分算法[D]. 徐超.杭州电子科技大学2020 |
[8]基于Bert的文本相关度研究[D]. 谢锦松.华南理工大学2020 |
[9]基于混合神经网络和BERT的文本方面级情感分析研究[D]. 王昆.华中师范大学2020 |
[10]基于BERT的意图识别与语义槽抽取算法研究[D]. 章奇.杭州电子科技大学2020 |