|
|
|
摘要 目前主流答案选择算法主要首先基于word2vec/glove进行词语表示,再使用RNN或CNN提取文本语义特征,但word2vec/glove无法解决一词多义问题,RNN和CNN在文本全局特征提取方面也有局限。针对以上不足,论文提出一种基于BERT预训练模型的答案选择算法BERT-LSTM,首先采用BERT模型提取问答文本的语义特征表示,再利用BiLSTM加强文本序列信息并整合文本语义,最后引入注意力机制突出重点信息,以此完成答案选择任务。在答案选择基准数据集InsuranceQA和WiKiQA上的测试验证了所提出算法的有效性。
|
|
| 关键词 ：
答案选择,
BERT,
BiLSTM,
注意力机制
|
|
|
| 基金资助:国家自然科学基金资助项目（61262047;81960325）； 江西省研究生创新项目（YC2018-S067）； |
| [1] |
洪勇曾志红. 齐次核的半离散Hilbert型不等式取最佳常数因子的条件及应用[J]. 南昌大学学报（理科版）, 2019, 43(3): 216-. |
| [2] |
韦小兰骆子义. 新生儿不明原因高胆红素血症与UGT1A1基因多态性的研究进展[J]. 实用临床医学, 2017, 18(01): 101-. |
| [3] |
徐世华； 冷干生； 周文龙. 关节镜下Herbert钉固定治疗胫骨髁间棘骨折[J]. 实用临床医学, 2014, 15(08): 45-. |
| [4] |
胡琳； 曾招云. 双解析函数Schwarz问题的2种新解法[J]. 南昌大学学报（工科版）, 2012, 34(04): 406-. |
| [5] |
杨必成. 一个新的Hilbert型积分不等式及其最佳推广[J]. 南昌大学学报（理科版）, 2008, 32(01): 1-. |
| [6] |
黄建红; 汪庆年; 章顺华; 武和雷. 基于小波包频带能量特征的包络分析在滚动轴承故障诊断中的应用[J]. 南昌大学学报（理科版）, 2006, 30(04): 1-. |
| [7] |
洪勇. 关于Hardy-Hilbert不等式的新推广[J]. 南昌大学学报（理科版）, 2005, 29(06): 1-. |
| [8] |
靳高峰; 许忠义. 一类广义Riemann边值逆问题[J]. 南昌大学学报（理科版）, 2005, 29(03): 1-. |
| [9] |
洪勇. 带最佳常数的多参数Hardy-Hilbert重级数不等式及应用[J]. 南昌大学学报（理科版）, 2004, 28(01): 1-. |
| [10] |
凌爱凡; 许忠义. 圆柱和上半平面域拓扑积的Hilbert反转公式和合成公式[J]. 南昌大学学报（工科版）, 2004, 26(01): 1-. |
| [11] |
赵成兵; 潘国双; 许忠义. n维圆柱和m维半平面拓扑积的Hilbert边值问题[J]. 南昌大学学报（工科版）, 2002, 24(02): 1-. |
| [12] |
刘芫健; 许忠义. C_n(0,1)的Hilbert边值问题[J]. 南昌大学学报（理科版）, 2000, 24(02): 1-. |
| [13] |
吴洪飞; 扶名福. 摩擦约束弹塑性基本问题和Hilbert力学函数空间[J]. 南昌大学学报（工科版）, 2000, 22(02): 1-. |
| [14] |
许忠义. 在两个半平面上解析函数的Schwarz积分[J]. 南昌大学学报（理科版）, 1989, 13(01): 1-. |
|
|
|
