阅读理解基础

NLP

Convolutional Spatial Attention Model for Reading Comprehension with Multiple-Choice Questions - 哈工大的一篇 初高中阅读理解选择题

测试方法

1. 多项选择：
2. 完形填空
3. 开放式问题： 短文本生成

目前存在的一些问题 -- 数据角度

1. 大规模数据中所需要的推理有限，而高质量，小规模数据难以扩展
2. 很多数据中，大部分问题仅仅需要文档中一句话来回答

目前存在的一些问题 -- 方法

1. 很多方法鲁棒性很差，学习到的模式很多限于语法级别
2. 很多模型设计精巧，但是复杂模块的效果难以解释，简单模型往往能取得不错的效果。
3. 很多模型都是基于深度学习的，而其超参数介绍得很模糊，使复现变得困难，甚至完全达不到原文中的效果

创新的角度

1. 模型加速

2. 关注机制的设计

3. 迁移学习

1. 使用预训练词向量
2. 使用预训练语言模型
3. 使用包含更多语义组合信息的翻译模型