[关闭]
@thousfeet 2019-03-04T14:55:10.000000Z 字数 1124 阅读 996

A survey on dependency-based technology of NLP

papers


在关系抽取问题中有一大批应用了DP-based的方法

Bunescu 和 Mooney(2005)提出,在依存关系图中,两实体之间的最短依存路径(shortest dependency path, SDP)是判别其关系的最有效信息。Plank 和 Moschitti(2013)提出在依存树 kernel 中提取语法和语意信息以作为关系特征。

从近几年的文献来看,基于依存关系的神经网络(DP-based neural networks)的效果尤其显著,并且其一大好处是对于手工构造显式特征的需求更少。

在关系分类问题中,Yang Liu 等人 [2] 提出新的结构增广依存路径(augmented dependency path, ADP)。该结构由两实体之间的最短依存路径和附着在路径上的依存子树共同构成。论文中提出基于依赖关系的神经网络(dependency-based neural network, DepNN)对ADP进行建模,用以分类句中两实体的语义关系。DepNN由两部分连接组成:1)递归神经网络,用于对依赖子树建模,将 ADP 复杂的结构表示为连续的语意向量,2)卷积神经网络,用于提取最短依赖路径的特征。此外,在训练时附加上词汇级属性,以提高整体效果。

受关系抽取问题中应用依存关系的相关研究的启发,Fei Cheng 和 Yusuke Miyao [3] 将DP应用在时间关系分类问题上,其目标在于识别实体间的时间性联系,并对他们的时间关系进行分类。最终结果是,在不使用手工的实体注释属性和外部知识资源的情况下,仅将单词、POS(part-of-speech)、依存关系做词嵌入,输入双向LSTM,也能达到稍优于前者的效果。

sn-gram 将语法树种的语法关系作为邻近关系,可被用于所有可应用n-gram的NLP任务。SVM分类器,作者身份识别,与传统的n-gram方法对比

[2] Liu Y, Wei F, Li S, et al. A dependency-based neural network for relation classification[J]. arXiv preprint arXiv:1507.04646, 2015.
[3] Cheng F, Miyao Y. Classifying temporal relations by bidirectional lstm over dependency paths[C]//Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics (Volume 2: Short Papers). 2017, 2: 1-6.

添加新批注
在作者公开此批注前,只有你和作者可见。
回复批注