contextualized专题

ELMo - Deep contextualized word representations

Deep contextualized word representations (ELMo) 最近NLP突飞猛进,现有ELMo,后有BERT。 glove以及word2vec的word embedding在nlp任务中都取得了最好的效果, 现在几乎没有一个NLP的任务中不加word embedding. 常用的获取embedding方法都是通过训练language model, 将lang