Word2vec
Optimal transport part 1 - Theory
什么是word2vec嵌入? word2vec 模型是一个仅仅包括一层隐含层的MLP网络。 word2vec的任务是预测在一个句子中的context中与当前word近邻的words. 但是,word2vec模型的目标函数与该任务没有任何关系。所有我们想要得到的是隐含层学习到的权重矩阵,这个权重矩阵就是我们用来作为词嵌入(word embeddings)。 这其实是一种在非监督学习中...
Comments powered by Disqus.