详解词嵌入（Word Embedding）的两大学习方法

词嵌入把词和短语表示为低维稠密向量，以近似词间相似度并揭示如“cat-kitten”与“dog-puppy”的语义类比关系。学习词嵌入主要有两类依赖上下文的方法：基于计数的无监督方法（对全局词共现矩阵做矩阵分解，PCA、主题模型、神经概率语言模型均属此类）和基于上下文的监督方法（如 Skip-Gram 与 CBOW，在预测目标词或上下文词的同时学到词向量）。