word2vec 究竟学到了什么？伯克利提出可定量预测的学习理论

伯克利 AI 研究团队证明，在若干温和近似条件下，word2vec 的学习问题可化简为无权重最小二乘矩阵分解，其梯度流动力学有闭式解，最终学到的表示等价于对特定矩阵 M* 做 PCA。