NeurIPS 2019机器学习图景的未来之星闪耀在17篇论文中的宝石
在NeurIPS 2019上,机器学习图景的未来之星——基于图的机器学习趋势,闪耀在17篇论文中的宝石。这些论文不仅展示了传统嵌入算法与双曲空间结合的前景,还探索了逻辑和知识图嵌入的理论极限,以及如何将群论应用于知识图嵌入。
首先,我们来看看双曲空间在机器学习中的应用。传统的嵌定算法是基于欧氏空间,但为了提高表征能力,它们往往选择高维度(50维到200维)的向量。在这种情况下,使用庞加莱球面和双曲空间可以更好地表示层级结构,同时需要更少的维度。不过,这种方法在训练和优化方面仍然存在挑战。
两个相关论文被选为亮点:《Hyperbolic Graph Convolutional Neural Networks》和《Hyperbolic Graph Neural Networks》。这两篇文章旨在结合双曲几何与图神经网络,以降低错误率并提升Gromov双曲性分数较低数据集上的性能。这类似于树结构,更适合连续且有层次关系的情况。
此外,《Multi-relational Poincaré Graph Embeddings》一文展示了多关系庞加莱模型(MuRP),它使用了庞加莱几何进行知识图嵌入。此模型能够节省存储容量,同时保持或提高准确率,只需40维即可匹敌欧氏空间模型100-200维结果。
对于逻辑和知识图嵌入的问题,我们有《Group Representation Theory for Knowledge Graph Embedding》,这项研究从群论角度出发,对复数空间中阿贝尔群建模,并证明RotatE可以表示任何有限阿贝尔群。然而,该工作尚未扩展到1-N或N-N关系上,而提出了四元数域H作为替代复数域C的一个假设。
最后,《Quaternion Knowledge Graph Embeddings》一文进一步探讨了四元数领域对KG嵌定的潜力,为我们提供了一种新的视角来理解和处理复杂的人工智能任务。