當前位置: 華文問答 > 科學

【WSDM2022】具有分層註意力的表示學習

2021-11-18科學

圖結構的開發是有效學習保存有用資訊的節點表示的關鍵。圖的一個顯著特性是,從全域的角度來看,存在一個潛在的節點層次分組,其中每個節點根據其相鄰節點組成的上下文來表示其對特定組的隸屬關系。在對鄰域結構建模時,以往的研究大多忽略了這些潛在群體和節點對不同群體的隸屬關系,更不用說階層了。因此,它們不能全面理解圖中不同上下文下的節點。 本文提出了一種新的層次註意力隸屬度模型用於圖嵌入,其中每個節點的潛在隸屬度是根據其相鄰上下文動態發現的。 在聚合相鄰狀態生成節點嵌入時,需要同時進行群級和個體級的註意力。我們引入結構約束來顯式規範每個節點的推斷成員關系,這樣就捕獲了定義良好的分層分組結構。該模型在包括引文網路和社會網路在內的各種圖的節點分類和連結預測任務上優於一組先進的圖嵌入解決方案。定性評價將學習到的節點嵌入和推斷出的成員關系視覺化,證明了成員層次的概念,使圖中可解釋的嵌入學習成為可能。

https://www. zhuanzhi.ai/paper/b5f38 dadd4dc88b2ce912c0e00c5c17b