当前位置：首页 > news >正文

Compounding Geometric Operations for Knowledge Graph Completion（论文笔记）

news 来源：原创 2025/6/14 7:05:49

CCF等级：A

发布时间：2023年7月

25年3月10日交

一、简介

使用知识图谱嵌入模型，将三元组（h,r,t）中关系 r 转化为平移、旋转、缩放矩阵对头节点以及尾节点进行运算，判定三元组的真实性。

二、原理

1.整体

CompoundE评分函数：

$f(h,t)=||T_r\cdot R_r\cdot S_r\cdot h- \widehat{T_r} \cdot \widehat{R_r} \cdot \widehat{S_r} \cdot t||$

其中 h , t 表示头部和尾部实体嵌入， $T_r$ 、 $R_r$ 、 $S_R$ 表示头部实体嵌入的平移、旋转、缩放操作。 $\widehat{T_r}$ 、 $\widehat{R_r}$ 、 $\widehat{S_r}$ 表示尾部实体嵌入的平移、旋转、缩放操作。由于矩阵乘法是不可交换的，不同计算顺序会产生不同性能的CompoundE，这个看附录B。

2.单个矩阵

二维平移矩阵可以写成

$T=\begin{bmatrix} 1& 0 &v_x \\ 0 & 1 &v_y \\ 0 & 0 & 1 \end{bmatrix}$

二维旋转矩阵可以写成

$R=\begin{bmatrix} \cos(\theta) & -\sin( \theta) &0 \\ \sin( \theta) & \cos(\theta) & 0\\ 0& 0 & 1 \end{bmatrix}$

二维缩放矩阵可以写成

$S=\begin{bmatrix} s_x & 0&0 \\ 0& s_y &0 \\ 0& 0 & 1 \end{bmatrix}$

因此，复合矩阵可以表示为

$T \cdot R \cdot S=\begin{bmatrix} s_x\cos(\theta)& -s_y\sin(\theta) &v_x \\ s_x\sin(\theta)& s_y\cos(\theta) &v_y \\ 0& 0 & 1 \end{bmatrix}$

当 $s_x=0$ 和 $s_y=0$ 时，复合矩阵是可逆的。它可以写成

$M^{-1}=\begin{bmatrix} A^{-1}& -A^{-1}v\\ 0& 1 \end{bmatrix}$

3.与其他距离KGE模型的关系

文章中讲述可以使用CompoundE中特定形式的矩阵，从CompoundE的评分函数中派生出TransE、RotatE、LinearRE、PairRE的评分函数。

4.Compound的损失函数

损失函数可以写为

$L_{KGE}=-\log \sigma (\zeta _1-f_r(h,t))-\sum_{i-1}^{n}\rho(h_{i}^{'},r,t_{i}^{'}) \log \sigma (f_r(h_{i}^{'},t_{i}^{'})-\zeta _1)$

其中 $\sigma$ 是sigmoid函数， $\zeta_1$ 是一个固定边界超参数， $(h_{i}^{'},r,t_{i}^{'})$ 是第 i 个负三元组， $p(h_{i}^{'},r,t_{i}^{'})$ 是负三元组得到的概率。给正三元组 $(h_i,r,t_i)$ ，负采样分布为

$p(h_{j}^{'},r,t_{j}^{'} | \{ (h_i,r,t_i)\} ) = \frac{ \exp \alpha_1 f_r(h_{j}^{'},t_{j}^{'})}{\sum_i \exp \alpha_1 f_r(h_{i}^{'},t_{i}^{'})}$

$\alpha_1$ 是采样温度。

三、实验性能

1.链接预测

表2表2表示CompoundE和其他嵌入模型在FB15k-237、为WN18RR和ogbl-wikikg2数据集上的性能比较。CompoundE是所在三个数据集中具有竞争力的模型。CompoundE的结果比以前的KGE模型更好，嵌入维度和模型则明显较低。意味着CompoundE的计算和内存成本更低。