【推荐系统笔记】BPR损失函数公式

• • 一、BPR损失函数公式

    BPR 损失函数的核心公式如下：

    $$L_{\text{BPR}}=-\sum _{(u,i,j)\in D}\ln \sigma ({\hat{x}}_{uij})+\lambda ||\Theta |{|}^2$$

    其中：

    • $(u,i,j)$ 表示一个训练三元组，含义是“用户 $u$ 更偏好物品 $i$（正样本）而非 $j$（负样本）”。
    • ${\hat{x}}_{uij}={\hat{x}}_{ui}-{\hat{x}}_{uj}$：预测评分差值，表示用户 $u$ 对物品 $i$ 和 $j$ 的兴趣差。
    • ${\hat{x}}_{ui}$：模型预测的用户 $u$ 对物品 $i$ 的偏好分数，常用点积 ${\mathbf{p}}_u^T{\mathbf{q}}_i$表示。
    • $\sigma (\cdot )$：sigmoid 函数，$\sigma (x)=\frac{1}{1+e^{-x}}$。
    • $\ln \sigma ({\hat{x}}_{uij})$：表示偏好差越大（即 $i$ 比$j$ 更受欢迎）的可能性越大。
    • $\lambda ||\Theta |{|}^2$：正则项，防止过拟合，( \Theta ) 表示所有模型参数，如用户/物品向量。

    ---

    二、核心思想和直觉解释

    BPR 的目标是学习一个排序模型，让用户 $u$ 对正样本 $i$的评分高于负样本 $j$，即：

    $${\hat{x}}_{ui}>{\hat{x}}_{uj}\Rightarrow {\hat{x}}_{uij}={\hat{x}}_{ui}-{\hat{x}}_{uj}>0$$

    我们希望最大化这个事件的概率，也就是最大化：

    $$P({\hat{x}}_{ui}>{\hat{x}}_{uj})=\sigma ({\hat{x}}_{ui}-{\hat{x}}_{uj})$$

    这就变成了最大化一个排序概率的对数似然函数，也就是前面提到的 BPR 损失函数。

    ---

    三、训练样本构造

    由于是隐式反馈（如点击/未点击），我们无法获得负样本，只能从“未交互”中随机采样负样本：

    • 对每个用户 $u$，正样本 $i$ 是其交互过的物品。
    • 随机采样一个用户 $u$ 未交互的物品 $j$，作为负样本。
    • 构造训练三元组 $(u,i,j)$。

    ---

    四、梯度优化

    对模型参数如 ${\mathbf{p}}_u,{\mathbf{q}}_i,{\mathbf{q}}_j$ 进行 SGD 梯度更新时，关键是：

    $$\frac{\partial L_{\text{BPR}}}{\partial {\hat{x}}_{uij}}=-(1-\sigma ({\hat{x}}_{uij}))$$

    这表达了“偏好差越大，梯度越小，更新越小”，符合排序目标。

    ---