论文阅读：arxiv 2023 Large Language Models are Not Stable Recommender Systems

总目录 大模型相关研究：https://blog.csdn.net/WhiffeYF/article/details/142132328

https://arxiv.org/pdf/2312.15746

速览

破解大语言模型在推荐系统中的不稳定性

该论文聚焦于大语言模型（LLMs）在推荐系统中的应用问题，指出其存在显著的不稳定性，主要源于LLMs的固有位置偏差。研究者们通过深入分析，发现LLMs在推荐任务中对输入项的顺序极为敏感，导致推荐结果不稳定。例如，在改变真实项在提示中的位置时，推荐性能会显著变化。为解决这一问题，论文提出了一种名为STELLA（Stable LLM for Recommendation）的贝叶斯概率框架。该框架包含两个阶段：探测阶段和推荐阶段。在探测阶段，通过探测检测数据集识别LLMs中的位置偏差模式，构建转移矩阵；在推荐阶段，利用贝叶斯策略调整LLMs的偏差输出，并引入基于输出分布熵的置信度指标。实验结果表明，STELLA框架能显著降低LLMs推荐结果的方差，同时提升整体推荐性能。该研究不仅揭示了LLMs在推荐系统应用中的潜在问题，还为如何校准LLMs的不稳定性提供了有效解决方案，对推动LLMs在推荐系统领域的应用具有重要意义。