大语言模型本身有记忆功能吗？

大模型LLM有记忆功能吗？比如用户提问了一个问题，然后大模型给出了回答，然后用户又说基于上述的问题回答是否存在问题？LLM能记住上次的回答的内容吗？
这是一个非常好的问题，它触及了大语言模型（LLM）工作原理的核心。答案是：这完全取决于应用程序如何设计，但纯粹的、原始的LLM本身在默认情况下是没有记忆的。

让我为您详细解释一下：




注意：大模型返回的内容也叫提示词（Assistant提示词）
所以，记忆功能是由应用程序通过“不断追加对话历史到提示词中”来实现的。LLM本身只是根据眼前看到的所有文本做出反应。



目前主流的大模型LLM都是没有内部记忆的是吗？记忆功能在应用程序侧？（对上面的补充）