调用DeepSeek系列模型问答时,输出只有</think>标签,而没有<think>标签
问题:调用DeepSeek系列模型问答时,输出结果缺少只有标签,而没有标签?
DeepSeek官方有关说明
这里设置成这样是为了保证让模型的生成是以"<think>\n"开头的,然后开始思考过程,避免模型没有以"<think>\n"开头而不思考直接输出结果
<think>不输出,是因为其已经属于提示词prompt的一部分了。
解决办法: 在tokenizer_config.json文件中修改chat_template
删掉"<think>\\n",但这样就可能导致模型跳过思考过程。
因此不建议直接修改。