llm-universe 踩坑记录

踩坑

1. 云服务器2G不够，因为后面用到内存向量数据库，把数据加载到内存，一个大点的pdf就导致整个服务器崩了。当时可以选择不加载大的文件，自己替换一个小点的pdf

注意点

1. LLM API.ipynb 这节要注意看下API的含义，了解messages的内容
2. Prompt Engineering.ipynb 了解下分隔符的用法，尝试自己改动
3. python可以在函数里面重新定义一个新的函数
4. c7高级技巧中有很多模型以及数据集由于网络原因，无法正常加载，先下载到本地，然后改成本地的路径

test_model = SentenceTransformer('/home/ubuntu/llm/ma3')  

embedding = HuggingFaceEmbeddings(model_name="/home/ubuntu/llm/ma3")