AI学习--本地部署ollama
AI小白,记录下本地部署ollama
1.下载安装ollama
下载地址
ollama官方地址
https://ollama.com/download
根据系统下载即可
下面是我下载的地址
https://release-assets.githubusercontent.com/github-production-release-asset/658928958/e8384a9d-8b1e-4742-9400-7a0ce2adb947?sp=r&sv=2018-11-09&sr=b&spr=https&se=2025-07-21T08%3A01%3A35Z&rscd=attachment%3B+filename%3DOllamaSetup.exe&rsct=application%2Foctet-stream&skoid=96c2d410-5711-43a1-aedd-ab1947aa7ab0&sktid=398a6654-997b-47e9-b12b-9515b896b4de&skt=2025-07-21T07%3A01%3A13Z&ske=2025-07-21T08%3A01%3A35Z&sks=b&skv=2018-11-09&sig=YIaY7eKsgt%2FSHdg53E4Lkmuds7wzraXD%2Bt9aFLvAF%2BM%3D&jwt=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJnaXRodWIuY29tIiwiYXVkIjoicmVsZWFzZS1hc3NldHMuZ2l0aHVidXNlcmNvbnRlbnQuY29tIiwia2V5Ijoia2V5MSIsImV4cCI6MTc1MzA4Mjc0OCwibmJmIjoxNzUzMDgyNDQ4LCJwYXRoIjoicmVsZWFzZWFzc2V0cHJvZHVjdGlvbi5ibG9iLmNvcmUud2luZG93cy5uZXQifQ.P2I55yI26BUGvaGAR4LF7gwVw8qDfSy-qApa1t8_jkU&response-content-disposition=attachment%3B%20filename%3DOllamaSetup.exe&response-content-type=application%2Foctet-stream
下载后一步一步安装就行
安装后会自动开启开机自启
2.下载模型
在 Windows 系统中,Ollama 下载的模型文件默认存储路径为C:\Users\<用户名>\.ollama\models
如果用户通过环境变量OLLAMA_MODELS
修改了模型存储路径,那么模型文件将存放在自定义的路径下。例如,将OLLAMA_MODELS
设置为D:\ollama\models
,则模型会下载到D:\ollama\models
目录中
下面是下载deepseekr1-1.5B
使cmd用命令行执行下面的命令
ollama run deepseek-r1:1.5b
执行后会产生如下日志
C:\Users\Mayn>ollama run deepseek-r1:1.5b
pulling manifest
pulling aabd4debf0c8... 100% ▕████████████████████████████████████████████████████████████████████████████████████████▏ 1.1 GB
pulling c5ad996bda6e... 100% ▕████████████████████████████████████████████████████████████████████████████████████████▏ 556 B
pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████████████████████████████████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕████████████████████████████████████████████████████████████████████████████████████████▏ 148 B
pulling a85fe2a2e58e... 100% ▕████████████████████████████████████████████████████████████████████████████████████████▏ 487 B
verifying sha256 digest
writing manifest
success
3.对话示例
直接继续在命令行输入对话内容即可
>>> hello
<think></think>Hello! How can I assist you today? 😊>>> 请说汉语
<think></think>请问您有什么问题或需求吗?我在这里等待您的回复。>>> Send a message (/? for help)
4.安装包
避免以后找不到,直接放安装包