当前位置: 首页 > news >正文

打造个人知识库,wsl+ollama部署deepseek与vscode集成

目前大模型应用如火如荼,各大LLM如Deepseek也都提供了在线的助手服务,结合mcp-server还可以进一步拓展到本地的工具能力。

但对于一些和本地业务和数据强相关的资料,在线的大模型训练数据集一般并不能涵盖,特别还有一些敏感或对安全要求很高的数据,使用在线大模型并不现实。所以我们个人应用和实际工作中,本地部署大模型并加入本地知识库也是一个刚性需求。

本文就记录下在WSL中通过OllamaCherryStudio搭建本地大模型,并将本地模型集成到VsCode的AI助手的过程分享。

Ollama简介

Ollama 是一个基于Go 语言开发的简单易用的本地大语言模型运行框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。Ollama 是 Omni-Layer Learning Language Acquisition Model(全方位学习语言接受模型) 的简写。

Deepseek本地模型及运行配置

Deepseek目前根据本地部署包含的参数集大小,又包含 1.5B671B 等多个版本,参数集越大则AI越智能,但相应地对硬件要求则越高。

一般对应不同deepseek模型版本,推荐的硬件配置如下:

<
模型型号CPU内存硬盘显存适用场景
DeepSeek-R1-1.5B

相关文章:

  • 偏导数和梯度
  • IoTDB端边云同步技术的五大常见场景及简便使用方式
  • Filecoin矿工资金管理指南:使用lotus-shed actor withdraw工具
  • 【uniapp】errMsg: “navigateTo:fail timeout“
  • 如何评价大语言模型架构 TTT ?模型应不应该永远“固定”在推理阶段?模型是否应当在使用时继续学习?
  • Spring Boot 中如何解决 CORS 问题(详解)
  • 智慧城市的数据共享与协作:如何用大数据构建未来城市?
  • LVGL -meter的应用
  • 可编辑218页PPT | 基于数据运营的新型智慧城市实践与思考
  • 记录学习的第三十五天
  • C# 引用类型作为值参数与引用参数的区别
  • 【软件测试学习day6】WebDriver常用的API
  • 代码随想录算法训练营第五十八天| 图论4—卡码网110. 字符串接龙,105. 有向图的完全联通
  • CHAPTER 17 Iterators, Generators, and Classic Coroutines
  • 《饶议科学》阅读笔记
  • Qt开发经验 --- 避坑指南(5)
  • OpenCV-Python (官方)中文教程(部分一)_Day21
  • IT行业词汇科普手册
  • 对京东开展外卖业务的一些思考
  • DeepSeek全域智能革命:从量子纠缠到星际文明的认知跃迁引言:认知边界的坍缩与重构
  • 中美经贸高层会谈11日在日内瓦将继续进行
  • “行人相撞案”现场视频公布,法院:表述不当造成误导
  • 习近平会见古巴国家主席迪亚斯-卡内尔
  • 北外滩集团21.6亿元摘上海虹口地块,为《酱园弄》取景地
  • 长江画派创始人之一、美术家鲁慕迅逝世,享年98岁
  • 蔡达峰:推动食品安全法全面有效实施,为维护人民群众身体健康提供有力法治保障