当前位置: 首页 > news >正文

打造个人知识库,wsl+ollama部署deepseek与vscode集成

目前大模型应用如火如荼,各大LLM如Deepseek也都提供了在线的助手服务,结合mcp-server还可以进一步拓展到本地的工具能力。

但对于一些和本地业务和数据强相关的资料,在线的大模型训练数据集一般并不能涵盖,特别还有一些敏感或对安全要求很高的数据,使用在线大模型并不现实。所以我们个人应用和实际工作中,本地部署大模型并加入本地知识库也是一个刚性需求。

本文就记录下在WSL中通过OllamaCherryStudio搭建本地大模型,并将本地模型集成到VsCode的AI助手的过程分享。

Ollama简介

Ollama 是一个基于Go 语言开发的简单易用的本地大语言模型运行框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。Ollama 是 Omni-Layer Learning Language Acquisition Model(全方位学习语言接受模型) 的简写。

Deepseek本地模型及运行配置

Deepseek目前根据本地部署包含的参数集大小,又包含 1.5B671B 等多个版本,参数集越大则AI越智能,但相应地对硬件要求则越高。

一般对应不同deepseek模型版本,推荐的硬件配置如下:

<
模型型号CPU内存硬盘显存适用场景
DeepSeek-R1-1.5B
http://www.dtcms.com/a/176457.html

相关文章:

  • 偏导数和梯度
  • IoTDB端边云同步技术的五大常见场景及简便使用方式
  • Filecoin矿工资金管理指南:使用lotus-shed actor withdraw工具
  • 【uniapp】errMsg: “navigateTo:fail timeout“
  • 如何评价大语言模型架构 TTT ?模型应不应该永远“固定”在推理阶段?模型是否应当在使用时继续学习?
  • Spring Boot 中如何解决 CORS 问题(详解)
  • 智慧城市的数据共享与协作:如何用大数据构建未来城市?
  • LVGL -meter的应用
  • 可编辑218页PPT | 基于数据运营的新型智慧城市实践与思考
  • 记录学习的第三十五天
  • C# 引用类型作为值参数与引用参数的区别
  • 【软件测试学习day6】WebDriver常用的API
  • 代码随想录算法训练营第五十八天| 图论4—卡码网110. 字符串接龙,105. 有向图的完全联通
  • CHAPTER 17 Iterators, Generators, and Classic Coroutines
  • 《饶议科学》阅读笔记
  • Qt开发经验 --- 避坑指南(5)
  • OpenCV-Python (官方)中文教程(部分一)_Day21
  • IT行业词汇科普手册
  • 对京东开展外卖业务的一些思考
  • DeepSeek全域智能革命:从量子纠缠到星际文明的认知跃迁引言:认知边界的坍缩与重构
  • 发那科机器人3(机器人编程基础)
  • Linux/AndroidOS中进程间的通信线程间的同步 - 共享内存
  • Kafka的核心组件有哪些?简要说明其作用。 (Producer、Consumer、Broker、Topic、Partition、ZooKeeper)
  • STM32开发printf函数支持
  • LabVIEW 与 NI 硬件(PXI, CompactRIO, DAQ, RF, Vision)的深度研究与未来发展趋势-分析报告
  • 【AI】模型与权重的基本概念
  • LeetCode热题100--73.矩阵置零--中等
  • JC/T 2187-2013 铝波纹芯复合铝板检测
  • 如何保证Kafka生产者的消息顺序性? (单分区内有序,需确保同一Key的消息发送到同一分区)
  • IBM BAW(原BPM升级版)使用教程Toolkit介绍