当前位置: 首页 > news >正文

轻松搭建本地大语言模型(一)Ollama安装与使用

Ollama 是一款开源的本地大语言模型运行框架,支持在 Windows、macOS 和 Linux 系统上运行,能够帮助用户轻松下载和使用各种大语言模型(例如deepseek、llama、qwen)。本文将详细介绍 Ollama 的安装步骤,帮助你快速搭建本地模型环境。

目标

  1. 在本地启动ollama
  2. 通过ollama下载大模型(deepseek、llama、qwen等)
  3. 通过命令行与大模型进行交互

一、安装Ollama

(一)Windows 系统安装

下载安装包
  • 访问 Ollama 官方网站 https://ollama.com/download,下载 Windows 安装包。

  • 安装包通常为 .exe 格式,下载完成后双击运行安装程序。

  • 安装路径默认为 C:\Program Files\Ollama

验证安装
  • 安装完成后,打开 PowerShell 或命令提示符,输入以下命令验证安装是否成功:

    ollama -v
    

    如果显示版本号(如 ollama version is 0.5.11),则表示安装成功。

(二)macOS 系统安装

一键安装
  • 打开终端,运行以下命令进行安装:

    curl https://ollama.ai/install.sh | sh
    
  • 安装完成后,运行 ollama -v 验证安装是否成功。

三、启动 Ollama 服务

安装完成后,需要启动 Ollama 服务,才能正常使用模型:

启动服务

  • 在终端或命令提示符中运行以下命令:

    ollama serve
    
  • 如果服务启动成功,将显示服务已启动的提示。

验证服务

  • 打开浏览器,访问 http://localhost:11434,如果页面正常显示,则表示服务启动成功。

四、下载并启动本地大模型

选择大模型

在该网站选择要启动的大模型https://ollama.com/library

例如,启动deepseek-r1:1.5b模型

ollama run deepseek-r1:1.5b

执行成功后即可对话

image-20250218212749045

至此,已经在本地成功启动大模型,可以通过命令行与大模型进行交互。

后面就可以通过open-webui、dify等可视化界面对接ai。

五、模型管理

(一)查看已下载模型

运行以下命令查看已下载的模型:

ollama list

(二)删除模型

如果需要删除某个模型,可以运行以下命令:

ollama rm model_name

(三)拉取模型

Ollama 提供了丰富的模型库,可以通过以下命令拉取模型:

ollama pull model_name

例如,拉取 deepseek-r1:7b模型:

ollama pull deepseek-r1:7b

其他的一些命令可以使用ollama help提示

六、总结

Ollama 提供了简单易用的安装方式,支持多种操作系统,能够帮助用户快速搭建本地大语言模型环境。通过本文的教程,你已经可以轻松安装并使用 Ollama,接下来可以尝试运行不同的模型,探索更多功能。

http://www.dtcms.com/a/25697.html

相关文章:

  • 【进阶】redis篇
  • 组合模式详解(Java)
  • Linux nftables 命令使用详解
  • 基于JAVA毕业生信息招聘信息平台设计与实现
  • vllm专题(一):安装-GPU
  • 【开源免费】基于SpringBoot+Vue.JS个人博客系统(JAVA毕业设计)
  • 以下是一个使用 HTML、CSS 和 JavaScript 实现的登录弹窗效果示例
  • 什么是Spring Boot?
  • FreeRTOS-rust食用指南
  • Python程序打包 |《Python基础教程》第18章笔记
  • SQLAlchemy 中字段类型与常见数据库(MySQL、PostgreSQL 和 SQLite)的全面映射关系
  • 在VS中通过vcpkg包管理器来安装使用qt5
  • Win11网络受限问题解决方案
  • AWS CodeBuild 配置完整指南
  • 读书笔记 - 修改代码的艺术
  • 【SQL教程|07】sql中条件查询where用法示例
  • 如何正确安装Python----Python安装的避坑指南
  • Swagger 转 Word 技术方案
  • DeepSeek:开启智能时代的新引擎
  • DeepSeek NSA:突破数据瓶颈,开启AI模型训练新范式
  • 算法1-2 Bookself B
  • 几个C#上位机相关的工具库
  • 使用Java爬虫获取京东商品SKU信息的完整指南
  • Ubuntu18.04/20.04开机自启运行脚本
  • Python利用markdown库实现Markdown到HTML的高效转换(附安全处理与样式扩展)
  • Pytorch实现论文之三元DCGAN生成RGB图像用于红外图像着色生成
  • JavaScript 基础入门——数组的操作与应用
  • h5、vue3抓拍功能
  • centos 9 时间同步服务
  • RESTful API的设计原则是什么?