Java使用Langchai4j接入AI大模型的简单使用(二)

Ollama 是一个开源工具，可以让我们在本地计算机上轻松运行、管理和部署大型语言模型(LLMs)。以下是 Ollama 的详细使用指南：

1. 安装 Ollama

Windows 安装

1. 下载安装包: Ollama Windows 版

2. 双击安装程序并按照提示完成安装

3. 安装后会自动添加到系统 PATH

Linux 安装

curl -fsSL https://ollama.com/install.sh | sh

2. 基本使用

启动 Ollama 服务

安装后服务会自动启动，也可以手动控制：

# 启动服务
ollama serve# 作为后台服务运行 (Linux/macOS)
ollama serve &

 下载模型

这一步可以不用执行，如果本地没有该模型，自动联网进行安装

ollama pull <模型名称>
# 例如：
ollama pull llama2
ollama pull mistral
ollama pull gemma:2b

运行模型

 ollama run deepseek-r1:1.5b

 deepseek-r1:1.5b总大小为1.1G，下载会有点慢，需耐心等待。不同的模型对电脑配置要求不同，作为个人用，电脑配置一般建议使用 deepseek-r1:1.5b。

 

可输入ollama help查看支持的命令

输入ollama list查看本地安装好的模型，安装和使用示例：

下面使用上一篇文章的方式，测试本地大模型的使用，ollama运行的默认端口为11434：

//Ollama本地大模型
@Test
void testOllamaModel(){ChatLanguageModel model = OllamaChatModel.builder().baseUrl("http://localhost:11434").modelName("deepseek-r1:1.5b").build();String answer = model.chat("你好，你是谁？");System.out.println(answer);
}

运行后输出：

您好！我是由中国的深度求索（DeepSeek）公司开发的智能助手DeepSeek-R1。如您有任何任何问题，我会尽我所能为您提供帮助。

拓展：

3. 常用命令

命令	描述
ollama list	列出已安装的模型
ollama show <模型>	显示模型信息
ollama copy <源模型> <新名称>	复制模型
ollama delete <模型>	删除模型
ollama help	查看帮助