当前位置: 首页 > news >正文

C#测试基于OllamaSharp调用本地DeepSeek模型

  基于Ollama在本地部署DeepSeek模型后,使用Ater.DeepSeek.Core包没法调用本地服务接口,而是需要使用OllamaSharp包。
在这里插入图片描述
  OllamaSharp包中最重要的类为OllamaApiClient,该类的构造函数中传入本地Ollama服务地址(一般为http://127.0.0.1:11434),常用的两个函数如下(其它函数及说用说明详见参考文献3):
  1)ListLocalModelsAsync函数获取本地部署的模型列表;
  2)GenerateAsync函数根据输入的对话内容返回对话结果。

  主要代码如下:

private OllamaApiClient m_client = null;
private List<OllamaSharp.Models.Model> m_models;

//Winform构造函数中初始化上述两个属性
m_client = new OllamaApiClient(new Uri("http://127.0.0.1:11434"));
m_models = new List<OllamaSharp.Models.Model>();

//Winform的load时间中加载本地模型
var modelResponse = await m_client.ListLocalModelsAsync();
if (modelResponse is null)
{
    MessageBox.Show("获取本地模型失败");
    return;
}
foreach (var model in modelResponse)
{
    m_models.Add(model);
    comboBox1.Items.Add(model.Name);
}

//点击对话按钮调用本地模型对话
m_client.SelectedModel = m_models[comboBox1.SelectedIndex].Name;
txtResult.Text = string.Empty;

await foreach (var stream in m_client.GenerateAsync(txtChat.Text))
{
    txtResult.Text += stream.Response;
}

  程序运行效果如下:
在这里插入图片描述

参考文献:
[1]https://blog.csdn.net/weixin_72139050/article/details/145861436
[2]https://blog.csdn.net/daremeself/article/details/145769387
[3]https://github.com/awaescher/OllamaSharp
[4]https://blog.csdn.net/zlbcdn/article/details/145954736

相关文章:

  • AI基础01-文本数据采集
  • TCP/IP协议的三次握手和四次挥手
  • python爬虫Redis数据库
  • Win32桌面编程:ACLUI.DLL,EditSecurity(IntPtr hwndOwner, ISecurityInformation psi)
  • Unity代码热更新和资源热更新
  • Elasticsearch原生linux部署集群 和docker部署集群
  • 基于深度学习的相位调制算法步骤
  • Noe.js 原生 http 模块 vs Express 框架对比
  • 【leetcode题解】贪心算法
  • AI重构SEO关键词优化路径
  • docker安装在D盘/docker迁移到D盘
  • 用数组模拟循环队列
  • js中console 打印有哪些格式?
  • XSS Game(DOM型) 靶场 通关
  • GitHub 发现 ruby-saml 严重漏洞,账户安全岌岌可危
  • 手撕算法——链表
  • 基于springboot的“衣依”服装销售平台(043)
  • linux_git使用
  • 【Json RPC框架】框架介绍与环境搭建(Ubuntu 22.04)
  • 【Docker系列五】Docker Compose 简介
  • 水豚出逃40天至今未归,江苏扬州一动物园发悬赏公告
  • 中国以优化营商环境为支点,为全球企业提供可预期市场环境
  • 巴基斯坦称约50名印度士兵在克什米尔实控线丧生
  • 国家主席习近平同普京总统举行大范围会谈
  • 媒体起底“速成洋文凭”灰产链,专家:我们要给学历“祛魅”
  • 诺和诺德一季度减重版司美格鲁肽收入增83%,美国市场竞争激烈下调全年业绩预期