当前位置: 首页 > news >正文

江苏弘盛建设工程集团有限公司网站好看企业官网源码

江苏弘盛建设工程集团有限公司网站,好看企业官网源码,六盘水网站设计,微软的网页制作软件要实现基于llm的web访问和交互,需支持对llm的访问和对网络搜索的调用。 这里使用ollama llm兼容openai sdk访问;使用proxyless-llm-websearch模拟网络搜索。 1 ollama本地部署 假设ollama已经部署,具体过程参考 在mac m1基于ollama运行dee…

要实现基于llm的web访问和交互,需支持对llm的访问和对网络搜索的调用。

这里使用ollama llm兼容openai sdk访问;使用proxyless-llm-websearch模拟网络搜索。

1 ollama本地部署

假设ollama已经部署,具体过程参考

在mac m1基于ollama运行deepseek r1_mac m1 ollama-CSDN博客

mac m1计算慢,所以使用4b的小模型。

ollama pull qwen3:4b

ollama 支持openai sdk的访问,具体参考

如何用OpenAI SDK调用Ollama LLM-CSDN博客

2 web资源访问 & 交互

proxyless-llm-websearch无需代理,这里用于支持对web搜索引擎的调用。

1)下载proxyless-llm-websearch

git clone https://github.com/itshyao/proxyless-llm-websearch.git

2)配置proxyless-llm-websearch

cd proxyless-llm-websearch

由于本地使用ollama部署了qwen3:4b,所以支持使用openai api直接访问qwen3:4b。

具体配置在.env

vim .env

修改后OPENAI相关配置结果如下,包括openai base和embedding。

OPENAI_API_KEY=xxx
OPENAI_BASE_URL=http://localhost:11434/v1
MODEL_NAME=qwen3:4b

EMBEDDING_MODEL_NAME=bge-m3:latest
EMBEDDING_API_KEY=xxx
EMBEDDING_BASE_URL=http://localhost:11434/v1

3)安装依赖

pip install -r requirements.txt
python -m playwright install

4)gradle示例

python gradio_demo.py

成功运行后,就可以通过浏览器访问验证了,链接如下

http://127.0.0.1:7860/

输入“广州的天气”,经过一阵计算,结果如下。

mac m1速度慢,需要访问网络搜索,处理搜索结果,整体计算过程较长。

另外,小模型能力有限,最终整理结果相对偏离预期。

reference

---

ollama qwen3

https://ollama.com/library/qwen3

proxyless-llm-websearch

https://github.com/itshyao/proxyless-llm-websearch/tree/main

LLM_Web_search

https://github.com/mamei16/LLM_Web_search

DeepSeek R1本地化部署+web端访问+LLM交互平台

https://zhuanlan.zhihu.com/p/28344252876

LLM_Web_Search 项目安装和配置指南

https://blog.csdn.net/gitblog_07214/article/details/142227878

🧠 无需代理的 LLM 网络搜索引擎开源了!

https://zhuanlan.zhihu.com/p/1902806926141686494

agent-search

https://www.dongaigc.com/p/SciPhi-AI/agent-search

MCP server 开发半入门——"hello world"

https://zhuanlan.zhihu.com/p/1895767734287049432

model context protocol

https://github.com/modelcontextprotocol/python-sdk

MCP 协议关于tool 的几个基础问题

https://zhuanlan.zhihu.com/p/1898303391643448923

mcp-weather-sample

https://github.com/aobao32/mcp-weather-sample.git

搭建简易本地MCP服务器

https://www.imooc.com/article/379905

大模型 RAG 基础:信息检索、文本向量化及 BGE-M3 embedding 实践(2024)

https://arthurchiao.art/blog/rag-basis-bge-zh/

http://www.dtcms.com/a/487705.html

相关文章:

  • LVDS系列31:Xilinx 7系 ADC LVDS接口参考设计(二)
  • 网站建设是什么?进入百度网首页
  • 【HackTheBox】- Busqueda 靶机学习
  • 127.XIlinx fpga端的pcie(XDMA)与驱动是如何交换数据的
  • 个人网站名称怎么起济南的互联网公司有哪些
  • 在Docker中pip离线安装python的各种包
  • 建设电子商务网站的方法有?网站开发软件三剑客
  • 企业网站管理系统(多语言+多模板)
  • 设计师去哪个网站找工作wordpress linux下载
  • 机器学习入门,无监督学习之K-Means聚类算法完全指南:面向Java开发者的Python实现详解
  • Java 设计模式——代理模式:从静态代理到 Spring AOP 最优实现
  • 网站制作公司属于广告发布者吗自己买服务器搭建网站
  • 有哪些好的建站平台泰兴企业网站建设
  • 阜宁专业做网站广告推广广告
  • 网站建设多少钱需要wordpress商品展示插件
  • c语言位运算 汇编代码分析
  • 民制作网站哪家便宜西安单位网站制作
  • 云南网站开发建设大丰网站建设价格
  • 横山桥网站网站用户群
  • 制作网站培训长沙seo招聘
  • 两阶段不确定性优化:一种用于解决“现在决策、未来见效”问题的强大建模框架。
  • 香港虚拟主机和香港云服务器哪个更安全?
  • 苏州网站建设案例什么是电子商务网站推广
  • 浙江建筑网站南上海网站建设
  • 制作企业网站需要注意的事项wordpress 重装
  • 个人怎么做淘宝客网站seo网站推广的主要目的
  • 输电通道运维助手:重要输电通道沿线气象及覆冰观测系统
  • 镇江网站建设优化排名wordpress 搜索栏目
  • 【论文推导】Tube-based MPC-辅助控制器设计
  • PSG技术文章大纲