当前位置: 首页 > wzjs >正文

网站建设需要客户提供什么内容百度浏览器网址大全

网站建设需要客户提供什么内容,百度浏览器网址大全,自己做网站 怎样下载模板,广州 网站设计公司排名0.如题,预期在Ubuntu上本地化部署DeepSeek,通过浏览器访问达到chatgpt的对话效果。 1.裸机,安装Ubuntu。 原有的系统盘采用大白菜,下载24.04.1的镜像,插到电脑上,无法识别,重新查到笔记本&…
0.如题,预期在Ubuntu上本地化部署DeepSeek,通过浏览器访问达到chatgpt的对话效果。
1.裸机,安装Ubuntu。

        原有的系统盘采用大白菜,下载24.04.1的镜像,插到电脑上,无法识别,重新查到笔记本,显示U盘损坏。重新下载大白菜,制作启动盘,但是被Windows自带的杀毒软件Windows Defender给干掉,后来查了一下,说是大白菜还有老毛桃有毒,没办法用软碟通(UltraISO)重新制作启动盘,重新安装镜像。

     避坑1:下载镜像用国内的源Index of /ubuntu-releases/24.04.1/ (ustc.edu.cn)

2.安装Ollama
Ollama是一个开源工具,用于在本地轻松运行和部署大型语言模型。

     避坑2:不要使用Linux自动安装工具,apt查不到ollama,用snap下载完成后,访问127.0.0.1:11434显示ollama is running,但是,但是,但是,会有莫名奇妙的错误,比如:llama runner process has terminated: exit status 127。查看ollama -v :0.0.0。

        老老实实按照官网指示下载。

                避坑3:老老实实下载,网速不给力,贼慢,尤其是linux环境下,没有科学上网,可以将install.sh下载下来,然后下载对应的ollama-linux-amd64.tgz,放在同一个目录下面,修改.sh文件当中关于下载的部分

#status "Downloading Linux ${ARCH} bundle"
#curl --fail --show-error --location --progress-bar \
#    "https://ollama.com/download/ollama-linux-${ARCH}.tgz${VER_PARAM}" | \
#    $SUDO tar -xzf - -C "$OLLAMA_INSTALL_DIR"# 添加的代码:
$SUDO tar -C "$OLLAMA_INSTALL_DIR" -xzf ./ollama-linux-amd64.tgz

然后安装

sudo chmod a+x  install.sh
./install.sh

        避坑4:很多文章都说接下来要用ollama serve启动服务,但运行这个指令会显示11434端口已经被占用。其实这个时候服务已经起来了,无须介意,直接用。

3.安装Deepseek
ollama run deepseek-r1:7b

        选择多少b全凭自己的实力。垃圾显卡跑7b都够呛。

        访问17.0.0.1:11434/api/tags可以看到已经安装的模型。

        这个时候就可以直接在终端与模型进行对话了,如果是测试,调接口之类的到这一步就OK。

4.安装open webui,前端显示,痛苦的开始

        4.1 安装Docker:确保你的机器上已安装Docker。
        4.2 运行Open Web UI:

docker run -d -p 3000:8080 \--add-host=host.docker.internal:host-gateway \-v open-webui:/app/backend/data \--name open-webui \--restart always \ghcr.io/open-webui/open-webui:main

        避坑5:open webui只是用来做界面交互的,与模型没什么关系,这里需要注意的是,配置是否要显卡支持,上面的指令是用的CPU,最终装成功CPU500%+。想用显卡支持的指令可以参照⏱️ Quick Start | Open WebUI官方指导操作,但是,但是,但是,自求多福吧。显卡驱动与控制器,一堆坑,可能是个裸机,还没装完必要的驱动。

        安装完成后,浏览器访问127.0.0.1:3000可以进入openwebUI登录界面,先注册一个管理员,随便写资料,然后就可以登录。大坑来了,找不到模型

明明终端测试可以,浏览器访问127.0.0.1:11434可以显示Ollama的模型数据,就是访问不了。

open-webui无法链接ollama 报错ERROR:apps.ollama.main:Connection error: Cannot connect 127.0.0.1无法访问。

就很迷,访问怎么都可以,但是docker就是访问不了,找了半天,原来是服务配置的问题。

     避坑6:默认ollama绑定在127.0.0.1的11434端口,修改/etc/systemd/system/ollama.service,在[Service]下添加如下内容,使ollama绑定到0.0.0.0的11434端口
Environment="OLLAMA_HOST=0.0.0.0"

udo systemctl daemon-reload

sudo systemctl restart ollama

至此,安装调试全部完成,进入测试阶段。

5.测试

        主机显卡不灵,4G显存,装7b模型,反应迟钝,一个问题从接受,到开始思考要好几分钟,思考也要好几分钟,最终答题显示思考了几秒。而且刷新很慢,一个字一个字的往外蹦,还在继续优化,看看能不能搞个50的显卡试试。

这个问题从敲回车到作答用了5分钟。

http://www.dtcms.com/wzjs/292614.html

相关文章:

  • 空间站免费版下载营销推广是干什么的
  • 南京高端网站建设公司谷歌搜索引擎在线
  • 建设网站备案与不备案区别外链的作用
  • 网站上的东西不能复制粘贴时事新闻最新
  • 做中医考研真题的网站cms网站模板
  • 用个人免费空间快速建立个人网站后方平台百度快速优化软件
  • 北京微信网站建设阿亮seo技术
  • b2c电子商务网站.网站建设方案设计书
  • 辽宁朝阳哪家做网站好免费建网页
  • 郑州网站建设多少钱站内推广方案
  • 石排做网站云盘网页版登录
  • 西宁软件优化网站建设百度关键词优化师
  • net后缀的可以做网站吗口碑营销5t理论
  • 商城网站建设服务公众号如何推广
  • 内江市住房和城乡建设局网站电话号码营销策划方案案例
  • 做婚庆网站的想法免费访问国外网站的app
  • 网站建设属于什么经营范围化妆品推广软文
  • 广州网站制作后缀泸州网站seo
  • 郑州房地产网站建设如何做好营销推广
  • 网站栏目建设调研唐山seo排名
  • 婺源做微信网站自己创建网站
  • 网页美工设计店铺页首制作过程宁波seo优化报价多少
  • 电子商务网站域名注册要求南昌网站seo
  • html学校官网代码制作锦州网站seo
  • 微信创建网站应用程序太原seo排名优化软件
  • 做灯箱的网站成都seo优化公司
  • 软件开发和网站开发天津网站优化
  • 建设服装网站的意义重庆人社培训网
  • wordpress网站被劫持重定向今天发生的重大新闻内容
  • 广州网站制作公司 番禺软件开发平台