当前位置：首页 > news >正文

基于Qt，调用千问7B大模型，实现智能对话

news 2025/11/17 9:04:12

之前在工作中，没有接触过大模型，只是经常使用AI来解决问题。
换工作之后，前几天看了同事做的一个系统，集成大模型，将AI应用到了工作中，当时第一感觉是，我是不是落后了一个世纪。。。
于是从他们的只言片语中，去查阅相关资料，因为我对Qt比较熟悉，因此基于Qt，做了一个简单的智能模型对话框。

一大模型部署

硬件配置要求（建议按着自己电脑配置来）
• 通义千问提供多种规格的模型版本，用户需根据硬件条件选择适配方案：
• - 轻量级场景：Qwen3-4B模型仅需4GB显存，适合普通家用电脑。
• - 中端场景：Qwen3-7B模型需8GB显存，可处理复杂逻辑推理任务。
• - 高性能场景：Qwen3-14B及以上版本需16GB显存，支持多模态交互与专业领域应用。
二、Ollama框架部署方案
Ollama安装与配置
• - 下载安装：访问Ollama官网下载对应系统版本，默认安装路径为C盘。
• - 路径修改：可以通过ollama软件左侧settings，进行路径设置。如下图红色标注2对应所示

除此之外，上图中1对应的是是否联网；3对应的文本长度；4对应的是飞行模式
• - 模型下载：在命令行输入ollama pull qwen3:4b（以4B版本为例），等待下载完成。

二大模型运行

使用win+r打开：运行窗口
输入cmd，回车，弹出命令行窗口
在窗口中输入以下代码：

ollama list

回车，显示已安装模型
继续输入需要运行的模型，我的是qwen7b，输入的是

ollama run qwen2.5:7b

回车，等待，此时可通过任务管理器查看ollama.exe的内存占用情况，等稳定后，说明启动成功，或者出现下图所示，也说明启动成功。
在这里插入图片描述

三 Qt案例编写

核心是访问大模型，主要是callQwenModel函数部分，直接上代码，不废话了，代码中关键部分有注释。经过测试，能和大模型进行通话，但是有一个bug，就是代码中设置的格式，无法在前端进行展示，在网上找了一些解决办法，但是都没用，如果有人能够解决，欢迎不吝赐教，在评论中指导一下，在此先感谢了。

mainwindow.cpp

#include "mainwindow.h"
#include "ui_mainwindow.h"
#include <QNetworkRequest>
#include <QJsonDocument>
#include <QJsonArray>
#include <QScrollBar>
#include <QDebug>MainWindow::MainWindow(QWidget *parent) :QMainWindow(parent),ui(new Ui::MainWindow),networkManager(new QNetworkAccessManager(this))
{ui->setupUi(this);//设置窗口属性setWindowTitle("千问7B聊天助手1.0");//连接网络请求完成信号connect(networkManager, &QNetworkAccessManager::finished, this, &MainWindow::onNetworkReply);ui->sendBtn->setEnabled(true);ui->inputEdit->setFocus();ui->sendBtn->setShortcut(QKeySequence(Qt::Key_Return));addMessage("你好，我是基于千问7B模型的AI助手，很高兴为你服务。", false);}MainWindow::~MainWindow()
{delete ui;
}void MainWindow::on_sendBtn_clicked()
{QString userInput = ui->inputEdit->text().trimmed();if(userInput.isEmpty()){return;}addMessage(userInput, true);ui->sendBtn->setEnabled(false);ui->inputEdit->clear();callQwenModel(userInput);
}void MainWindow::onNetworkReply(QNetworkReply *reply)
{//重新启用发送按钮ui->sendBtn->setEnabled(true);if(reply->error() != QNetworkReply::NoError){addMessage("请求出错：" + reply->errorString(), false);reply->deleteLater();return;}//读取响应QByteArray responseData = reply->readAll();reply->deleteLater();//解析JSON响应QJsonDocument doc = QJsonDocument::fromJson(responseData);if(!doc.isObject()){addMessage("响应解析失败", false);return;}QJsonObject jsonRes = doc.object();if(jsonRes.contains("response")){QString resText = jsonRes["response"].toString();addMessage(resText, false);}else {addMessage("未找到响应", false);}
}void MainWindow::addMessage(const QString &message, bool isUser)
{QString formattedMessage;if(isUser){// 清除之前文本的格式QTextCursor cursor = ui->chatArea->textCursor();cursor.movePosition(QTextCursor::End);
//        formattedMessage = "<div style='margin: 10px; padding: 10px; background-color: rgb(255, 0, 0); border-radius: 10px; text-align: right;'>";formattedMessage = "<div style='margin: 10px; padding: 10px; background-color: rgb(255, 0, 0); border-radius: 10px; text-align: left;'>";formattedMessage += "<b>你：</b><br>" + message.toHtmlEscaped();}else {formattedMessage = "<div style='margin: 10px; padding: 10px; background-color: rgb(49, 255, 224); border-radius: 10px; text-align: left;'>";formattedMessage += "<b>AI助手:</b><br>" + message;}formattedMessage += "</div>";ui->chatArea->append(formattedMessage);QScrollBar *scrollbar = ui->chatArea->verticalScrollBar();scrollbar->setValue(scrollbar->maximum());
}void MainWindow::callQwenModel(const QString &prompt)
{//ollama api 地址（假设使用默认配置QUrl url("http://localhost:11434/api/generate");QNetworkRequest request(url);request.setHeader(QNetworkRequest::ContentTypeHeader, "application/json");//构造请求数据QJsonObject requesData;requesData["model"] = "qwen2.5:7b";     //对应的大模型名称requesData["prompt"] = prompt;requesData["stream"] = false;QJsonDocument doc(requesData);QByteArray data = doc.toJson();//发送post请求networkManager->post(request, data);
}

mainwindow.h

#ifndef MAINWINDOW_H
#define MAINWINDOW_H#include <QMainWindow>
#include <QNetworkAccessManager>
#include <QNetworkReply>
#include <QJsonObject>namespace Ui {
class MainWindow;
}class MainWindow : public QMainWindow
{Q_OBJECTpublic:explicit MainWindow(QWidget *parent = nullptr);~MainWindow();private slots:void on_sendBtn_clicked();void onNetworkReply(QNetworkReply *reply);private:Ui::MainWindow *ui;QNetworkAccessManager *networkManager;void addMessage(const QString &message, bool isUser);void callQwenModel(const QString &prompt);
};#endif // MAINWINDOW_H

pro文件

#-------------------------------------------------
#
# Project created by QtCreator 2025-11-16T09:38:49
#
#-------------------------------------------------QT       += core gui networkgreaterThan(QT_MAJOR_VERSION, 4): QT += widgetsTARGET = LLM_test1
TEMPLATE = app# The following define makes your compiler emit warnings if you use
# any feature of Qt which has been marked as deprecated (the exact warnings
# depend on your compiler). Please consult the documentation of the
# deprecated API in order to know how to port your code away from it.
DEFINES += QT_DEPRECATED_WARNINGS# You can also make your code fail to compile if you use deprecated APIs.
# In order to do so, uncomment the following line.
# You can also select to disable deprecated APIs only up to a certain version of Qt.
#DEFINES += QT_DISABLE_DEPRECATED_BEFORE=0x060000    # disables all the APIs deprecated before Qt 6.0.0CONFIG += c++11SOURCES += \main.cpp \mainwindow.cppHEADERS += \mainwindow.hFORMS += \mainwindow.ui# Default rules for deployment.
qnx: target.path = /tmp/$${TARGET}/bin
else: unix:!android: target.path = /opt/$${TARGET}/bin
!isEmpty(target.path): INSTALLS += target

main.cpp

#include "mainwindow.h"
#include <QApplication>int main(int argc, char *argv[])
{QApplication a(argc, argv);MainWindow w;w.show();return a.exec();
}

mainwindow.ui

(根据以下文件在designer中进行设计）

<?xml version="1.0" encoding="UTF-8"?>
<ui version="4.0"><class>MainWindow</class><widget class="QMainWindow" name="MainWindow"><property name="geometry"><rect><x>0</x><y>0</y><width>600</width><height>500</height></rect></property><property name="windowTitle"><string>千问7b聊天助手</string></property><widget class="QWidget" name="centralWidget"><layout class="QVBoxLayout" name="verticalLayout"><item><widget class="QLabel" name="label"><property name="styleSheet"><string notr="true">font-size: 16px; font-weight: bold; padding: 10px;</string></property><property name="text"><string>千问7B聊天助手</string></property><property name="alignment"><set>Qt::AlignCenter</set></property></widget></item><item><widget class="QTextEdit" name="chatArea"><property name="styleSheet"><string notr="true"/></property><property name="readOnly"><bool>true</bool></property></widget></item><item><layout class="QHBoxLayout" name="horizontalLayout"><item><widget class="QLineEdit" name="inputEdit"><property name="styleSheet"><string notr="true">padding: 8px; border: 1px solid #ccc; border-radius: 5px;</string></property><property name="placeholderText"><string>请输入你的问题...</string></property></widget></item><item><widget class="QPushButton" name="sendBtn"><property name="styleSheet"><string notr="true">padding: 8px 16px;background-color: #2196F3; 
color: white; 
border: none; 
border-radius: 5px;</string></property><property name="text"><string>发送</string></property></widget></item></layout></item></layout></widget><widget class="QMenuBar" name="menuBar"><property name="geometry"><rect><x>0</x><y>0</y><width>600</width><height>23</height></rect></property></widget><widget class="QToolBar" name="mainToolBar"><attribute name="toolBarArea"><enum>TopToolBarArea</enum></attribute><attribute name="toolBarBreak"><bool>false</bool></attribute></widget><widget class="QStatusBar" name="statusBar"/></widget><layoutdefault spacing="6" margin="11"/><resources/><connections/>
</ui>