当前位置: 首页 > news >正文

桌面端截长图/滚动截图:图像融合拼接关键算法

关键环节的实现逻辑

1. 滚动条滚动之前,为窗口拍照:

 2. 滚动条滚动之后,为窗口拍照:(滚动的是左侧代码区域)

3. 两个图像融合拼接成一个图像:(右侧区域不是关键区域,仅简单拼接) 

找到左侧关键区域子窗口句柄

POINT pt;
GetCursorPos(&pt);
HWND hwnd = WindowFromPoint(pt);

 找到这个句柄之后,确定左侧核心区域在原图中的位置,并得到两个子图像:QImage image1和QImage image2

找两个子图像的相似区域(OpenCV算法)

注意1:两个子图像重叠的部分并不一定是所有像素都一样,所以必须使用图像相似性查找算法。

注意2:我们明确image1的底部区域与image2的顶部区域相似,所以以下代码中,我们只拿image2的顶部区域在image1中搜索(找相似区域)

#include "opencv2\opencv.hpp"QRect findMatchingRegion(const QImage& img1, const QImage& img2) {// 转换为 OpenCV Mat,确保格式为 RGB888cv::Mat mat1 = cv::Mat(img1.height(), img1.width(), CV_8UC3, (void*)img1.constBits(), img1.bytesPerLine()).clone();cv::Mat mat2 = cv::Mat(img2.height(), img2.width(), CV_8UC3, (void*)img2.constBits(), img2.bytesPerLine()).clone();// 结果图像大小:W - w + 1, H - h + 1int result_cols = mat1.cols - mat2.cols + 1;int result_rows = mat1.rows - mat2.rows + 1;cv::Mat result;result.create(result_rows, result_cols, CV_32FC1);// 进行模板匹配cv::matchTemplate(mat1, mat2, result, cv::TM_CCOEFF_NORMED);// 找到最大值的位置(最佳匹配)double minVal, maxVal;cv::Point minLoc, maxLoc;cv::minMaxLoc(result, &minVal, &maxVal, &minLoc, &maxLoc);// 匹配位置就是左上角坐标,宽高就是模板图像大小QRect matchedRegion(maxLoc.x, maxLoc.y, img2.width(), img2.height());return matchedRegion;
}

auto img1 = image1.convertToFormat(QImage::Format_RGB888);
auto img2 = image2.convertToFormat(QImage::Format_RGB888).copy(0, 0, image2.width(), 100);
auto r1 = findMatchingRegion(img1, img2);

这个算法返回的就是image1中与image2顶部100个像素区域相似的区域(在image1的底部)

找两个子图像的相似区域(自研算法)

OpenCV库太大了,得五六十兆,所以自己写了个算法

#include <QtConcurrent>
#include <QFuture>
#include <QMutex>struct MatchResult {int y;double error;
};MatchResult computeSSDAtY(int y, const QImage& gray1, const QImage& gray2) {const int width = gray1.width();const int blockHeight = gray2.height();double error = 0.0;const uchar* p1 = gray1.constBits() + y * gray1.bytesPerLine();const uchar* p2 = gray2.constBits();for (int row = 0; row < blockHeight; ++row) {const uchar* row1 = p1 + row * gray1.bytesPerLine();const uchar* row2 = p2 + row * gray2.bytesPerLine();for (int x = 0; x < width; ++x) {int diff = int(row1[x]) - int(row2[x]);error += diff * diff;}}return { y, error };
}QRect findMostSimilarRegionParallel(const QImage& gray1, const QImage& gray2) {const int searchHeight = gray1.height() - gray2.height() + 1;// 构造搜索区间QList<int> yList;for (int y = 0; y < searchHeight; ++y)yList.append(y);// 并行计算每个 y 的误差auto results = QtConcurrent::blockingMapped(yList,[&](int y) { return computeSSDAtY(y, gray1, gray2); });// 取最小误差的结果MatchResult best = *std::min_element(results.begin(), results.end(),[](const MatchResult& a, const MatchResult& b) {return a.error < b.error;});return QRect(0, best.y, gray2.width(), gray2.height());
}
auto img1 = img1.convertToFormat(QImage::Format_Grayscale8);
auto img2 = img2.convertToFormat(QImage::Format_Grayscale8);
auto r2 = findMostSimilarRegionParallel(img1, img2);

自己实现得算法用到了多线程(QtConcurrent库),效率也不错,跟OpenCV的算法相差不大。

总结

找到滚动区域的相似区之后(关键是相似区域的位置),拼接两个图像就不成问题了。

误区:不要试图去计算鼠标滚轮滚动一次窗口内容行进了多少个像素高度,这得不到好结果,因为每个窗口行进的高度是不一样的。

相关文章:

  • 【LeetCode 热题 100】动态规划 系列
  • 【Reality Capture 】02:Reality Capture1.5中文版软件设置与介绍
  • 【风控】用户特征画像体系
  • 序列dp常见思路总结
  • idea中Lombok失效的解决方案
  • 城市内涝监测预警系统守护城市安全
  • 【Linux 学习计划】-- 权限
  • 解决“VMware另一个程序已锁定文件的一部分,进程无法访问“
  • 革新直流计量!安科瑞DJSF1352-D电表:360A免分流直连,精度与空间双突破
  • foreach中使用await的问题
  • MATLAB中的概率分布生成:从理论到实践
  • 代理(主要是动态)和SpringAOP
  • 泰迪杯特等奖案例深度解析:基于多模态融合与小样本学习的工业产品表面缺陷智能检测系统
  • Latex单栏环境下如何设置表格和图片不独占一栏
  • 12 分钟讲解所有 JavaScript 库/模块[译]
  • 曝光融合(Exposure Fusion)
  • java后端学习
  • 【记录】Windows|竖屏怎么调整分辨率使横竖双屏互动鼠标丝滑
  • 51单片机的lcd12864驱动程序
  • uniapp-商城-57-后台 新增商品(弹窗属性数据添加父级)
  • 普京调整俄陆军高层人事任命
  • 病重老人被要求亲自取钱在农业银行门口去世?株洲警方介入
  • 时隔3年俄乌直接谈判今日有望重启:谁参加,谈什么
  • 深圳拟出让3宗居住用地,共计用地面积6.77公顷
  • 北洋“修约外交”的台前幕后——民国条约研究会档案探研
  • 在对国宝的探索中,让美育浸润小学校园与家庭