当前位置: 首页 > news >正文

HNSW(Hierarchical Navigable Small World,分层可导航小世界)用来高效搜索高维向量的最近邻

HNSW(Hierarchical Navigable Small World,分层可导航小世界)是一种用于 高效最近邻搜索(ANN, Approximate Nearest Neighbors) 的索引结构,专门用于在 高维向量(比如文本、图像、音频的嵌入向量)中快速找到相似项。


HNSW 索引的核心思想

HNSW 主要是基于 图(Graph) 结构来加速搜索,它的核心理念有两个:

  1. 小世界网络(Small World Network)

    • 现实世界中很多网络(比如社交网络)都遵循 小世界性质——每个节点的连接是局部的,但通过少数几个跳跃就能快速遍历整个网络。
    • HNSW 采用这种结构,把数据点看成网络中的“节点”,用 来连接相似的点,从而减少搜索路径。
  2. 分层导航(Hierarchical Navigable)

    • 直接在 所有点之间搜索 会很慢,所以 HNSW 采用 多层索引结构,类似“金字塔”:

      • 最上层(顶层):节点少但彼此连接很远,帮助快速跳跃到大致位置。
      • 中间层:节点越来越多,连接范围缩小,引导更精准搜索。
      • 最底层:包含所有数据点,在这里进行精确搜索。
    • 这样做的好处是 从上往下搜索时,每次都能缩小范围,避免盲目遍历所有数据点,提高搜索效率。


HNSW 搜索过程

假设你想在 HNSW 索引中查找一个目标向量的最近邻(最相似的向量):

  1. 从最上层开始,找到一个大致接近的点(相当于在地图上先找到目标的大概位置)。
  2. 逐层向下,寻找更精确的匹配,每层都会选择最接近目标的点作为新的起点,直到到达最底层。
  3. 在最底层,进行精确最近邻搜索,找到最终最相似的 k 个点。

这个过程类似于 从高空看地图,先找到大致的城市(上层),然后逐步缩小到街道(中层),最终精确到具体的地址(底层)


HNSW 索引的优点

  1. 搜索速度快

    • 传统方法(如暴力搜索)需要 遍历所有点,计算相似度,时间复杂度是 O(N)
    • HNSW 通过分层索引和小世界图结构,只需要 O(logN) 或更少的时间,搜索更快。
  2. 支持高维数据

    • 适用于 文本嵌入(768 维)、图像特征(2048 维)等高维向量,比 KD-Tree 等传统索引方法效果更好。
  3. 近似搜索(ANN)

    • HNSW 不是精确最近邻搜索,而是“近似最近邻搜索”,即 牺牲一点准确率 来换取极快的查询速度,通常在 搜索效率和准确率之间达到平衡

HNSW 在实际应用中的场景

  • 搜索相似文本(例如语义搜索、文档检索)
  • 查找相似图片(例如人脸识别、内容推荐)
  • 语音识别(将语音转为向量后搜索匹配的声音片段)
  • 推荐系统(根据用户喜好找到最相似的内容)

总结

HNSW 本质上是一个“分层 + 小世界图”的索引结构,用来高效搜索高维向量的最近邻。
相比传统方法,它 更快、更适合高维数据、能很好地平衡搜索速度和准确率,因此在 AI 领域应用广泛,比如 文本搜索、图像检索、人脸识别、推荐系统 等。

你可以把 HNSW 想象成一个超高效的 GPS 导航系统,它通过 逐层缩小范围,快速找到离目标最近的点,而不是傻傻地遍历所有数据点。 🚀

相关文章:

  • JAVA常见的 JVM 参数及其典型默认值
  • CMMI(能力成熟度模型集成)简介
  • 蓝桥复习2(温度开始)
  • 系统思考反馈
  • 写Prompt的技巧和基本原则
  • PyQt6基础_界面控件简单介绍III
  • 【夜话系列】DelayQueue延迟队列(上):原理剖析与实现机制
  • 公网专线IP和私网专线IP之间的区别是什么?
  • 定时任务(python)
  • nodejs:midi-writer-js 将基金净值数据转换为 midi 文件
  • 多线程猜数问题
  • AI CUDA 工程师:Agentic CUDA 内核发现、优化和组合
  • 前后台系统
  • JavaScript单例模式
  • JS—Token与JWT
  • [测试] Google Test | 主流的 C 测试框架
  • 2024最新鸿蒙开发面试题合集(二)-HarmonyOS NEXT Release(API 12 Release)
  • 网络命名空间验证网络重叠现象
  • SpringBoot3.x 集成 shardingsphere-jdbc 实现读写分离
  • 26考研|数学分析:反常积分
  • 15年全免费,内蒙古准格尔旗实现幼儿园到高中0学费
  • 原核试验基地司令员范如玉逝世,从事核试验研究超40年
  • 摄影师|伊莎贝尔·穆尼奥斯:沿着身体进行文化溯源
  • 泽连斯基:俄代表团级别低,没人能做决定
  • 我使馆就中国公民和企业遭不公正待遇向菲方持续提出严正交涉
  • 国家统计局公布2024年城镇单位就业人员年平均工资情况