当前位置： 首页 > news >正文

高斯分布的KL散度计算

news 2025/8/24 7:34:46

1.概述

在生成式模型中，经常需要计算两个高斯分布的KL-divergence，本篇博客进行简单推导作为一个记录。

2. 高斯分布散度

两个概率分布P, \ Q的 KL散度可以表示为：

                ​​​​​​​        ​​​​​​​        D_{KL}(p||q) = \int_x p(x) \log \frac{p(x)}{q(x)}

多元高斯分布的pdf函数表示如下：

        ​​​​​​​        ​​​​​​​     &

http://www.dtcms.com/a/347200.html

相关文章：

  • STM32学习笔记19-FLASH
  • 标准浪涌测试波形对比解析
  • linux内核 - vmalloc 介绍
  • Unity 字符串输出文字一样但Equals 判断为false
  • 图论与最短路学习笔记
  • CH2 线性表
  • LeetCode 分类刷题：2529. 正整数和负整数的最大计数
  • IDEA控制台乱码（Tomcat）解决方法
  • 2-4.Python 编码基础 - 流程控制（判断语句、循环语句、break 语句与 continue 语句）
  • MySQL存储过程详解
  • `strlen` 字符串长度函数
  • GEO优化服务：智能时代的全球竞争新赛道
  • VS Code 中创建和开发 Spring Boot 项目
  • python企微发私信
  • Text2API与Text2SQL深度对比：自然语言驱动的数据交互革命
  • 【40页PPT】数据安全动态数据脱敏解决方案（附下载方式）
  • C/C++ 头文件命名约定
  • stack，queue以及deque的介绍
  • 【Java学习笔记】18.反射与注解的应用
  • [e3nn] 模型部署 | TorchScript JIT | `@compile_mode`装饰器 | Cython
  • TypeScript的构造函数constructor用法理解
  • 深入理解Java虚拟机：JVM高级特性与最佳实践（第3版）第四章知识点问答补充及重新排版
  • 离线优先与冲突解决：ABP vNext + PWA 的边缘同步
  • SQL Server更改日志模式：操作指南与最佳实践！
  • 使用 Certbot 申请 Apache 证书配置棘手问题
  • UAD详解
  • 分库分表系列-核心内容
  • 知识蒸馏 Knowledge Distillation 概率链式法则（Probability Chain Rule）
  • Class42时序模型
  • 深度学习开篇