当前位置: 首页 > news >正文

JS浮点数精度问题

在JavaScript开发中,浮点数精度问题是一个常见的陷阱。本文将深入探讨JavaScript中浮点数精度问题的原因、影响以及解决方案。

一、浮点数精度常见问题

(一)加法运算

console.log(0.1 + 0.2); // 0.30000000000000004
console.log(0.7 + 0.1); // 0.7999999999999999
console.log(0.2 + 0.4); // 0.6000000000000001
console.log(2.22 + 0.1); // 2.3200000000000003

(二)减法运算

console.log(1.5 - 1.2); // 0.30000000000000004
console.log(0.3 - 0.2); // 0.09999999999999998

(三)乘法运算

console.log(19.9 * 100); // 1989.9999999999998
console.log(19.9 * 10 * 10); // 1990
console.log(9.7 * 100); // 969.9999999999999
console.log(39.7 * 100); // 3970.0000000000005

(四)除法运算

console.log(0.3 / 0.1); // 2.9999999999999996
console.log(0.69 / 10); // 0.06899999999999999

(五)四舍五入保留小数位数

console.log((1.335).toFixed(2)); // 1.33

二、为什么会有这样的问题

(一)浮点数的存储方式

在JavaScript中,所有数字都以64位浮点数形式存储,即使整数也是如此。这种存储方式基于IEEE 754标准,其中64位的划分如下:

  • 符号位(1位):表示正负数,0表示正数,1表示负数。
  • 指数位(11位):表示次方数。
  • 尾数位(52位):存储小数部分,超出部分自动进一舍零。

(二)二进制表示的局限性

浮点数在计算机中以二进制形式存储,但某些十进制小数无法精确表示为二进制小数。例如,0.1和0.2在二进制中是无限循环小数,因此在存储时会被截断,导致精度丢失。

(三)JavaScript的Number类型

JavaScript中的Number类型统一按浮点数处理,整数也是按最大54位来计算的。因此,当数值超过安全范围(Number.MAX_SAFE_INTEGERNumber.MIN_SAFE_INTEGER)时,就会出现精度问题。

三、解决方案

(一)使用第三方库

为了精确处理浮点数运算,可以使用一些成熟的第三方库,如Math.jsdecimal.jsbig.js

Math.js

Math.js是一个功能强大的数学库,支持多种数据类型和操作。

const math = require('mathjs');
console.log(math.add(0.1, 0.2)); // 0.3
decimal.js

decimal.js提供任意精度的十进制数值运算。

const Decimal = require('decimal.js');
console.log(new Decimal(0.1).plus(0.2).toNumber()); // 0.3
big.js

big.js专注于大数运算,支持高精度的浮点数运算。

const Big = require('big.js');
console.log(new Big(0.1).plus(0.2).toString()); // "0.3"

(二)自定义函数

如果不想引入第三方库,可以编写自定义函数来处理浮点数运算。以下是一个简单的加法函数示例:

function add(a, b) {const factor = 10 ** 10;return (Math.round(a * factor) + Math.round(b * factor)) / factor;
}
console.log(add(0.1, 0.2)); // 0.3

(三)避免浮点数运算

在某些情况下,可以避免直接使用浮点数运算。例如,处理货币时,可以将金额转换为整数(如分)进行计算,最后再转换回浮点数。

function addCents(a, b) {return (Math.round(a * 100) + Math.round(b * 100)) / 100;
}
console.log(addCents(0.1, 0.2)); // 0.3

相关文章:

  • TypeScript 中高级类型 keyof 与 typeof的场景剖析。
  • 共享签名是什么
  • 打破建筑管理壁垒,IBMS智能系统赋能现代建筑协同增效
  • AUTOSAR图解==>AUTOSAR_SWS_MCUDriver
  • WWW22-可解释推荐|用于推荐的神经符号描述性规则学习
  • 基于NetWork的类FNAF游戏DEMO框架
  • 在 Android 上备份短信:保护您的对话
  • 项目管理工具Maven
  • 四、关系数据库标准语言SQL_2
  • 使用 Fetch + Streams 处理流式响应(Streaming Response)
  • 【空间光学系统与集成微纳光子学系统简介】
  • Proteus寻找元器件(常见)
  • 带你手写React中的useReducer函数。(底层实现)
  • ESP8266远程控制:实现网络通信与设备控制
  • Nginx网站服务:从入门到LNMP架构实战
  • 日志技术-LogBack、Logback快速入门、Logback配置文件、Logback日志级别
  • WebFuture:设置不自动删除操作日志
  • 26 C 语言函数深度解析:定义与调用、返回值要点、参数机制(值传递)、原型声明、文档注释
  • 万兴PDF手机版
  • 前端面试题目-高频问题集合
  • 免费用手机建立网站/常见的网络营销方法有哪些
  • 兰州做网站改版的公司/引流推广平台
  • 网站banner高度/免费网站 推广网站
  • 建设宠物店网站/免费访问国外网站的app
  • 网站开发实习日记/百度问一问人工客服怎么联系
  • 海拉尔做网站多少钱/免费个人网站制作