js浮点数运算精度问题(JS超出精度数字问题的解决方法)
js浮点数运算精度问题
JS超出精度数字问题的解决方法精度问题最通俗易懂的解释
比如一个数 1÷3=0.33333333...... 大家都知道3会一直无限循环,数学可以表示,但是计算机要存储,方便下次取出来再使用,但0.333333...... 这个数 无限循环,你让计算机怎么存储?计算机再大的内存它也存不下,对吧! 所以不能存储一个相对于数学来说的值,只能存储一个近似值,所以当计算机存储后再取出来用时就会出现精度问题。
JS超出精度数字解决
一、js 最大安全数字是 Math.pow(2,53) - 1,超出这个数字相加会出现精度丢失问题,可通过将数字转换为字符串操作的思路处理,如下:
// js 最大安全数字: Math.pow(2, 53)-1 let a = '123456444565456.889' let b = '121231456.32' // a + b = '123456565796913.209' function addTwo(a, b) { //1.比较两个数长度 然后短的一方前面补0 if (a.length > b.length) { let arr = Array(a.length - b.length).fill(0); b = arr.join('') + b } else if (a.length < b.length) { let arr = Array(b.length - a.length).fill(0); a = arr.join('') + a } //2.反转两个数 (这里是因为人习惯从左往右加 而数字相加是从右到左 因此反转一下比较好理解) a = a.split('').reverse(); b = b.split('').reverse(); //3.循环两个数组 并进行相加 如果和大于10 则 sign = 1,当前位置的值为(和%10) let sign = 0;//标记 是否进位 let newVal = [];//用于存储最后的结果 for (let j = 0; j < a.length; j++) { let val = a[j] / 1 + b[j] / 1 + sign; //除1是保证都为数字 这里也可以用Number() if (val >= 10) { sign = 1; newVal.unshift(val % 10) //这里用unshift而不是push是因为可以省了使用reverse } else { sign = 0; newVal.unshift(val) } } // 最后一次相加需要向前补充一位数字 ‘1' return sign && newVal.unshift(sign) && newVal.join('') || newVal.join('') }
// 参考其他朋友的精简写法 function addTwo(a,b) { let temp = 0 let res = '' a = a.split('') b = b.split('') while(a.length || b.length || temp) { temp += Number(a.pop() || 0) + Number(b.pop() || 0) res = (temp%10) + res temp = temp > 9 } return res.replace(/^0+/g, '') }
二、当涉及到带有小数部分相加时,对上面方法进行一次封装,完整实现如下:
let a = '123456444565456.889' let b = '121231456.32' // a + b = '123456565796913.209' function addTwo(a = '0',b = '0', isHasDecimal=false) { //1.比较两个数长度 然后短的一方前面补0 if (a.length > b.length) { let arr = Array(a.length - b.length).fill(0); b = isHasDecimal && (b + arr.join('')) || arr.join('') + b } else if (a.length < b.length) { let arr = Array(b.length - a.length).fill(0); a = isHasDecimal && (a + arr.join('')) || arr.join('') + a } //2.反转两个数 (这里是因为人习惯从左往右加 而数字相加是从右到左 因此反转一下比较好理解) a = a.split('').reverse(); b = b.split('').reverse(); //3.循环两个数组 并进行相加 如果和大于10 则 sign = 1,当前位置的值为(和%10) let sign = 0;//标记 是否进位 let newVal = [];//用于存储最后的结果 for (let j = 0; j < a.length; j++) { let val = a[j] / 1 + b[j] / 1 + sign; //除1是保证都为数字 这里也可以用Number() if (val >= 10) { sign = 1; newVal.unshift(val % 10) //这里用unshift而不是push是因为可以省了使用reverse } else { sign = 0; newVal.unshift(val) } } // 最后一次相加需要向前补充一位数字 ‘1' return sign && newVal.unshift(sign) && newVal.join('') || newVal.join('') } function add(a,b) { let num1 = String(a).split('.') let num2 = String(b).split('.') let intSum = addTwo(num1[0], num2[0]) let res = intSum if (num1.length>1 || num2.length > 1) { let decimalSum = addTwo(num1[1], num2[1], true) if (decimalSum.length > (num1[1]||'0').length && decimalSum.length > (num2[1]||'0').length) { intSum = addTwo(intSum, decimalSum[0]) decimalSum = decimalSum.slice(1) res = `${intSum}.${decimalSum}` } else { res = `${intSum}.${decimalSum}` } } return res } console.log(add(a, b)) // 123456565796913.209 // console.log(add('325', '988')) // 1313
看一些JS数字精度丢失的一些典型问题
// 加法 =====================
0.1 + 0.2 = 0.30000000000000004
0.7 + 0.1 = 0.7999999999999999
0.2 + 0.4 = 0.6000000000000001// 减法 =====================
1.5 - 1.2 = 0.30000000000000004
0.3 - 0.2 = 0.09999999999999998
// 乘法 =====================
19.9 * 100 = 1989.9999999999998
0.8 * 3 = 2.4000000000000004
35.41 * 100 = 3540.9999999999995// 除法 =====================
0.3 / 0.1 = 2.9999999999999996
0.69 / 10 = 0.06899999999999999
总结
到此这篇关于JS超出精度数字问题解决的文章就介绍到这了,更多相关JS超出精度数字内容请搜索开心学习网以前的文章或继续浏览下面的相关文章希望大家以后多多支持开心学习网!
- js复制内容到剪贴板
- axios 请求前校验参数(js实现axios限制请求队列)
- html5音频处理(recorder.js 基于Html5录音功能的实现)
- extjs tabPanel的用法
- js时间变成日期格式(js日期时间格式化的方法实例)
- js日历图片(js实现简单日历效果)
- nodejsweb服务(Nodejs实现内网穿透服务)
- js淘宝购物车效果代码(JavaScript实现电商平台商品细节图)
- js基础入门到高级教程(浅谈如何循序渐进的学好JS)
- JS中错误处理
- 微信js开发教程(微信JSSDK分享功能图文实例详解)
- js浮点数运算精度问题(JS超出精度数字问题的解决方法)
- js统计文本框剩余可输入字数
- vue引用js库报错(Vue插件报错:Vue.js is detected on this page.问题解决)
- 利用前端做扫雷游戏(js实现经典扫雷游戏)
- nodejs八种命令(详细谈谈NodeJS进程是如何退出的)
- 换代在即,现在是抄底 7.5代 高尔夫的最佳时机吗(换代在即现在是抄底)
- 2020年大众7.5代高尔夫R终结特别版 最后的呐喊(2020年大众7.5代高尔夫R终结特别版)
- 七年前的这部剧有毒,全剧只有女主红到发紫,男主至今无人认识(七年前的这部剧有毒)
- 宋轶除了演过于曼丽,原来还演过一个青楼女子(宋轶除了演过于曼丽)
- 赵丽颖第一部当女主的戏,主角配角个个都是实力演员(赵丽颖第一部当女主的戏)
- 乾隆为何这么喜爱白塔原因是什么(乾隆为何这么喜爱白塔原因是什么)
热门推荐
- docker最新服务条款(解决Mac Docker x509证书的问题)
- mysql主键为什么用varchar(Mysql中varchar类型一些需要注意的地方)
- ubuntu如何卸载clion(Ubuntu16.04安装clion全过程及步骤详解)
- 面试的最后,HR问你还有什么问题要问,该怎么回答?
- JS文件智能提示另一个JS文件中的成员
- mysql主从模式与读写分离(磁盘写满导致MySQL复制失败的解决方案)
- mysql给字段加默认值(MySQL 如何处理隐式默认值)
- sqlserver查询自定义时间数据(SQLServer查询某个时间段购买过商品的所有用户)
- docker compose的常用命令(安装docker和docker-compose实例详解)
- pythonmatplotlib条形图动画(Python Matplotlib实现三维数据的散点图绘制)