博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Javascript Number的精度问题
阅读量:7144 次
发布时间:2019-06-28

本文共 984 字,大约阅读时间需要 3 分钟。

hot3.png

项目中发现使用Number对象的toFixed(2),没有进行四舍五入的操作,如:

var test = 0.6667; console.log(Number(test).toFixed(2));// 输出 0.66 ,先将test转变成字符串,结果的小数点后由指定位数的数字

这明显是存在问题的,后来在网上找了些资料,发现可以这样实现小数四舍五入的功能。

//思路:先使用round函数四舍五入成整数,然后再保留指定小数位Object.prototype.round = function (number,fractionDigits){    number      = number + 1/Math.pow(10,number.toString().length-1);//往最后补一位    return Math.round(number*Math.pow(10,fractionDigits)) / Math.pow(10,fractionDigits);};console.log(round(test,2));// 输出 0.67

--------------更新修复 ------2014.4.26------------

实际测试发现,本文实现的round函数存在一个重大的问题,就是当number为整数时,得到的值会在原来的基础上+1,如round(0,2)---->得到结果1.00,显然是有问题的。修正后的round函数如下:

//思路:先使用round函数四舍五入成整数,然后再保留指定小数位Object.prototype.round = function (number,fractionDigits){    //四舍五入    number = Math.round(number*Math.pow(10,fractionDigits)) / Math.pow(10,fractionDigits);    //取小数位    return Number(number.toFixed(fractionDigits));};console.log(round(test,2),round(0,2));// 输出 0.67、0.00

转载于:https://my.oschina.net/jieqiuming/blog/224755

你可能感兴趣的文章
WinSCP之Windows与Windows之间传输文件
查看>>
0021-使用JDBC向Kudu表插入中文字符-cast的秘密
查看>>
开发十年,阿里工作6年,我是如何成长为一名优秀的P7架构师
查看>>
Android-工作在后台-Service
查看>>
Docker使用命令和技巧
查看>>
以太坊私有链 小试牛刀
查看>>
JVM启动参数大全
查看>>
bin/start-hbase.sh : No such file or directory,...
查看>>
python文件读取生成器
查看>>
从Ubuntu 16.10升级到Ubuntu 17.04系统的方法
查看>>
install wubi
查看>>
python使用logging进行日志配置
查看>>
开上一博
查看>>
Java arcface 2.0 最新版 离线人脸识别SDK
查看>>
【开源】.Net Aop(静态织入)框架 BSF.Aop
查看>>
resin容器配置影响listener加载时机
查看>>
《Python实现删除目录下相同文件》学习到的知识
查看>>
NTP服务器
查看>>
网站运维——Chrome 神奇的21秒
查看>>
VI显示行号并加亮颜色
查看>>