JavaScript四舍五入的那些坑

zollero 发布于2019-08-21 17:31 / 3387人阅读

摘要：进制之谜众所周知，计算机在设计之初，出于各方面角度考虑，最终采用二进制的格式来存储数据。同样的情况，也会出现在十进制和二进制的转换中。当我们在计算机中，声明一个变量为，其实该数字作为二进制保存在计算机中，并不真的是。

前言

经常使用JavaScript用来处理数字的程序员都知道，JavaScript的Number.toFixed，这一函数，在格式化数字时，会自动进行四舍五入，例如：

10.125.toFixed(2) ---> "10.13"

但是在某些情况下，其四舍五入的结果，往往都不尽人意，例如：

10.145.toFixed(2) ---> "10.14"

那为何为出现上述这种情况，需要从进制谈起。

进制之谜

众所周知，计算机在设计之初，出于各方面角度考虑，最终采用二进制的格式来存储数据。而我们平时对于数字所惯用的进制是十进制。用二进制的格式来存储十进制的数据，必然会面临进制的转换，进制的转换就会面临精度的丢失。

例如，对于⅓，对于三进制的数来说是0.1，而对于十进制来说，是0.333(3循环)。那对于三个⅓相加，对于三进制来说，就是一（逢三进一），而对于十进制来说，就是0.999(9循环)。

同样的情况，也会出现在十进制和二进制的转换中。当我们在计算机中，声明一个变量为10.145，其实该数字作为二进制保存在计算机中，并不真的是10.145。可以通过Number.prototype.toPrecision方法来一探究竟。

Number.prototype.toPrecision方法以指定的精度返回该数值对象的字符串表示。

10.145.toPrecision(21) ---> "10.1449999999999995737"

因此就可以解释，为什么toFixed()方法返回的四舍五入的值，在某些情况不符合预料。

同样，也告诉大家，浮点数的所有计算，加减乘除无一例外，在某些情况下，都会出现不符合预料的情况，最常见的如0.1+0.2，等等。

解决方案

针对上述情况，我写了一个简单的库，可以满足数字的四舍五入需求。round-js

探索浮点数标准

和大部分语言不同，JavaScript目前对于数字的表示，只有一种类型，即Number，采用64位双精度浮点数来表示一个数，其标准与大多数语言一样，采用IEEE-754标准。IEEE-754下64位双精度浮点数的标准，可以用一张图来表示，如下：

sign：代表符号，用1位来表示，即正数负数，1代表正数，0代表负数；

exponent：代表指数，底数为2，用11位来表述；

fraction：真正的有效数字，用52位来表示。

最终，任何一个数，对于该标准，都使用如下公式来表示得出：

其中：

V：结果

S：上面的sign

M：有效数字fraction

E：上面的exponent

可以看出，这个表示方法，类似十进制中的科学计数法。
对于这些概念，IEEE-754标准中还有许多规定，例如<1M<2，等等，更多细节就不展开了。

完。

超融合服务器混合云配置阿里云window服务器的一些坑那些奇怪的错误云计算的股票有那些不备案的网站有那些

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/89620.html

《javascript高级程序设计》笔记：Number类型

摘要：用表示法表示的数值等于前面的数值乘以的指数次幂。下面是一个使用表示法表示数值的例子等于注意浮点类型精度控制的两个方法是原型上实现的一个方法，其作用是对一个浮点数进行四舍五入并保留固定小数位。进制表示谈到Number类型，不得不提进制（此处不做过多介绍）八进制字面值的第一位必须是零(0)，然后是八进制数字序列(0~7)十六进制字面值的前两位必须是 0x，后跟任何十六进制数字(0~9 ...

Tychio 2019-08-20 18:36 评论0 收藏0
jQuery 3.0 beta 发布

摘要：回调函数将固定为异步执行。这些将被移除这些应该会保留需要注意的是，那些继续存在的回调函数不会有任何变化，只有的方法会受影响。创作不够，译文来凑。跟上篇一样是编译，不准备逐字翻。比如，我会把we译成jQuery官方团队，或者他们。初译版，待校正。这篇文章比较长，翻译难度也不小，如果有问题，欢迎提出，我尽量修改。正文开始。歪果仁也要双喜临门，于是 jQuery 官方团队选在 j...

LeanCloud 2019-08-22 10:59 评论0 收藏0
CSS外挂：Sass的那些装逼函数(function)

摘要：，返回的最大值。非相同的单位，报错编译为，返回一个随机数。函数函数称为三元条件函数，主要因为他和中的三元判断非常的相似。颜色函数暂时还没用到过。函数，根据三个值创建一个颜色将一个颜色根据透明度转换成颜色。前戏：前几篇文章其实都是些基础必备的，什么变量、继承、占位符、混合宏...这回来高级点的，玩玩Sass 自带的一些函数...有字符串函数(String Functions)、数字函数...

booster 2019-08-30 12:56 评论0 收藏0
Javascript 简介

摘要：在中，标识符常用于定义变量名和函数名等。复杂的表达式由简单表达式和运算符组成。布尔类型只有两个值真和假。表示一个空的对象。操作符检测会返回。是派生自的，因此规定对它们的相等性测试返回表示值相等。 Javascript 简介 JavaScript是一种运行在浏览器中的解释型的编程语言：将文本格式的字符代码发送给浏览器由浏览器解释运行。 JavaScript组成核心(ECMAScrip...

duan199226 2019-08-23 14:26 评论0 收藏0