python中精确的浮点数运算

xiangzhihong 发布于2019-07-30 14:54 / 1973人阅读

摘要：起步浮点数的一个普遍的问题是它们不能精确的表示十进制数。这是由于底层和标准通过自己的浮点单位去执行算术时的特征。看似有穷的小数在计算机的二进制表示里却是无穷的。尽管代码看起来比较奇怪，使用字符串来表示数字，但是支持所有常用的数学运算。

起步

浮点数的一个普遍的问题是它们不能精确的表示十进制数。

>>> a = 4.2
>>> b = 2.1
>>> a + b
6.300000000000001
>>> (a + b) == 6.3
False
>>>

这是由于底层 CPU 和 IEEE 754 标准通过自己的浮点单位去执行算术时的特征。看似有穷的小数, 在计算机的二进制表示里却是无穷的。

一般情况下，这一点点的小误差是允许存在的。如果不能容忍这种误差（比如金融领域），那么就要考虑用一些途径来解决这个问题了。

Decimal

使用这个模块不会出现任何小误差。

>>> from decimal import Decimal
>>> a = Decimal("4.2")
>>> b = Decimal("2.1")
>>> a + b
Decimal("6.3")
>>> print(a + b)
6.3
>>> (a + b) == Decimal("6.3")
True

尽管代码看起来比较奇怪，使用字符串来表示数字，但是 Decimal 支持所有常用的数学运算。 decimal 模块允许你控制计算的每一方面，包括数字位数和四舍五入。在这样做之前，需要创建一个临时上下文环境来改变这种设定：

>>> from decimal import Decimal, localcontext
>>> a = Decimal("1.3")
>>> b = Decimal("1.7")
>>> print(a / b)
0.7647058823529411764705882353
>>> with localcontext() as ctx:
...     ctx.prec = 3
...     print(a / b)
...
0.765
>>> with localcontext() as ctx:
...     ctx.prec = 50
...     print(a / b)
...
0.76470588235294117647058823529411764705882352941176
>>>

由于 Decimal 的高精度数字自然也就用字符串来做展示和中转。

总结

总的来说，当涉及金融领域时，哪怕是一点小小的误差在计算过程中都是不允许的。因此 decimal 模块为解决这类问题提供了方法。

私有云云服务器精确运算浮点数的运算 python中@运算 js浮点数运算

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/40994.html

Python数据结构——另一个角度看Python(概述)

摘要：数据结构另一个角度看概述中绝大部分数据结构可以最终分解为三种类型标量序列映射。创建变量时不需要声明数据类型的数据类型是整数而的数据类型是浮点数布尔值只有和两种值支持三种运算。的浮点数实际上是双精度浮点数即语言的类型。 Python数据结构——另一个角度看Python(概述) Python 中绝大部分数据结构可以最终分解为三种类型: 标量(Scaler), 序列(Sequence), ...

big_cat 2019-07-31 09:58 评论0 收藏0
Python标准数据类型-数字

Python内置了整数、复数、浮点数三种数字类型。整数整数是没有小数部分的数值，与数学上的一样： >>> 1 1 >>> -1 -1 整数没有大小限制，只要你的内存足够大，就可以创建任意大小的整数： >>> 1111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111...

svtter 2019-07-31 11:14 评论0 收藏0
为什么0.1+0.2不等于0.3

摘要：又如，对于，结果其实并不是，但是最接近真实结果的数，比其它任何浮点数都更接近。许多语言也就直接显示结果为了，而不展示一个浮点数的真实结果了。小结本文主要介绍了浮点数计算问题，简单回答了为什么以及怎么办两个问题为什么不等于。原文地址：为什么0.1+0.2不等于0.3 先看两个简单但诡异的代码： 0.1 + 0.2 > 0.3 // true 0.1 * 0.1 = 0.01000000...

Profeel 2019-08-21 17:48 评论0 收藏0
JS魔法堂：彻底理解0.1 + 0.2 === 0.30000000000000004的背后

摘要：也就是说不仅是会产生这种问题，只要是采用的浮点数编码方式来表示浮点数时，则会产生这类问题。到这里我们都理解只要采取的浮点数编码的语言均会出现上述问题，只是它们的标准类库已经为我们提供了解决方案而已。 Brief 一天有个朋友问我JS中计算0.7 * 180怎么会等于125.99999999998，坑也太多了吧！那时我猜测是二进制表示数值时发生round-off error所导致，但并不...

JerryWangSAP 2019-08-19 18:12 评论0 收藏0
JS中如何理解浮点数？

摘要：本文通过介绍的二进制存储标准来理解浮点数运算精度问题，和理解对象的等属性值是如何取值的，最后介绍了一些常用的浮点数精度运算解决方案。浮点数精度运算解决方案关于浮点数运算精度丢失的问题，不同场景可以有不同的解决方案。本文由云+社区发表相信大家在平常的 JavaScript 开发中，都有遇到过浮点数运算精度误差的问题，比如 console.log(0.1+0.2===0.3)// fa...

bang590 2019-08-26 13:26 评论0 收藏0