在进行浮点数计算时它们无法精确表达出所有的十进制小数位。
|
1
2
3
4
5
|
a = 4.1b = 5.329print(a+b) 9.428999999999998 |
这些误差实际上是底层CPU的浮点运算单元和IEEE754浮点数算数标准的一种“特性”。python的浮点数类型保存的数据采用的是原始表示形式，因此使用float实例时就不能避免这样的误差。
我们可以使用decimal模块避免这种操作(如果不介意牺牲下性能)：
|
1
2
3
4
5
6
|
from decimal import Decimala = Decimal('4.1')b = Decimal('5.329')print(a+b) 9.429 |
注意Decimal的参数必须是字符串，不能是浮点型，否则误差依旧存在。
decimal模块的主要功能是允许控制计算过程中的各个方面，包括数字的尾数和四舍五入。
|
1
2
3
4
5
6
7
8
9
10
11
12
13
|
from decimal import Decimalfrom decimal import localcontexta = Decimal(4.1)b = Decimal(5.329)print(a/b)print('================')with localcontext() as ctx: ctx.prec = 3 print(a/b) 0.7693751172827922400071261708================0.769 |
getcontext也可以实现和localcontext一样的功能
|
1
2
3
4
5
6
7
|
from decimal import Decimal, getcontexta = Decimal(4.1)b = Decimal(5.329)getcontext().prec = 3print(a/b) 0.769 |
误差我们不能完全消除，我们只能尽力优化算法，使得误差尽可能小。在大数和小数相加时要格外注意。
|
1
2
3
4
5
6
7
8
9
10
|
nums = [3.21e+18, 1, -3.21e+18]print(sum(nums))print('=========================')import mathres = math.fsum(nums)print(res) 0.0=========================1.0 |
以上这篇python执行精确的小数计算方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持服务器之家。
原文链接：https://blog.csdn.net/yangjiajia123456/article/details/80302615
