Python3 Decimal + round 函数 小坑

[djj510620510]

from decimal import Decimal

round(Decimal(0.123456789), 3) + Decimal(0.01)  # out: Decimal('0.1330000000000000002081668171')

round(Decimal(0.123456789) + Decimal(0.01), 3)  # out: Decimal('0.133')

测试环境 python 3.6.5 + ipython

:D

[nooper]

不是 python 的坑，是所有计算机指令的问题。 你在好好查一下，有专门的文档 decimal round_up 等处理这个问题。

[chenstack]

>>> round(Decimal('0.123456789'), 3) + Decimal('0.01')
Decimal('0.133')

Decimal 初始化时不要传 float 类型，要传字符串，因为传 float 时，float 值本身就有精度丢失问题
>>> Decimal(0.01)
Decimal('0.01000000000000000020816681711721685132943093776702880859375')
>>> Decimal('0.01')
Decimal('0.01')

[lyy16384]

我试了没有 round 也一样
Decimal(0.123) + Decimal(0.01)

[chenstack]

Construct a new Decimal object. 'value' can be an integer, string, tuple, or another Decimal object. If no value is given, return Decimal('0'). The context does not affect the conversion and is only passed to determine if the InvalidOperation trap is active.

[XIVN1987]

使用 decimal 不就是为了避免 float 的误差吗？

对 decimal 使用 round 不就把精确表示又带回了 float 的不精确表示了吗？

[jingniao]

对 decimal round 有自己的函数

[djj510620510]

@chenstack 感谢告知 :D

@XIVN1987 但是 round 返回的还是 decimal 类型

[XIVN1987]

@djj510620510
抱歉，我看错了，，我以为是把 decimal 加法结果传给了 round，，

[djj510620510]

@jingniao 还真是。。。。

[djj510620510]

@jingniao 但按照 python 设计理念，不是应该 Decimal 类里实现一个__round__吗，然后这个__round__的逻辑跟 decimal.round 的逻辑一样。

[hjq98765]

我还是为是说 [四舍六入五成双]

[djj510620510]

@hjq98765 应该 JS 才会出现吧 /doge

[pkuphy]

>>> round(1.5)
2
>>> round(2.5)
2

[poet00]

`round(Decimal("0.123456789"), 3) + Decimal("0.01") #Decimal('0.133')`

```
from decimal import *

getcontext().prec

```

不是 decimal 的坑, 初始化 decimal 变量，推荐使用 string 或者在运算时手动指定 percesion

[1iuh]

初始化 decimal 别传浮点数进去

[1iuh]

另外 decimal 有自己 round 方法。

[hjq98765]

@djj510620510 #12 原文：“@hjq98765 应该 JS 才会出现吧 /doge ”
======
回复：python3 也有这个坑，刚从 python2 转过来的时候着实被坑了一把

[azh7138m]

@djj510620510
> 四舍六入五成双

C++ 也会

[yushi17]

https://zhuanlan.zhihu.com/p/60952919

[5oiR5piv5YK76YC8]

因为你传进去的时候就不是精确的