使用十进制数字修复浮点精度

Orhanodabasi
a = 1

for x in range(5):
    a += 0.1
    print(a)

结果如下:

1.1
1.2000000000000002
1.3000000000000003
1.4000000000000004
1.5000000000000004

我怎样才能解决这个问题?round()功能的唯一途径?可以在设置变量值之前设置其精度吗?

克里斯

在设置值之前可以设置变量的精度吗?

使用decimalfloat()提供不同精度并可以精确表示十进制数字模块不同模块

>>> from decimal import Decimal, getcontext
>>> 
>>> getcontext().prec = 5
>>> 
>>> a = Decimal(1)
>>> 
>>> for x in range(5):
...     a += Decimal(0.1)
...     print(a)
... 
1.1000
1.2000
1.3000
1.4000
1.5000

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

使用十进制数字修复浮点精度

来自分类Dev

存储双精度十进制数字?使用updatesourcetrigger作为PropertyChanged的属性

来自分类Dev

哪些单精度浮点数需要9个有效十进制数字才能明确表示十进制?

来自分类Dev

使用python将十六进制十进制数字转换为十进制

来自分类Dev

如何使用HSSFFont以十进制数字设置字体

来自分类Dev

十进制数字逗号样式

来自分类Dev

Java舍入十进制数字

来自分类Dev

Android TextWatcher十进制数字

来自分类Dev

jQuery:动画十进制数字

来自分类Dev

设置十进制数字格式

来自分类Dev

JavaScript舍入十进制数字

来自分类Dev

不会将字符串格式的十进制数字转换为浮点数

来自分类Dev

打印不带DECIMAL字且不进行浮点转换的十进制数字

来自分类Dev

Java获得双精度数的前2个十进制数字

来自分类Dev

正则表达式为十进制数字,精度为2

来自分类Dev

将十进制数字从字符串转换为双精度

来自分类Dev

十进制至半精度浮点

来自分类Dev

十进制到半精度浮点

来自分类Dev

jQuery验证插件:使用逗号作为十进制分隔符来验证十进制数字

来自分类Dev

使用设置的最大精度格式化十进制数字,但不使用不必要的尾随零

来自分类Dev

使用带有2个尾随数字的十进制数字进行迁移

来自分类Dev

HTML数字输入:如何使用step = 1允许十进制数字

来自分类Dev

在VB.NET中应使用哪种数据类型来处理100个十进制数字或更高的精度?Double似乎只显示约17

来自分类Dev

没有十进制模块,浮点数中是否可以有超过15个十进制数字?

来自分类Dev

F#读取文件,拆分字符串列表,汇总数据,非浮点十进制数字

来自分类Dev

如何找到给定范围内以零位十进制数字结尾的浮点值?

来自分类Dev

将数据类型更改为浮点并四舍五入为2个十进制数字

来自分类Dev

如何找到给定范围内以零位十进制数字结尾的浮点值?

来自分类Dev

难以删除十进制数字中的零值?

Related 相关文章

  1. 1

    使用十进制数字修复浮点精度

  2. 2

    存储双精度十进制数字?使用updatesourcetrigger作为PropertyChanged的属性

  3. 3

    哪些单精度浮点数需要9个有效十进制数字才能明确表示十进制?

  4. 4

    使用python将十六进制十进制数字转换为十进制

  5. 5

    如何使用HSSFFont以十进制数字设置字体

  6. 6

    十进制数字逗号样式

  7. 7

    Java舍入十进制数字

  8. 8

    Android TextWatcher十进制数字

  9. 9

    jQuery:动画十进制数字

  10. 10

    设置十进制数字格式

  11. 11

    JavaScript舍入十进制数字

  12. 12

    不会将字符串格式的十进制数字转换为浮点数

  13. 13

    打印不带DECIMAL字且不进行浮点转换的十进制数字

  14. 14

    Java获得双精度数的前2个十进制数字

  15. 15

    正则表达式为十进制数字,精度为2

  16. 16

    将十进制数字从字符串转换为双精度

  17. 17

    十进制至半精度浮点

  18. 18

    十进制到半精度浮点

  19. 19

    jQuery验证插件:使用逗号作为十进制分隔符来验证十进制数字

  20. 20

    使用设置的最大精度格式化十进制数字,但不使用不必要的尾随零

  21. 21

    使用带有2个尾随数字的十进制数字进行迁移

  22. 22

    HTML数字输入:如何使用step = 1允许十进制数字

  23. 23

    在VB.NET中应使用哪种数据类型来处理100个十进制数字或更高的精度?Double似乎只显示约17

  24. 24

    没有十进制模块,浮点数中是否可以有超过15个十进制数字?

  25. 25

    F#读取文件,拆分字符串列表,汇总数据,非浮点十进制数字

  26. 26

    如何找到给定范围内以零位十进制数字结尾的浮点值?

  27. 27

    将数据类型更改为浮点并四舍五入为2个十进制数字

  28. 28

    如何找到给定范围内以零位十进制数字结尾的浮点值?

  29. 29

    难以删除十进制数字中的零值?

热门标签

归档