[新手上路]批处理新手入门导读[视频教程]批处理基础视频教程[视频教程]VBS基础视频教程[批处理精品]批处理版照片整理器
[批处理精品]纯批处理备份&还原驱动[批处理精品]CMD命令50条不能说的秘密[在线下载]第三方命令行工具[在线帮助]VBScript / JScript 在线参考
返回列表 发帖
netdzb

Rank: 5Rank: 5

帖子
909 
积分
1215 
技术
3  
捐助
0  
注册时间
2018-1-17 
1楼 跳转到 » 倒序看帖
打印
tT
发表于 2020-4-19 17:33 | 只看该作者

[问题求助] Python中浮点数计算结果不够精确的问题

from decimal import Decimal

def add(x,y):
    return x+y

num1=Decimal(input())
num2=Decimal(input())

print(add(num1,num2))

1.2
11.2
12.39999999.....

我已经加上decimal了啊
收藏 分享

wujunkai

Rank: 4

帖子
287 
积分
363 
技术
20  
捐助
0  
注册时间
2019-3-5 
2楼
发表于 2020-4-19 17:59 | 只看该作者
回复 1# netdzb


    这个真的是IEEE一个诡异的协议的问题啊，实在不行用round吧

TOP

bailong360

Rank: 5Rank: 5

帖子
578 
积分
1235 
技术
170  
捐助
60  
注册时间
2012-8-5 
3楼
发表于 2020-4-19 21:27 | 只看该作者
你是 py2 吧，Decimal(input()) 这一步就损失了精度，因为 input() 会先把字符串转成浮点数再传给 Decimal
py2 应该这样写
  1. from decimal import Decimal

  2. 

  3. def add(x,y):

  4.     return x+y

  5. 

  6. num1=Decimal(raw_input())

  7. num2=Decimal(raw_input())

  8. 

  9. print(add(num1,num2))
复制代码

TOP

cfwyy77_bat

Rank: 3Rank: 3

帖子
195 
积分
288 
技术
27  
捐助
0  
注册时间
2017-3-21 
4楼
发表于 2020-4-20 08:45 | 只看该作者
我这测试没有问题,  python3.7

TOP

返回列表