10.1*(10*10)=1010.000061? 软件有问题还是？

赵林 · 发表于 2017-8-8 10:09:16

float精度低，有误差，不信你计算一下5.2+3.1，结果是8.29999。把float改成double就行了。

初学C · 发表于 2017-8-8 10:43:17

精度问题

4399APPLE · 发表于 2017-8-8 14:26:18

float改double
%f改%lf

荣霸天 · 发表于 2017-8-9 12:10:16

赵林发表于 2017-8-8 10:09
float精度低，有误差，不信你计算一下5.2+3.1，结果是8.29999。把float改成double就行了。

网上查了查，原来float有效7位

荣霸天 · 发表于 2017-8-9 12:10:38

初学C 发表于 2017-8-8 10:43
精度问题

知道了，网上查了查，原来float有效7位

荣霸天 · 发表于 2017-8-9 12:12:15

4399APPLE 发表于 2017-8-8 14:26
float改double
%f改%lf

%f改%lf这是什么操作，没成功啊

4399APPLE · 发表于 2017-8-9 14:26:59

荣霸天发表于 2017-8-9 12:12
%f改%lf这是什么操作，没成功啊

float改double

10.1(1010)=1010.000061? 软件有问题还是？