求解

lizhujun · 发表于 2013-9-6 18:56:24

书中有个习题10.1*（10*10）我怎么得出的结果是1010.000061？！

rosynirvana · 发表于 2013-9-6 18:56:25

超神级发表于 2013-9-6 19:25
http://bbs.ahalei.com/thread-2139-1-1.html
这个是我们论坛一个大神写的浮点数的问题的详解。。。。

和那个没什么关系

我估计lz用了float，精度不足搞出来的
你用的是字面值，字面值默认类型是double，所以不会有这种问题

我觉得应该向啊哈磊建议在教材里不要用float，不知道他会不会接受……

超神级 · 发表于 2013-9-6 19:25:13

http://bbs.ahalei.com/thread-2139-1-1.html
这个是我们论坛一个大神写的浮点数的问题的详解。。。。

超神级 · 发表于 2013-9-6 21:37:59

我这个成功了。。。

超神级 · 发表于 2013-9-7 12:24:31

rosynirvana 发表于 2013-9-6 23:14
和那个没什么关系

我估计lz用了float，精度不足搞出来的

...........