stod("-112.0707922"),为什么只能得到-112.071 。怎样才能不丢失精度。
1
KaoN 2017-07-15 16:52:54 +08:00
|
2
alqaz 2017-07-15 16:56:13 +08:00 via Android
自己写一个
|
3
mhjyzs OP @KaoN 嗯嗯,谢谢,但是还有个问题是但我设置了输出的精度后,发现经过 stod 转换后为什么数据不精确了,之后输出是-112.07079315185546875。
|
6
unavph 2017-07-15 20:29:25 +08:00
浮点数表示机制问题,误差几乎一定存在不可避免。
|
7
unavph 2017-07-15 20:39:47 +08:00
你的值是不是有问题,差的有点多,我试了一下是-112.07079219999999964
|