1
windfarer 2018-09-15 17:01:27 +08:00
|
2
xupefei 2018-09-15 17:03:28 +08:00
|
3
cabbage 2018-09-15 17:03:39 +08:00 via Android
你可以试试,所有编程语言包括 js 都是这样的(浮点类)
|
4
n2ex2 2018-09-15 17:04:49 +08:00 via Android
周经了
|
5
MonoLogueChi 2018-09-15 17:11:35 +08:00 via Android
应该是因为浮点运算的原因,二进制无法准确表示十进制小数。十进制小数转换成二进制,然后再转换成十进制,就会有一定的误差,这个误差大小是根据你的精度确定的,比如你用双精度,转换之后中间的 0 要比用单精度多。
结果是 1.2000000000000000002 还是 1.199999999999999998,要看你对于进制转换是怎么取舍的。 |
6
jingniao 2018-09-15 19:46:18 +08:00 via Android
从我注册这站,这第几次了?
感觉可以出个集合贴了(≧▽≦) |
7
zn 2018-09-15 20:12:46 +08:00
这位同学还是得多学习点姿势才行。
|
8
fayloue 2018-09-15 20:18:25 +08:00
浮点误差,excel 也经常这样
|
9
Tompes 2018-09-16 12:36:17 +08:00
浮点运算都是不准确的
|