1
gomars 2018-02-01 13:58:42 +08:00
整数
|
2
lred 2018-02-01 14:29:51 +08:00
|
3
sundev 2018-02-01 14:51:57 +08:00
再加个方法,修复 toFixed 四舍五入的问题应该就齐活了!
|
4
Mutoo 2018-02-01 15:16:00 +08:00
操作数 1:
0.1000000000000000055511151231257827021181583404541015625 操作数 2: 0.200000000000000011102230246251565404236316680908203125 相加 结果:0.30000000000000004 答案为什么不是 0.3000000000000000444089209850062616169452667236328125 十进制高精度算法还是老老实实逐位运算比较靠谱 |
5
sundev 2018-02-01 15:23:48 +08:00
@Mutoo 他的这个算法只能解决浮点数运算过程中精度丢失的问题,就是把浮点数转换为整数进行运算。但是转换后超过 16 位时,精度一样会丢失,这是 IEEE 754 标准中定义尾数部分只有 53 位决定的。
|
6
DOLLOR 2018-02-01 17:44:31 +08:00
@Mutoo 你的答案也不对吧
可以用 https://github.com/MikeMcl/bignumber.js BigNumber('0.1000000000000000055511151231257827021181583404541015625') .plus('0.200000000000000011102230246251565404236316680908203125') .toString(); 答案应该是 0.3000000000000000166533453693773481063544750213623046875 |
7
xieranmaya 2018-02-26 18:24:03 +08:00
math.js
http://mathjs.org/ |
8
Jobing 2022-11-05 21:40:37 +08:00
可以采用 npm 的一个开源库解决:json-bn 。
|