当前位置 : 主页 > 网络编程 > JavaScript >

javascript中0.1 + 0.2 != 0.3,0.3-0.2!=0.1,19.9*100!=1990等等

来源:互联网 收集:自由互联 发布时间:2021-06-28
gistfile1.txt 发现的问题: console.log(0.1+0.2); //0.30000000000000004 console.log(0.3-0.2); //0.09999999999999998 console.log(19.9*100); //1989.9999999999998原因: JavaScript 中的 number 类型就是浮点型,JavaScript 中的浮
gistfile1.txt
发现的问题:
    console.log(0.1+0.2);  //0.30000000000000004
    console.log(0.3-0.2);  //0.09999999999999998
    console.log(19.9*100);  //1989.9999999999998

原因:
    JavaScript 中的 number 类型就是浮点型,JavaScript 中的浮点数采用IEEE-754 格式的规定,这是一种二进制表示法,可以精确地表示分数,比如1/2,1/8,1/1024,每个浮点数占64位。但是,二进制浮点数表示法并不能精确的表示类似0.1这样 的简单的数字,会有舍入误差。

由于采用二进制,JavaScript 也不能有限表示 1/10、1/2 等这样的分数。在二进制中,1/10(0.1)被表示为 0.00110011001100110011…… 注意 0011 是无限重复的,这是舍入误差造成的,所以对于 0.1 + 0.2 这样的运算,操作数会先被转成二进制,然后再计算:

0.1 => 0.0001 1001 1001 1001…(无限循环)
0.2 => 0.0011 0011 0011 0011…(无限循环)
双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100…因浮点数小数位的限制而截断的二进制数字,这时候,再把它转换为十进制,就成了 0.30000000000000004。

解决方法:

    console.log((0.1+0.2).toFixed(1));   //0.3
    console.log((0.3-0.2).toFixed(1));   //0.1
    console.log(parseInt((19.9*100).fixed(2)); //1990

    ------------------------------------------------------
    toFixed(num):方法可把 Number 四舍五入为num小数位数的数字。
网友评论