当前位置 : 主页 > 网络编程 > 其它编程 >

Java为什么小数运算会出现精度问题

来源:互联网 收集:自由互联 发布时间:2023-07-02
话不多说直接上Demodoublea4.0;doubleb3.6;System.out.println(a-b);我们可以看到运行结果是0.3999999999999999,期 话不多说直接上Demo  double a = 4.0;double b = 3.6;System.out.println(a - b); 我们可以看到运行结果
话不多说直接上Demodoublea4.0;doubleb3.6;System.out.println(a-b);我们可以看到运行结果是0.3999999999999999,期

话不多说直接上Demo 

double a = 4.0;double b = 3.6;System.out.println(a - b);

我们可以看到运行结果是0.3999999999999999,期望结果是0.4。

原因简单来说:2进制的小数无法十分精准的表达十进制的小数,计算机在计算十进制小数运算的时候需要先转换成2进制进行计算,这个过程中出现了一些误差。

两个解决办法

办法一 使用 BigDecimal

使用 BigDecimal 进行运算,需要注意的是初始化传值的时候务必使用String类型,否则还可能出现精度问题

不是对数据要求特别高真没必要用,诚心推荐方法二

BigDecimal a = new BigDecimal("4.0");BigDecimal b = new BigDecimal("3.6");System.out.println(a.subtract(b));

办法二 直接把小数转换为int类型

如果我们只是需要计算现金付款等时候,直接把数字单位转换为分就可以,一劳永逸直接避免

比如商品价格:3.98 储存的时候储存的是 398,传递前端后前端在进行处理就好!

目前拼多多所有API接口获取优惠券或者商品价格都是分;比例类的都是整数,单位是千分比。

在对接时发现真香,还是很推荐这种办法的

(拼多多API后台截图)

上一篇:python,构成,示意图
下一篇:没有了
网友评论