当前位置 : 主页 > 编程语言 > python >

python中小数点后的位数问题如何解决

来源:互联网 收集:自由互联 发布时间:2023-07-30
python中小数点后的位数第一种方法 a = 8.8888 使用round 函数 b = round(a,2) # 保留小数点后两位小数,会四舍五入b 就等于8.89 第二种方法 b= %.2f%a # 也会四舍五入 第三种方法 ret1 = Decimal(88.00
    python中小数点后的位数第一种方法
    a = 8.8888

    使用round 函数

    b = round(a,2) # 保留小数点后两位小数,会四舍五入
    b 就等于8.89
    第二种方法
    b= "%.2f"%a # 也会四舍五入
    第三种方法
    ret1 = Decimal("88.001").quantize(Decimal("0.00"))
    print(ret1)
    
    # 满5进1的写法
    from decimal import Decimal, ROUND_HALF_UP
    res = Decimal(str(11.565)).quantize(Decimal("0.00"),ROUND_HALF_UP)
    python小数点位数控制利用python内置的round()函数

    round()如果只有一个数作为参数,不指定位数的时候,返回的是一个整数,而且是最靠近的整数

    一般情况是使用四舍五入的规则,但是碰到舍入的后一位为5的情况,如果要取舍的位数前的数是偶数,则直接舍弃,如果奇数这向上取舍

    正常的取舍:

    python中小数点后的位数问题如何解决

    舍入的后一位为5的情况:

    python中小数点后的位数问题如何解决

    利用格式化方法

    特殊情况需要注意的和 round 方法一样

    python中小数点后的位数问题如何解决

    python中小数点后的位数问题如何解决

    利用math模块里ceil和floor方法
    • math模块的ceil(x):取大于或者等于x的最小整数

    • math模块的floor(x):取小于或者等于x的最大整数

    python中小数点后的位数问题如何解决

    超过17位的精度分析

    python默认的是17位精度,也就是小数点后16位,但是这里有一个问题,就是当我们的计算需要使用更高的精度(超过16位小数)的时候该怎么做呢?

    高精度使用decimal模块,配合getcontext

    decimal 模块默认精度是17位,可以通过修改 getcontext().prec 修改精度的值

    python中小数点后的位数问题如何解决

    python中小数点后的位数问题如何解决

    网友评论