码迷,mamicode.com
首页 > 编程语言 > 详细

Python 中 decimal 模块的使用

时间:2020-06-03 23:40:13      阅读:160      评论:0      收藏:0      [点我收藏+]

标签:nbsp   字符串类   name   转换   att   ref   四舍五入   一个   details   

decimal 模块:decimal意思为十进制,这个模块提供了十进制浮点运算支持

1.可以传递给Decimal整型或者字符串参数,但不能是浮点数据,因为浮点数据本身就不准确。

 

2.要从浮点数据转换为Decimal类型

from decimal import *
Decimal.from_float(12.222)
# 结果为Decimal(‘12.2219999999999995310417943983338773250579833984375‘)

 

3.通过设定有效数字,限定结果样式

from decimal import *
getcontext().prec = 6
Decimal(1)/Decimal(7)
# 结果为Decimal(‘0.142857‘),六个有效数字

 

4.四舍五入,保留几位小数

from decimal import *
Decimal(50.5679).quantize(Decimal(0.00))
# 结果为Decimal(‘50.57‘),结果四舍五入保留了两位小数

 

5.Decimal 结果转化为string

from decimal import *
str(Decimal(3.40).quantize(Decimal(0.0)))
# 结果为‘3.4‘,字符串类型

 

Python3中decimal处理计算精度问题示例

#!/usr/bin/python3
# coding:utf-8

from decimal import Decimal, getcontext

def demo():
    """
    取整问题:
    ROUND_CEILING  总是趋向无穷大向上取整
  ROUND_DOWN 总是趋向0取整
  ROUND_FLOOR  总是趋向负无穷大向下取整
  ROUND_HALF_DOWN 如果最后一个有效数字大于或等于5则朝0反方向取整;否则,趋向0取整
  ROUND_HALF_EVEN 类似于ROUND_HALF_DOWN,不过,如果最后一个有效数字值为5,则会检查前一位。
                    偶数值会导致结果向下取整,奇数值导致结果向上取整
  ROUND_HALF_UP  类似于ROUND_HALF_DOWN,不过如果最后一位有效数字为5,值会朝0的反方向取整
  ROUND_UP 朝0的反方向取整
  ROUND_05UP 如果最后一位是0或5,则朝0的反方向取整;否则向0取整
    """

    # 1.常规计算
    getcontext().prec = 9
    r1 = Decimal(1) / Decimal(3)
    print("r1 ", r1)

    # 2.但是getcontext().prec会包含小数点前面的所有长度,当前面长度有变化时并不能固定控制小数点后的位数
    r2 = Decimal(10) / Decimal(3)
    print("r2 ", r2)

    # 3.想要固定控制小数点后面的位数则需要使用decimal.quantize(Decimal(‘0.00000000‘)),注意不能超过getcontext().prec的位数
    r3 = Decimal(1) / Decimal(3)
    print("r3 ", r3.quantize(Decimal(0.00000000)))
    r4 = Decimal(10) / Decimal(3)
    print("r4 ", r4.quantize(Decimal(0.00000000)))
    r5 = Decimal(10) / Decimal(str(1.5))
    print("r5 ", r5.quantize(Decimal(0.00000000)))

    # 4.向上取整
    getcontext().rounding = getattr(decimal, ROUND_CEILING)  # 总是趋向无穷大向上取整
    r6 = Decimal(10) / Decimal(str(1.5))
    print("r6 ", r6.quantize(Decimal(0.00000000)))
    r7 = Decimal(10) / Decimal(3)
    print("r7 ", r7.quantize(Decimal(0.00000000)))

    # 5.向下取整
    getcontext().rounding = getattr(decimal, ROUND_FLOOR)  # 总是趋向无穷大向下取整
    r8 = Decimal(10) / Decimal(str(1.5))
    print("r8 ", r8.quantize(Decimal(0.00000000)))
    r9 = Decimal(10) / Decimal(3)
    print("r9 ", r9.quantize(Decimal(0.00000000)))

if __name__ == __main__:
    demo()

 

---

Python 中 decimal 模块的使用

标签:nbsp   字符串类   name   转换   att   ref   四舍五入   一个   details   

原文地址:https://www.cnblogs.com/xy-ouyang/p/13040615.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!