python decimal使用出現(xiàn)的問(wèn)題

問(wèn)題1：默認(rèn)小數(shù)位過(guò)多

默認(rèn)的小數(shù)位數(shù)為28位，需求為根據(jù)輸入的參數(shù)來(lái)確定位數(shù)，可使用str作為輸入來(lái)構(gòu)建對(duì)象，

示例如下：

decimal.Decimal(str(sheet_obj.cell_value(row, 16)))

問(wèn)題2：四舍五入的使用

需求為對(duì)一個(gè)decimal類(lèi)型的數(shù)進(jìn)行四舍五入的取整，

示例如下：

decimal.Decimal(raw_value).quantize(decimal.Decimal('1.'), rounding="ROUND_HALF_UP")

python中的decimal類(lèi)型

引入

在做一道很基礎(chǔ)的python題的時(shí)候，老師提醒我可以用到decimal類(lèi)型進(jìn)行優(yōu)化。

原題是這樣的：

分析一下程序的輸出結(jié)果，說(shuō)明出現(xiàn)該結(jié)果的原因，應(yīng)該如何修改程序

x=2.1 
y=2.0
if x-y==0.1: 
    print("Equal")
else: 
    print("Not Equal")
    
print(x-y)

程序會(huì)輸出"Not Equal"

原因解釋 

• 首先，程序定義了兩個(gè)浮點(diǎn)數(shù)變量 x 和 y，分別賦值為 2.1 和 2.0。
• 然后，程序執(zhí)行條件判斷 x-y==0.1，這個(gè)條件判斷是否 x 和 y 的差是否等于 0.1。
• 由于浮點(diǎn)數(shù)的精度問(wèn)題，2.1 - 2.0 并不等于精確的 0.1，而是一個(gè)非常接近 0.1 的浮點(diǎn)數(shù)。

所以，條件判斷 x-y==0.1 會(huì)返回 False，因此程序會(huì)執(zhí)行 print("Not Equal")。

接下來(lái)，程序執(zhí)行 print(x-y) 來(lái)輸出 x 和 y 的差，這會(huì)顯示一個(gè)非常接近 0.1 的浮點(diǎn)數(shù)，但它并不等于精確的 0.1，這是因?yàn)楦↑c(diǎn)數(shù)在計(jì)算機(jī)內(nèi)部以二進(jìn)制表示，有時(shí)無(wú)法準(zhǔn)確地表示十進(jìn)制小數(shù)。

這時(shí)，老師提醒我可以運(yùn)用decimal類(lèi)型進(jìn)行優(yōu)化，下面我為大家整理了decimal類(lèi)型的大致內(nèi)容：

decimal 類(lèi)型

在 Python 中，decimal 類(lèi)型是用于高精度的十進(jìn)制浮點(diǎn)數(shù)運(yùn)算的數(shù)據(jù)類(lèi)型。它屬于 Python 標(biāo)準(zhǔn)庫(kù)中的 decimal 模塊，可以用于處理需要高精度計(jì)算的場(chǎng)景，尤其是在涉及到金融、科學(xué)計(jì)算、精確度要求較高的計(jì)算任務(wù)時(shí)非常有用。

decimal 類(lèi)型的特點(diǎn)和用途包括：

• 高精度計(jì)算： decimal 類(lèi)型可以表示高精度的十進(jìn)制數(shù)，避免了浮點(diǎn)數(shù)的精度問(wèn)題。這對(duì)于需要準(zhǔn)確表示小數(shù)或進(jìn)行精確計(jì)算的任務(wù)非常重要。
• 避免浮點(diǎn)數(shù)問(wèn)題： 浮點(diǎn)數(shù)（float 類(lèi)型）在計(jì)算機(jī)內(nèi)部以二進(jìn)制表示，有時(shí)無(wú)法精確表示十進(jìn)制小數(shù)，可能會(huì)導(dǎo)致精度損失和舍入錯(cuò)誤。decimal 類(lèi)型解決了這個(gè)問(wèn)題。
• 可控的精度： decimal 允許你控制小數(shù)點(diǎn)后的位數(shù)，以滿足特定的精度要求。這對(duì)于需要特定位數(shù)的小數(shù)結(jié)果的應(yīng)用非常有用。
• 支持各種數(shù)學(xué)運(yùn)算： 與 decimal 類(lèi)型一起使用的數(shù)學(xué)運(yùn)算和函數(shù)可以提供高精度的結(jié)果，包括加法、減法、乘法、除法以及各種數(shù)學(xué)函數(shù)（如平方根、對(duì)數(shù)等）。
• 支持上下文控制： 你可以使用 decimal 模塊中的上下文對(duì)象來(lái)配置精度、舍入規(guī)則和其他行為，以滿足特定需求。
• 精確的貨幣計(jì)算： 由于 decimal 類(lèi)型可以精確表示貨幣值，它在金融領(lǐng)域的應(yīng)用非常廣泛，因?yàn)樯婕暗截泿诺挠?jì)算需要高精度和可預(yù)測(cè)的結(jié)果。

要使用 decimal 類(lèi)型，你需要導(dǎo)入 decimal 模塊，并使用 Decimal 構(gòu)造函數(shù)來(lái)創(chuàng)建 decimal 對(duì)象。例如：

from decimal import Decimal
 
x = Decimal('0.1')
y = Decimal('0.2')
result = x + y

在這個(gè)示例中，x 和 y 是 decimal 類(lèi)型的對(duì)象，它們可以進(jìn)行精確的加法運(yùn)算，避免了浮點(diǎn)數(shù)的精度問(wèn)題。

運(yùn)用

運(yùn)用decimal類(lèi)型，修改最開(kāi)始的代碼可以得到：

from decimal import Decimal
 
x = Decimal('2.1')
y = Decimal('2.0')
 
if x - y == Decimal('0.1'):#0.1要用字符串格式，不然輸入進(jìn)去的0.1仍然不是0.1
    print("Equal")
else:
    print("Not Equal")
 
print(x - y)

同時(shí)我將附上另外兩種解決方案，供讀者參考

#將相減之后的數(shù)進(jìn)行四舍五入，把后面由浮點(diǎn)數(shù)帶來(lái)的不精確的值給抹去
x=2.1 
y=2.0
z=round(x-y,1)
if z==0.1: 
    print("Equal")
else: 
    print("Not Equal")

#創(chuàng)立最小誤差進(jìn)行比較
x = 2.1
y = 2.0
epsilon = 1e-10
if abs(x - y - 0.1) < epsilon:
    print("Equal")
else:
    print("Not Equal")

總結(jié) 

以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。

最新評(píng)論