最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

Java中BigDecimal除法使用不當導致精度問題

 更新時間:2021年11月02日 15:39:45   作者:一灰灰  
本文主要介紹了Java中BigDecimal除法使用不當導致精度問題,文中通過示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下

在使用BigDecimal的除法時,遇到一個鬼畜的問題,本以為的精度計算,結果使用返回0,當然最終發(fā)現(xiàn)還是使用姿勢不對導致的,因此記錄一下,避免后面重蹈覆轍

I. 問題拋出

在使用BigDecimal做高精度的除法時,一不注意遇到了一個小問題,如下

@Test
public void testBigDecimal() {
    BigDecimal origin = new BigDecimal(541253);
    BigDecimal now = new BigDecimal(12389431);

    BigDecimal val = origin.divide(now, RoundingMode.HALF_UP);
    System.out.println(val);

    origin = new BigDecimal(541253);
    now = new BigDecimal(12389431.3);
    val = origin.divide(now, RoundingMode.HALF_UP);
    System.out.println(val);

    origin = new BigDecimal(541253.4);
    now = new BigDecimal(12389431);
    val = origin.divide(now, RoundingMode.HALF_UP);
    System.out.println(val);
}

上面的輸出是什么 ?
0
0
0.043686703610520937021487456961257

為什么前面兩個會是0呢,如果直接是 541253 / 12389431 = 0 倒是可以理解, 但是BigDecimal不是高精度的計算么,講道理不應該不會出現(xiàn)這種整除的問題吧

我們知道在BigDecimal做觸發(fā)時,可以指定保留小數(shù)的參數(shù),如果加上這個,是否會不一樣呢?

BigDecimal origin = new BigDecimal(541253);
BigDecimal now = new BigDecimal(12389431);

BigDecimal val = origin.divide(now, 5, RoundingMode.HALF_UP);
System.out.println(val);

輸出結果為:
0.04369

所以說在指定了保留小數(shù)之后,則沒有問題,所以大膽的猜測一下,是不是上面的幾種case中,由于scale值沒有指定時,默認值不一樣,從而導致最終結果的精度不同呢?

簡單的深入源碼分析一下,執(zhí)行的方式為 origin.divide(now, RoundingMode.HALF_UP);, 所以這個scale參數(shù)就瞄準origin對象,而這個對象,就只能去分析它的構造了,因為沒有其他的地方使用

II. 源碼定位

1. 整形傳參構造

分析下面這一行, 直接進入源碼

BigDecimal origin = new BigDecimal(541253);

很明顯的int傳參構造,進去簡單看一下

// java.math.BigDecimal#BigDecimal(int)
public BigDecimal(int val) {
    this.intCompact = val;
    this.scale = 0;
    this.intVal = null;
}

public BigDecimal(long val) {
    this.intCompact = val;
    this.intVal = (val == INFLATED) ? INFLATED_BIGINT : null;
    this.scale = 0;
}

so,很明確的知道默認的scale為0,也就是說當origin為正數(shù)時,以它進行的除法,不現(xiàn)實指定scale參數(shù)時,最終返回的都是沒有小數(shù)的,同樣看一眼,還有l(wèi)ong的傳參方式, BigInteger也一樣

2. 浮點傳參

接下來就是浮點的scale默認值確認了,這個構造相比前面的復雜一點,源碼就不貼了,太長,也看不太懂做了些啥,直接用猥瑣一點的方式,進入debug模式,單步執(zhí)行

@Test
public void testBigDecimal() {
    BigDecimal origin = new BigDecimal(541253.0);
    BigDecimal now = new BigDecimal(12389431.1);
    BigDecimal tmp = new BigDecimal(0.0);
}

根據(jù)debug的結果,第一個,scale為0; 第二個scale為29, 第三個scale為0

3. String傳參

依然是一大串的邏輯,同樣采用單步debug的方式試下

@Test
public void testBigDecimal() {
    BigDecimal origin = new BigDecimal("541253.0");
    BigDecimal now = new BigDecimal("12389431.1");
    BigDecimal t = new BigDecimal("0.0");
}

上面三個的scale都是1

4. 小結

對于BigDecimal進行除法運算時,最好指定其scale參數(shù),不然可能會有坑
對于BigDecimla的scale初始化的原理,有待深入看下BigDecimal是怎么實現(xiàn)的

最后貼一張乘法的圖作為收尾

到此這篇關于Java中BigDecimal除法使用不當導致精度問題的文章就介紹到這了,更多相關Java BigDecimal除法精度內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!

相關文章

  • 基于Redisson實現(xiàn)注解式分布式鎖的示例代碼

    基于Redisson實現(xiàn)注解式分布式鎖的示例代碼

    這篇文章主要為大家詳細介紹了如何基于Redisson實現(xiàn)注解式分布式鎖,文中的示例代碼講解詳細,具有一定的參考價值,需要的可以了解一下
    2023-07-07
  • 關于BigDecimal類型之間比較問題

    關于BigDecimal類型之間比較問題

    這篇文章主要介紹了關于BigDecimal類型之間比較問題,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教
    2024-07-07
  • VsCode搭建Spring Boot項目并進行創(chuàng)建、運行、調試

    VsCode搭建Spring Boot項目并進行創(chuàng)建、運行、調試

    這篇文章主要介紹了VsCode搭建Spring Boot項目并進行創(chuàng)建、運行、調試 ,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2020-05-05
  • java后端操作樹結構的案例代碼

    java后端操作樹結構的案例代碼

    這篇文章主要介紹了java后端操作樹結構,樹結構的三種組裝方式(遞歸.雙層for循環(huán),map),通過實例代碼介紹了使用遞歸查詢某個節(jié)點所在的樹結構,需要的朋友可以參考下
    2023-10-10
  • redis.clients.jedis.exceptions.JedisMovedDataException異常解決

    redis.clients.jedis.exceptions.JedisMovedDataException異常解決

    redis.clients.jedis.exceptions.JedisMovedDataException?異常是在使用?Jedis?客戶端與?Redis?集群進行交互時發(fā)生的,下面就來介紹一下解決方法,感興趣的可以了解一下
    2024-05-05
  • Idea2020.2創(chuàng)建JavaWeb項目(部署Tomcat)方法詳解

    Idea2020.2創(chuàng)建JavaWeb項目(部署Tomcat)方法詳解

    這篇文章主要介紹了Idea2020.2創(chuàng)建JavaWeb項目(部署Tomcat)方法,本文給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下
    2020-08-08
  • Java基礎之序列化與反序列化詳解

    Java基礎之序列化與反序列化詳解

    這篇文章主要介紹了Java基礎之序列化與反序列化詳解,文中有非常詳細的代碼示例,對正在學習java基礎的小伙伴們有很好的幫助,需要的朋友可以參考下
    2021-04-04
  • java設計模式之工廠方法詳解

    java設計模式之工廠方法詳解

    這篇文章主要為大家詳細介紹了java設計模式之工廠方法的相關資料,具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2017-09-09
  • 關于Java中XML Namespace 命名空間問題

    關于Java中XML Namespace 命名空間問題

    這篇文章主要介紹了Java中XML Namespace 命名空間,XML命名空間是由國際化資源標識符 (IRI) 標識的 XML 元素和屬性集合,該集合通常稱作 XML“詞匯”,對XML Namespace 命名空間相關知識感興趣的朋友一起看看吧
    2021-08-08
  • MyBatis-Plus 自定義sql語句的實現(xiàn)

    MyBatis-Plus 自定義sql語句的實現(xiàn)

    這篇文章主要介紹了MyBatis-Plus 自定義sql語句的實現(xiàn),文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2020-12-12

最新評論

鄄城县| 黄石市| 湖北省| 武安市| 志丹县| 镇原县| 静安区| 黄梅县| 陇川县| 巴彦淖尔市| 岐山县| 平定县| 长丰县| 大冶市| 仙桃市| 塔河县| 齐河县| 桂东县| 拉萨市| 林州市| 永德县| 西安市| 伊通| 茂名市| 根河市| 视频| 温州市| 鲁山县| 区。| 泸定县| 高淳县| 昔阳县| 慈利县| 托里县| 日土县| 宝丰县| 陆丰市| 宽城| 江北区| 延津县| 榆中县|