javascript中的float運算精度實例分析
更新時間：2010年08月21日 15:17:41 作者：
javascript中的float運算精度的一些問題，下面是具體的說明。
有人問到一個js問題：
var i = 0.07;
var r = i*100;
alert(r);
結(jié)果為什么是7.0000000000000001?
查了下資料，其實我們知道JavsScript中，變量在存儲時并不區(qū)分number和float類型，而是統(tǒng)一按float存儲。而javascript使用IEEE 754-2008 標(biāo)準(zhǔn)定義的64bit浮點格式存儲number，按照IEEE 754的定義： http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64對應(yīng)的整形部分長度為10,小數(shù)部分長度為16，所以默認(rèn)的計算結(jié)果為“7.0000000000000001”，如最后一個小數(shù)為0，則取1作為有效數(shù)字標(biāo)志。
類似地，我們可以想像，1/3的結(jié)果應(yīng)該是0.3333333333333333。
那么如何校正這個值呢？
可以用以下方法：
一、parseInt
var r4=parseInt(i*100);
二、Math.round
var r2=Math.round((i*100)*1000)/1000;
以上兩種方法都可以得到7
附全部測試代碼：
<html>
<head>
<title>測試腳本</title>
<script language="JAVASCRIPT">
function init()
{
var i = 0.07;
var r = i*100;
var r2=Math.round((i*100)*1000)/1000;
var r3 = eval(i*100);
var r4=parseInt(i*100);
var r5=parseFloat(i*100*1.0000);
var r6=(1/3);
alert(r);
alert("Math.round="+r2);
alert("eval="+r3);
alert("parseInt="+r4);
alert("parseFloat="+r5);
alert(""+r6);
}
</script>
</head>
<body onload="init();">
</body>
</html>
復(fù)制代碼 代碼如下:
var i = 0.07;
var r = i*100;
alert(r);
結(jié)果為什么是7.0000000000000001?
查了下資料，其實我們知道JavsScript中，變量在存儲時并不區(qū)分number和float類型，而是統(tǒng)一按float存儲。而javascript使用IEEE 754-2008 標(biāo)準(zhǔn)定義的64bit浮點格式存儲number，按照IEEE 754的定義： http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64對應(yīng)的整形部分長度為10,小數(shù)部分長度為16，所以默認(rèn)的計算結(jié)果為“7.0000000000000001”，如最后一個小數(shù)為0，則取1作為有效數(shù)字標(biāo)志。
類似地，我們可以想像，1/3的結(jié)果應(yīng)該是0.3333333333333333。
那么如何校正這個值呢？
可以用以下方法：
一、parseInt
var r4=parseInt(i*100);
二、Math.round
var r2=Math.round((i*100)*1000)/1000;
以上兩種方法都可以得到7
附全部測試代碼：
復(fù)制代碼 代碼如下:
<html>
<head>
<title>測試腳本</title>
<script language="JAVASCRIPT">
function init()
{
var i = 0.07;
var r = i*100;
var r2=Math.round((i*100)*1000)/1000;
var r3 = eval(i*100);
var r4=parseInt(i*100);
var r5=parseFloat(i*100*1.0000);
var r6=(1/3);
alert(r);
alert("Math.round="+r2);
alert("eval="+r3);
alert("parseInt="+r4);
alert("parseFloat="+r5);
alert(""+r6);
}
</script>
</head>
<body onload="init();">
</body>
</html>
相關(guān)文章
本文主要分享了js實現(xiàn)滑動到頁面底部自動加載更多功能的代碼。具有很好的參考價值，下面跟著小編一起來看下吧2017-02-02
這篇文章主要介紹了js+div實現(xiàn)文字滾動和圖片切換效果代碼,涉及javascript鼠標(biāo)事件及頁面元素圖片滾動效果實現(xiàn)技巧,具有一定參考借鑒價值,需要的朋友可以參考下2015-08-08
這篇文章主要為大家詳細(xì)介紹了JavaScript實現(xiàn)多個物體同時運動，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價值，感興趣的小伙伴們可以參考一下2020-03-03
這篇文章主要介紹了淺談javascript中replace()方法，replace函數(shù)方法是返回根據(jù)正則表達(dá)式進(jìn)行文字替換后的字符串的復(fù)制，需要的朋友可以參考下2015-11-11
DIV是一個盒子模型通俗說就是一個容器，在布局過程中經(jīng)常會使用到這個標(biāo)簽，在本文大家將學(xué)會如何讓DIV可編輯、可拖動，感興趣的朋友可以參考下，希望對大家有所幫助2013-09-09
這篇文章主要為大家介紹了uniapp解決軟鍵盤彈出問題方法詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2023-07-07
js父窗口關(guān)閉時子窗口隨之關(guān)閉完美解決方案
admin注銷的時候，或者main.html關(guān)閉的時候，如何讓打開的所有新窗口一起關(guān)閉，下面有個不錯的解決方案，大家可以參考下2014-04-04
這篇文章主要為大家詳細(xì)介紹了uniapp實現(xiàn)橫向滾動選擇日期，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價值，感興趣的小伙伴們可以參考一下2020-10-10
這篇文章主要為大家詳細(xì)介紹了bootstrap multiselect下拉列表功能，具有一定的參考價值，感興趣的小伙伴們可以參考一下2017-08-08
javascript 利用Image對象實現(xiàn)的埋點(某處的點擊數(shù))統(tǒng)計
統(tǒng)計用戶頁面某處的點擊數(shù)或者執(zhí)行到程序中某個點的次數(shù);根據(jù)實際情況，創(chuàng)建多個Image對象，原則誰空閑誰做事，解下來詳細(xì)介紹，需要了解的朋友可以參考下2012-12-12