淺談sqlserver下float的不確定性
很多時(shí)候，大家都知道，浮點(diǎn)型這個(gè)東西，本身存儲就是一個(gè)不確定的數(shù)值，你永遠(yuǎn)無法知道，它是 0 = 0.00000000000000123 還是 0 = 0.00000000000999這樣的東西。也許一開始使用的時(shí)候沒有問題，但是有時(shí)候做統(tǒng)計(jì)的時(shí)候，就會(huì)看出端倪
簡單的舉個(gè)例子，就知道統(tǒng)計(jì)的時(shí)候，有可能出現(xiàn)意外的效果，導(dǎo)致可能需要存儲過程或者接收程序的代碼左額外的取舍數(shù)位的處理，所以在此其實(shí)我是推薦使用Numeric來替代float進(jìn)行一個(gè)替代使用，避免一個(gè)sum ，然后明明明細(xì)看每一條數(shù)據(jù)都是正常的2,3位小數(shù)，一匯總就變成了8,9位的樣子
CREATE TABLE #T (ID INT IDENTITY,Va FLOAT)
CREATE TABLE #T1 (ID INT IDENTITY,Va NUMERIC(15,9))
--分開執(zhí)行-------------------------------------------------
INSERT INTO #T
( Va )
VALUES ( 0.60000000)
INSERT INTO #T1
( Va )
VALUES ( 0.60000000)
GO 100
SELECT SUM(Va) FROM #T
SELECT SUM(Va) FROM #T1
----------------------
60.0000000000001
(1 行受影響)
---------------------------------------
60.000000000
(1 行受影響)
總結(jié)
以上就是本文關(guān)于淺談sqlserver下float的不確定性的全部內(nèi)容，希望對大家有所幫助。感興趣的朋友可以參閱本站：簡述Redis和MySQL的區(qū)別、ORACLE SQL語句優(yōu)化技術(shù)要點(diǎn)解析、MYSQL子查詢和嵌套查詢優(yōu)化實(shí)例解析等，有什么問題可以隨時(shí)留言，小編會(huì)及時(shí)回復(fù)大家。感謝各位對腳本之家的支持！
相關(guān)文章
sql server 自定義分割月功能詳解及實(shí)現(xiàn)代碼
這篇文章主要介紹了sql server 自定義分割月功能詳解及實(shí)現(xiàn)代碼的相關(guān)資料,需要的朋友可以參考下2016-10-10
Window 子句通常與 OVER() 子句相關(guān),它經(jīng)常與窗口函數(shù)一起使用,本文主要介紹了SQLServer2022新特性Window子句,具有一定參考價(jià)值,感興趣的可以了解一下2024-08-08
給大家分享個(gè)效率最高的分頁查詢 5000萬級別有效 比 ROWNUMBER 和Top效率高2009-06-06
case?when?then?else?end語句的用法(附demo)
本文主要介紹了case?when?then?else?end語句的用法,主要介紹了兩種格式,簡單case函數(shù)和case搜索函數(shù),具有一定的參考價(jià)值,感興趣的可以了解一下2023-10-10
這篇文章主要給大家介紹了關(guān)于SQL?Server只取年月日和獲取月初月末的相關(guān)資料,在SQL?Server中截取日期中的年月可以通過內(nèi)置函數(shù)來實(shí)現(xiàn),文中通過代碼介紹的非常詳細(xì),需要的朋友可以參考下2024-01-01
這篇文章主要給大家介紹了關(guān)于SQL?Server數(shù)據(jù)庫之表的高級查詢的相關(guān)資料,高級查詢在數(shù)據(jù)庫中用得是最頻繁的,也是應(yīng)用最廣泛的,文中通過代碼介紹的非常詳細(xì),需要的朋友可以參考下2023-08-08
SQL Server中避免觸發(fā)鏡像SUSPEND的N種方法
這篇文章主要介紹了SQL Server中避免觸發(fā)鏡像SUSPEND的N種方法,需要的朋友可以參考下2016-01-01
當(dāng)單表數(shù)據(jù)太多時(shí)，我們可以水平劃分,參考 SqlServer 分區(qū)視圖實(shí)現(xiàn)水平分表 ，水平劃分可以提高表的一些性能2021-04-04
SQL SERVER 數(shù)據(jù)庫備份代碼實(shí)例
這篇文章主要介紹了SQL SERVER數(shù)據(jù)庫備份，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-03-03
如果我們需要修改sql server表結(jié)構(gòu)，應(yīng)該怎么做呢?接下來將為您介紹修改sql server表結(jié)構(gòu)的方法,需要的朋友可以參考下2012-11-11