淺談numpy溢出錯誤
今天在進行實驗數(shù)據(jù)處理時使用到了numpy.power()函數(shù),一直導(dǎo)致結(jié)果和結(jié)論對不上,中間處理過程比較多,很難發(fā)現(xiàn)是因為計算數(shù)值出錯的原因,最后發(fā)現(xiàn)是numpy運算過程中數(shù)值太大導(dǎo)致的溢出錯誤問題,屬實被坑了。
當值需要比數(shù)據(jù)類型中的可用內(nèi)存更多的內(nèi)存時,NumPy數(shù)值類型的固定大小可能會導(dǎo)致溢出錯誤。比如:

原因就是四次方運算之后的值已經(jīng)超出了numpy默認的整數(shù)類型32位,直接造成數(shù)值溢出。
當然上面例子很容易看出問題,如果下面這樣可就很難發(fā)現(xiàn)了,一不小心就是個“


如果使用浮點數(shù),結(jié)果就沒有問題了。numpy默認浮點類型是np.float64

或者運算之前指定一下數(shù)據(jù)類型,用64位去存儲這個數(shù),不要用32位。

到此這篇關(guān)于淺談numpy溢出錯誤的文章就介紹到這了,更多相關(guān)numpy溢出錯誤內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python 實現(xiàn) 貪吃蛇大作戰(zhàn) 代碼分享
本文給大家分享的是一個使用cocos2d-python游戲引擎庫制作出來的貪吃蛇大作戰(zhàn)的游戲代碼,基于Python 2.7 和 cocos2d 庫,有需要的小伙伴可以參考下2016-09-09
Python2和Python3之間的str處理方式導(dǎo)致亂碼的講解
今天小編就為大家分享一篇關(guān)于Python2和Python3之間的str處理方式導(dǎo)致亂碼的講解,小編覺得內(nèi)容挺不錯的,現(xiàn)在分享給大家,具有很好的參考價值,需要的朋友一起跟隨小編來看看吧2019-01-01
python繪制y關(guān)于x的線性回歸線性方程圖像實例
這篇文章主要為大家介紹了python繪制y關(guān)于x的線性回歸線性方程圖像實例,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2023-10-10
Scrapy模擬登錄趕集網(wǎng)的實現(xiàn)代碼
這篇文章主要介紹了Scrapy模擬登錄趕集網(wǎng)的實現(xiàn)代碼,本文通過代碼圖文相結(jié)合給大家介紹的非常詳細,對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-07-07
django2+uwsgi+nginx上線部署到服務(wù)器Ubuntu16.04
這篇文章主要介紹了django2+uwsgi+nginx上線部署到服務(wù)器Ubuntu16.04,小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2018-06-06

