Python實(shí)現(xiàn)多項(xiàng)式擬合正弦函數(shù)詳情
1. 實(shí)驗(yàn)?zāi)康?/h2>
掌握最小二乘法求解（無(wú)懲罰項(xiàng)的損失函數(shù)）、掌握加懲罰項(xiàng)（2 范數(shù)）的損失函數(shù)優(yōu)化、梯度下降法、共軛梯度法、理解過(guò)擬合、克服過(guò)擬合的方法(如加懲罰項(xiàng)、增加樣本)
2. 實(shí)驗(yàn)要求
生成數(shù)據(jù)，加入噪聲；
用高階多項(xiàng)式函數(shù)擬合曲線；
用解析解求解兩種 loss 的最優(yōu)解（無(wú)正則項(xiàng)和有正則項(xiàng)）
優(yōu)化方法求解最優(yōu)解（梯度下降，共軛梯度）；
用你得到的實(shí)驗(yàn)數(shù)據(jù)，解釋過(guò)擬合。
用不同數(shù)據(jù)量，不同超參數(shù)，不同的多項(xiàng)式階數(shù)，比較實(shí)驗(yàn)效果。
語(yǔ)言不限，可以用 matlab，python。求解解析解時(shí)可以利用現(xiàn)成的矩陣求逆。梯度下降，共軛梯度要求自己求梯度，迭代優(yōu)化自己寫(xiě)。不許用現(xiàn)成的平臺(tái)，例如 pytorch，tensorflow 的自動(dòng)微分工具。
3. 實(shí)驗(yàn)內(nèi)容
3.1 算法原理
本實(shí)驗(yàn)需要用多項(xiàng)式來(lái)擬合正弦函數(shù)。在 m 階多項(xiàng)式中，有 m+1 個(gè)待定系數(shù)，m+1 個(gè)系數(shù)（由低到高）組成的（列）向量記作 w。要確定 w，用最小二乘法。
設(shè) E(w) = 1/2 * (Xw – Y)^T(Xw – Y)，其中，X 為多項(xiàng)式中各個(gè)未知項(xiàng)代入觀測(cè)數(shù)據(jù)求得的矩陣，若記 Xi 為 X 的第 i 行的向量，則 Xi[j]為第 i 個(gè)觀測(cè)數(shù)據(jù) xi 的 j 次方，記有 n 組觀測(cè)數(shù)據(jù)，多項(xiàng)式最高次為 m，易知 X 的維度為 n * (m+1)。Y 為觀測(cè)標(biāo)簽向量。即 Y[j]為第 j 組觀測(cè)數(shù)據(jù)的標(biāo)簽值（即 y 值）。從而問(wèn)題轉(zhuǎn)化為：求向量 w，使得 E(w)最小。
- 若不加入正則項(xiàng)，令損失函數(shù)導(dǎo)數(shù)為零，求 w
- 若加入正則項(xiàng)，令損失函數(shù)導(dǎo)數(shù)為零，求 w
- 加入正則項(xiàng)，對(duì)損失函數(shù)用梯度下降，當(dāng)損失函數(shù)收斂時(shí)，求 w
- 加入正則項(xiàng)，對(duì)損失函數(shù)用共軛梯度法，循環(huán)迭代 m+1 次，求 w 3.2 算法實(shí)現(xiàn) 生成數(shù)據(jù)，加入噪聲
用高階多項(xiàng)式函數(shù)擬合曲線；
用解析解求解兩種 loss 的最優(yōu)解（無(wú)正則項(xiàng)和有正則項(xiàng)）
無(wú)正則項(xiàng)：
有正則項(xiàng)：
優(yōu)化方法求解最優(yōu)解（梯度下降，共軛梯度）
梯度下降法：
共軛梯度法：
用你得到的實(shí)驗(yàn)數(shù)據(jù)，解釋過(guò)擬合。
多項(xiàng)式次數(shù)為 1 時(shí)：
多項(xiàng)式次數(shù)為 3 時(shí)：
當(dāng)多項(xiàng)式次數(shù)為 5 時(shí)：
當(dāng)多項(xiàng)式次數(shù)為 7 時(shí)：
當(dāng)多項(xiàng)式次數(shù)為 9 時(shí)：
到此這篇關(guān)于Python實(shí)現(xiàn)多項(xiàng)式擬合正弦函數(shù)詳情的文章就介紹到這了,更多相關(guān)Python擬合正弦函數(shù)內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
Python中url標(biāo)簽使用知識(shí)點(diǎn)總結(jié)
這篇文章主要介紹了Python中url標(biāo)簽使用知識(shí)點(diǎn)以及相關(guān)實(shí)例代碼，需要的朋友們參考下。2020-01-01
在本篇文章里小編給大家分享的是一篇關(guān)于python定義類的簡(jiǎn)單用法，需要的朋友們可以參考下。2020-07-07
Python中Generators教程的實(shí)現(xiàn)
本文主要介紹了Python中Generators教程的實(shí)現(xiàn)，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2023-02-02
這篇文章主要為大家詳細(xì)介紹了python的函數(shù)形參和返回值，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下，希望能夠給你帶來(lái)幫助2022-03-03
這篇文章主要介紹了Python批量安裝卸載1000個(gè)apk的方法，本文給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-04-04
本篇文章主要介紹了詳解如何使用Python編寫(xiě)vim插件，小編覺(jué)得挺不錯(cuò)的，現(xiàn)在分享給大家，也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2017-11-11
Numpy數(shù)組的廣播機(jī)制的實(shí)現(xiàn)
這篇文章主要介紹了Numpy數(shù)組的廣播機(jī)制的實(shí)現(xiàn)，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2020-11-11
這篇文章主要介紹了python之excel文件(.xls文件)處理方式，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教2023-05-05
Python中用startswith()函數(shù)判斷字符串開(kāi)頭的教程
這篇文章主要介紹了Python中用startswith()函數(shù)判斷字符串開(kāi)頭的教程,startswith()函數(shù)的使用是Python學(xué)習(xí)中的基礎(chǔ)知識(shí),本文列舉了一些不同情況下的使用結(jié)果,需要的朋友可以參考下2015-04-04
Python實(shí)現(xiàn)隨機(jī)游走的詳細(xì)解釋
這篇文章主要介紹了Python實(shí)現(xiàn)隨機(jī)游走的詳細(xì)解釋,文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2021-03-03