sklearn-SVC實現(xiàn)與類參數

對應的API：http://scikit-learn.sourceforge.net/stable/modules/generated/sklearn.svm.SVC.html

它是基于libsvm實現(xiàn)的。隨著樣本數量的增加，擬合時間的復雜度要高于二次，這就使得當樣板數量超過一萬個時，很難擴展到數據集中。

在多類處理時，是按照1對1的方案進行處理的。

函數的的定義為：

 def __init__ (self, C=1.0, kernel='rbf', degree=3, gamma='auto',coef0=0.0, 
verbose=False, max_iter=-1, decision_function_shape='ovr', random_state=None):

參數的含義：

- C：float參數 默認值為1.0。錯誤項的懲罰系數。C越大，即對分錯樣本的懲罰程度越大，因此在訓練樣本中準確率越高，但是泛化能力降低，也就是對測試數據的分類準確率降低。相反，減小C的話，容許訓練樣本中有一些誤分類錯誤樣本，泛化能力強。對于訓練樣本帶有噪聲的情況，一般采用后者，把訓練樣本集中錯誤分類的樣本作為噪聲。

- kernel: str參數 默認為‘rbf‘，算法中采用的核函數類型，可選參數有：

linear：線性核函數

poly：多項式核函數

rbf：徑像核函數/高斯核

sigmod：sigmod核函數

precomputed：核矩陣

- degree :int型參數 (default=3)，這個參數只對多項式核函數（poly）有用，是指多項式核函數的階數n，如果給的核函數參數是其他核函數，則會自動忽略該參數。

- gamma：float參數，默認為auto核函數系數，只對'rbf'、 ‘poly' 、 ‘sigmoid'有效。

如果gamma為auto，代表其值為樣本特征數的倒數，即1/n_features。

- coef0：float參數 默認為0.0

核函數中的獨立項，只有對‘poly'和‘sigmod'核函數有用，是指其中的參數c

- probability：bool參數 默認為False

是否啟用概率估計。 這必須在調用fit()之前啟用，并且會fit()方法速度變慢。

- shrinking：bool參數 默認為True

是否采用啟發(fā)式收縮方式。

- tol: float參數 默認為1e^-3

svm停止訓練的誤差精度。

- cache_size：float參數 默認為200

指定訓練所需要的內存，以MB為單位，默認為200MB。 - class_weight：字典類型或者‘balance'字符串。默認為None

給每個類別分別設置不同的懲罰參數C，則該類別的懲罰系數為class_weight[i]*C，如果沒有給，則會給所有類別都給C=1，即前面參數指出的參數C。

如果給定參數‘balance'，則使用y的值自動調整與輸入數據中的類頻率成反比的權重。

- verbose ：bool參數 默認為False

是否啟用詳細輸出。 此設置利用libsvm中的每個進程運行時設置，如果啟用，可能無法在多線程上下文中正常工作。一般情況都設為False，不用管它。

- max_iter ：int參數 默認為-1

最大迭代次數，如果為-1，表示不限制

- random_state：int型參數 默認為None

偽隨機數發(fā)生器的種子,在混洗數據時用于概率估計。

SVC的方法

1、fit()方法：用于訓練SVM，具體參數已經在定義SVC對象的時候給出了，這時候只需要給出數據集X和X對應的標簽y即可。

2、predict()方法：基于以上的訓練，對預測樣本T進行類別預測，因此只需要接收一個測試集T，該函數返回一個數組表示個測試樣本的類別。

3、predict_proba()：返回每個輸入類別的概率，這與predict方法不同，predict方法返回的輸入樣本屬于那個類別，但沒有概率。使用此方法時，需要在初始化時，將 probability參數設置為True。

例如：

import numpy as np
import matplotlib.pyplot as plt
from sklearn import svm
# we create 40 separable points
np.random.seed(0)
X = np.r_[np.random.randn(20, 2) - [2, 2], np.random.randn(20, 2) + [2, 2]]
Y = [0] * 20 + [1] * 20
# fit the model
clf = svm.SVC(kernel='linear',probability=True)
clf.fit(X, Y)
print(clf.predict_proba([[-0.1,0.7],[0.3,0.5]]))
#result
#[[ 0.41844015 0.58155985]
#[ 0.34810738 0.65189262]]

如果初始化時不適用probability參數：

clf = svm.SVC(kernel='linear')
clf.fit(X, Y)
print(clf.predict([[-0.1,0.7],[0.3,0.5]]))
# get the separating hyperplane
w = clf.coef_[0]
#輸出的結果為：[1,1]

屬性有哪些：

svc.n_support_：各類各有多少個支持向量

svc.support_：各類的支持向量在訓練樣本中的索引

svc.support_vectors_：各類所有的支持向量

以上這篇sklearn-SVC實現(xiàn)與類參數詳解就是小編分享給大家的全部內容了，希望能給大家一個參考，也希望大家多多支持腳本之家。

最新評論