快捷導(dǎo)航

Pytorch訓(xùn)練模型得到輸出后計(jì)算F1-Score 和AUC的操作

更新時(shí)間：2021年05月14日 08:40:23 作者：煙雨人長安

這篇文章主要介紹了Pytorch訓(xùn)練模型得到輸出后計(jì)算F1-Score 和AUC的操作，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教

1、計(jì)算F1-Score

對(duì)于二分類來說，假設(shè)batch size 大小為64的話，那么模型一個(gè)batch的輸出應(yīng)該是torch.size([64,2])，所以首先做的是得到這個(gè)二維矩陣的每一行的最大索引值，然后添加到一個(gè)列表中，同時(shí)把標(biāo)簽也添加到一個(gè)列表中，最后使用sklearn中計(jì)算F1的工具包進(jìn)行計(jì)算，代碼如下

import numpy as np
import sklearn.metrics import f1_score
prob_all = []
lable_all = []
for i, (data,label) in tqdm(train_data_loader):
    prob = model(data) #表示模型的預(yù)測(cè)輸出
    prob = prob.cpu().numpy() #先把prob轉(zhuǎn)到CPU上，然后再轉(zhuǎn)成numpy，如果本身在CPU上訓(xùn)練的話就不用先轉(zhuǎn)成CPU了
    prob_all.extend(np.argmax(prob,axis=1)) #求每一行的最大值索引
    label_all.extend(label)
print("F1-Score:{:.4f}".format(f1_score(label_all,prob_all)))

2、計(jì)算AUC

計(jì)算AUC的時(shí)候，本次使用的是sklearn中的roc_auc_score () 方法

輸入?yún)?shù)：

y_true：真實(shí)的標(biāo)簽。形狀 (n_samples，) 或 (n_samples, n_classes)。二分類的形狀 (n_samples，1)，而多標(biāo)簽情況的形狀 (n_samples, n_classes)。

y_score：目標(biāo)分?jǐn)?shù)。形狀 (n_samples，) 或 (n_samples, n_classes)。二分類情況形狀 (n_samples，1)，“分?jǐn)?shù)必須是具有較大標(biāo)簽的類的分?jǐn)?shù)”，通俗點(diǎn)理解：模型打分的第二列。舉個(gè)例子：模型輸入的得分是一個(gè)數(shù)組 [0.98361117 0.01638886]，索引是其類別，這里 “較大標(biāo)簽類的分?jǐn)?shù)”，指的是索引為 1 的分?jǐn)?shù)：0.01638886，也就是正例的預(yù)測(cè)得分。

average='macro'：二分類時(shí)，該參數(shù)可以忽略。用于多分類，' micro '：將標(biāo)簽指標(biāo)矩陣的每個(gè)元素看作一個(gè)標(biāo)簽，計(jì)算全局的指標(biāo)。' macro '：計(jì)算每個(gè)標(biāo)簽的指標(biāo)，并找到它們的未加權(quán)平均值。這并沒有考慮標(biāo)簽的不平衡。' weighted '：計(jì)算每個(gè)標(biāo)簽的指標(biāo)，并找到它們的平均值，根據(jù)支持度 (每個(gè)標(biāo)簽的真實(shí)實(shí)例的數(shù)量) 進(jìn)行加權(quán)。

sample_weight=None：樣本權(quán)重。形狀 (n_samples，)，默認(rèn) = 無。

max_fpr=None：

multi_class='raise'：(多分類的問題在下一篇文章中解釋)

labels=None：

輸出：

auc：是一個(gè) float 的值。

import numpy as np
import sklearn.metrics import roc_auc_score
prob_all = []
lable_all = []
for i, (data,label) in tqdm(train_data_loader):
    prob = model(data) #表示模型的預(yù)測(cè)輸出
    prob_all.extend(prob[:,1].cpu().numpy()) #prob[:,1]返回每一行第二列的數(shù)，根據(jù)該函數(shù)的參數(shù)可知，y_score表示的較大標(biāo)簽類的分?jǐn)?shù)，因此就是最大索引對(duì)應(yīng)的那個(gè)值，而不是最大索引值
    label_all.extend(label)
print("AUC:{:.4f}".format(roc_auc_score(label_all,prob_all)))

補(bǔ)充：pytorch訓(xùn)練模型的一些坑