聯(lián)邦學習神經(jīng)網(wǎng)絡FedAvg算法實現(xiàn)
I. 前言
聯(lián)邦學習(Federated Learning) 是人工智能的一個新的分支，這項技術是谷歌2016年于論文
Communication-Efficient Learning of Deep Networks from Decentralized Data中首次提出。
在我的另一篇博文聯(lián)邦學習:《Communication-Efficient Learning of Deep Networks from Decentralized Data中詳細解析了該篇論文，而本篇博文的目的是利用這篇解讀文章對原始論文中的FedAvg方法進行復現(xiàn)。
因此，閱讀本文前建議先閱讀聯(lián)邦學習:《Communication-Efficient Learning of Deep Networks from Decentralized Data。
II. 數(shù)據(jù)介紹
聯(lián)邦學習中存在多個客戶端，每個客戶端都有自己的數(shù)據(jù)集，這個數(shù)據(jù)集他們是不愿意共享的。
本文選用的數(shù)據(jù)集為中國北方某城市十個區(qū)/縣從2016年到2019年三年的真實用電負荷數(shù)據(jù)，采集時間間隔為1小時，即每一天都有24個負荷值。
我們假設這10個地區(qū)的電力部門不愿意共享自己的數(shù)據(jù)，但是他們又想得到一個由所有數(shù)據(jù)統(tǒng)一訓練得到的全局模型。
除了電力負荷數(shù)據(jù)意外，還有風功率數(shù)據(jù)，兩個數(shù)據(jù)通過參數(shù)type指定：type == 'load’表示負荷數(shù)據(jù)，'wind’表示風功率數(shù)據(jù)。
1. 特征構造
用某一時刻前24個時刻的負荷值以及該時刻的相關氣象數(shù)據(jù)（如溫度、濕度、壓強等）來預測該時刻的負荷值。
對于風功率數(shù)據(jù)，同樣使用某一時刻前24個時刻的風功率值以及該時刻的相關氣象數(shù)據(jù)來預測該時刻的風功率值。
各個地區(qū)應該就如何制定特征集達成一致意見，本文使用的各個地區(qū)上的數(shù)據(jù)的特征是一致的，可以直接使用。
III. 聯(lián)邦學習
1. 整體框架
原始論文中提出的FedAvg的框架為：
由于本文中需要利用各個客戶端的模型參數(shù)來對服務器端的模型參數(shù)進行更新，因此本文決定采用numpy搭建一個四層的神經(jīng)網(wǎng)絡模型。模型的具體搭建過程可以參考上一篇博文：從矩陣鏈式求導的角度來深入理解BP算法（原理+代碼）。在這篇博文里面我詳細得介紹了神經(jīng)網(wǎng)絡參數(shù)更新的過程，這將有助于理解本文中的模型參數(shù)更新過程。
神經(jīng)網(wǎng)絡由1個輸入層、3個隱藏層以及1個輸出層組成，激活函數(shù)全部采用Sigmoid函數(shù)。
網(wǎng)絡各層間的運算關系，也就是前向傳播過程如下所示：
因此，客戶端參數(shù)更新實際上就是更新四個 w。
2. 服務器端
服務器端執(zhí)行以下步驟：
簡單來說，每一輪通信時都只是選擇部分客戶端，這些客戶端利用本地的數(shù)據(jù)進行參數(shù)更新，然后將更新后的參數(shù)傳給服務器，服務器匯總客戶端更新后的參數(shù)形成最新的全局參數(shù)。下一輪通信時，服務器端將最新的參數(shù)分發(fā)給被選中的客戶端，進行下一輪更新。
3. 客戶端
客戶端沒什么可說的，就是利用本地數(shù)據(jù)對神經(jīng)網(wǎng)絡模型的參數(shù)進行更新。
4. 代碼實現(xiàn)
4.1 初始化
參數(shù)：
- K，客戶端數(shù)量，本文為10個，也就是10個地區(qū)。
- C：選擇率，每一輪通信時都只是選擇C * K個客戶端。
- E：客戶端更新本地模型的參數(shù)時，在本地數(shù)據(jù)集上訓練E輪。
- B：客戶端更新本地模型的參數(shù)時，本地數(shù)據(jù)集batch大小為B
- r：服務器端和客戶端一共進行r輪通信。
- clients：客戶端集合。
- type：指定數(shù)據(jù)類型，負荷預測or風功率預測。
- lr：學習率。
- input_dim：數(shù)據(jù)輸入維度。
- nn：全局模型。
- nns： 客戶端模型集合。
代碼實現(xiàn)：
class FedAvg:
def __init__(self, options):
self.C = options['C']
self.E = options['E']
self.B = options['B']
self.K = options['K']
self.r = options['r']
self.clients = options['clients']
self.type = options['type']
self.lr = options['lr']
self.input_dim = options['input_dim']
self.nn = BP(file_name='server', B=B, E=E, input_dim=self.input_dim, type=self.type, lr=self.lr)
self.nns = []
# distribution
for i in range(self.K):
s = copy.deepcopy(self.nn)
s.file_name = self.clients[i]
self.nns.append(s)
其中 self.nn是服務器端初始化的全局參數(shù)，由于服務器端不需要進行反向傳播更新參數(shù)，因此不需要定義各個隱層以及輸出。
4.2 服務器端
服務器端代碼如下：
def server(self):
for t in range(self.r):
print('第', t + 1, '輪通信:')
m = np.max([int(self.C * self.K), 1])
# sampling
index = random.sample(range(0, self.K), m)
# dispatch
self.dispatch(index)
# local updating
self.client_update(index)
# aggregation
self.aggregation(index)
# return global model
return self.nn
其中client_update(index)：
def client_update(self, index): # update nn
for k in index:
self.nns[k] = train(self.nns[k])
aggregation(index):
def aggregation(self, index):
# update w
s = 0
for j in index:
# normal
s += self.nns[j].len
w1 = np.zeros_like(self.nn.w1)
w2 = np.zeros_like(self.nn.w2)
w3 = np.zeros_like(self.nn.w3)
w4 = np.zeros_like(self.nn.w4)
for j in index:
# normal
w1 += self.nns[j].w1 * (self.nns[j].len / s)
w2 += self.nns[j].w2 * (self.nns[j].len / s)
w3 += self.nns[j].w3 * (self.nns[j].len / s)
w4 += self.nns[j].w4 * (self.nns[j].len / s)
# update server
self.nn.w1, self.nn.w2, self.nn.w3, self.nn.w4 = w1, w2, w3, w4
dispatch(index)：
def aggregation(self, index):
# update w
s = 0
for j in index:
# normal
s += self.nns[j].len
w1 = np.zeros_like(self.nn.w1)
w2 = np.zeros_like(self.nn.w2)
w3 = np.zeros_like(self.nn.w3)
w4 = np.zeros_like(self.nn.w4)
for j in index:
# normal
w1 += self.nns[j].w1 * (self.nns[j].len / s)
w2 += self.nns[j].w2 * (self.nns[j].len / s)
w3 += self.nns[j].w3 * (self.nns[j].len / s)
w4 += self.nns[j].w4 * (self.nns[j].len / s)
# update server
self.nn.w1, self.nn.w2, self.nn.w3, self.nn.w4 = w1, w2, w3, w4
下面對重要代碼進行分析：
客戶端的選擇
m = np.max([int(self.C * self.K), 1]) index = random.sample(range(0, self.K), m)
index中存儲中m個0~10間的整數(shù)，表示被選中客戶端的序號。
客戶端的更新
for k in index:
self.client_update(self.nns[k])
服務器端匯總客戶端模型的參數(shù)
關于模型匯總方式，可以參考一下我的另一篇文章：對FedAvg中模型聚合過程的理解。
當然，這只是一種很簡單的匯總方式，還有一些其他類型的匯總方式。論文Electricity Consumer Characteristics Identification: A Federated Learning Approach中總結了三種匯總方式：
- normal：原始論文中的方式，即根據(jù)樣本數(shù)量來決定客戶端參數(shù)在最終組合時所占比例。
- LA：根據(jù)客戶端模型的損失占所有客戶端損失和的比重來決定最終組合時參數(shù)所占比例。
- LS：根據(jù)損失與樣本數(shù)量的乘積所占的比重來決定。
將更新后的參數(shù)分發(fā)給客戶端
def dispatch(self, inidex):
# dispatch
for i in index:
self.nns[i].w1, self.nns[i].w2, self.nns[i].w3, self.nns[
i].w4 = self.nn.w1, self.nn.w2, self.nn.w3, self.nn.w4
4.3 客戶端
客戶端只需要利用本地數(shù)據(jù)來進行更新就行了：
def client_update(self, index): # update nn
for k in index:
self.nns[k] = train(self.nns[k])
其中train():
def train(nn):
print('training...')
if nn.type == 'load':
train_x, train_y, test_x, test_y = nn_seq(nn.file_name, nn.B, nn.type)
else:
train_x, train_y, test_x, test_y = nn_seq_wind(nn.file_name, nn.B, nn.type)
nn.len = len(train_x)
batch_size = nn.B
epochs = nn.E
batch = int(len(train_x) / batch_size)
for epoch in range(epochs):
for i in range(batch):
start = i * batch_size
end = start + batch_size
nn.forward_prop(train_x[start:end], train_y[start:end])
nn.backward_prop(train_y[start:end])
print('當前epoch:', epoch, ' error:', np.mean(nn.loss))
return nn
4.4 測試
def global_test(self):
model = self.nn
c = clients if self.type == 'load' else clients_wind
for client in c:
model.file_name = client
test(model)
IV. 實驗及結果
本次實驗的參數(shù)選擇為：
| K | C | E | B | r |
|---|---|---|---|---|
| 10 | 0.5 | 50 | 50 | 5 |
if __name__ == '__main__': K, C, E, B, r = 10, 0.5, 50, 50, 5 type = 'load' input_dim = 30 if type == 'load' else 28 _client = clients if type == 'load' else clients_wind lr = 0.08 options = {<!--{C}%3C!%2D%2D%20%2D%2D%3E-->'K': K, 'C': C, 'E': E, 'B': B, 'r': r, 'type': type, 'clients': _client, 'input_dim': input_dim, 'lr': lr} fedavg = FedAvg(options) fedavg.server() fedavg.global_test()if __name__ == '__main__':
K, C, E, B, r = 10, 0.5, 50, 50, 5
type = 'load'
input_dim = 30 if type == 'load' else 28
_client = clients if type == 'load' else clients_wind
lr = 0.08
options = {'K': K, 'C': C, 'E': E, 'B': B, 'r': r, 'type': type, 'clients': _client,
'input_dim': input_dim, 'lr': lr}
fedavg = FedAvg(options)
fedavg.server()
fedavg.global_test()
各個客戶端單獨訓練（訓練50輪，batch大小為50）后在本地的測試集上的表現(xiàn)為：
| 客戶端編號 | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 |
|---|---|---|---|---|---|---|---|---|---|---|
| MAPE / % | 5.79 | 6.73 | 6.18 | 5.82 | 5.49 | 4.55 | 6.23 | 9.59 | 4.84 | 5.49 |
可以看到，由于各個客戶端的數(shù)據(jù)都十分充足，所以每個客戶端自己訓練的本地模型的預測精度已經(jīng)很高了。
服務器與客戶端通信5輪后，服務器上的全局模型在10個客戶端測試集上的表現(xiàn)如下所示：
| 客戶端編號 | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 |
|---|---|---|---|---|---|---|---|---|---|---|
| MAPE / % | 6.58 | 4.19 | 3.17 | 5.13 | 3.58 | 4.69 | 4.71 | 3.75 | 2.94 | 4.77 |
可以看到，經(jīng)過聯(lián)邦學習框架得到全局模型在各個客戶端上表現(xiàn)同樣很好，這是因為十個地區(qū)上的數(shù)據(jù)是獨立同分布的。
V. 源碼及數(shù)據(jù)
我把數(shù)據(jù)和代碼放在了GitHub上：FedAvg
以上就是聯(lián)邦學習神經(jīng)網(wǎng)絡FedAvg算法實現(xiàn)的詳細內(nèi)容，更多關于神經(jīng)網(wǎng)絡FedAvg算法的資料請關注腳本之家其它相關文章！
相關文章
這篇文章主要介紹了python實現(xiàn)的config文件讀寫功能,結合實例形式分析了Python文件讀寫相關操作技巧,需要的朋友可以參考下2019-09-09
Python數(shù)值求解微分方程方法(歐拉法,隱式歐拉)
這篇文章主要介紹了Python數(shù)值求解微分方程方法(歐拉法,隱式歐拉)，文章圍繞主題展開詳細的內(nèi)介紹，具有一定的參考價值，需要的小伙伴可以參考一下2022-09-09
Python Tornado實現(xiàn)WEB服務器Socket服務器共存并實現(xiàn)交互的方法
這篇文章主要介紹了Python Tornado實現(xiàn)WEB服務器Socket服務器共存并實現(xiàn)交互的方法，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2020-05-05
這篇文章主要介紹了基于Python實現(xiàn)撲克牌面試題,文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2019-12-12
這篇文章主要介紹了Python3?中return和yield的區(qū)別，return和yield都用來返回值；在一次性地返回所有值場景中return和yield的作用是一樣的，但是具體有什么區(qū)別呢，帶著疑問一起進入下面文章學習詳細內(nèi)容吧2022-06-06
Python使用Selenium模塊實現(xiàn)模擬瀏覽器抓取淘寶商品美食信息功能示例
這篇文章主要介紹了Python使用Selenium模塊實現(xiàn)模擬瀏覽器抓取淘寶商品美食信息功能,涉及Python基于re模塊的正則匹配及selenium模塊的頁面抓取等相關操作技巧,需要的朋友可以參考下2018-07-07
這篇文章主要為大家介紹了如何使用OpenCV和像素處理圖像灰度化的方法示例詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪2023-04-04
這篇文章主要介紹了用python實現(xiàn)對比兩張圖片的不同的相關資料,需要的朋友可以參考下2018-02-02
這篇文章主要為大家介紹了Gradio機器學習模型快速部署工具quickstart，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪2023-04-04
這篇文章主要介紹了Django Channel實時推送與聊天的示例代碼，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2020-04-04