概述

經(jīng)典端對(duì)端無(wú)線通信系統(tǒng)如下圖所示：

信源 xx使用信源編碼，去除冗余得到比特流 ss。

對(duì) ss進(jìn)行信道編碼（如 Turbo、LDPC 等）得到 yy，增加相應(yīng)的校驗(yàn)位來(lái)抵抗信道噪聲。

對(duì)比特流 yy進(jìn)行調(diào)制（如 BPSK、16QAM 等）得到 zz，并經(jīng)物理信道發(fā)送。

接收端對(duì)經(jīng)信道后的符號(hào) \bar{z}zˉ 進(jìn)行解調(diào)、解碼操作得到 \bar{x}xˉ。

根據(jù)定義信道方式不同，基于深度學(xué)習(xí)的信源信道聯(lián)合編碼（Deep JSCC）可以分為兩類。

第一類，受無(wú)編碼傳輸?shù)膯l(fā)，將信源編碼、信道編碼和調(diào)制聯(lián)合設(shè)計(jì)為編碼器。

系統(tǒng)模型如下圖所示：

第二類，將通信系統(tǒng)中的調(diào)制、噪聲信道、解調(diào)模塊抽象為離散的二進(jìn)制信道。

系統(tǒng)模型如下圖所示：

第一種模型稱為基于物理信道的符號(hào)編碼，第二種稱為基于抽象信道的比特編碼。

另一方面，信源可根據(jù)其是否具有結(jié)構(gòu)化特征劃分為兩類：

• 結(jié)構(gòu)化信源，如圖像、視頻。
• 非結(jié)構(gòu)化信源，如高斯信源。

結(jié)構(gòu)化信源是 Deep JSCC 的主要研究場(chǎng)景。由于神經(jīng)網(wǎng)絡(luò)對(duì)結(jié)構(gòu)化數(shù)據(jù)具有強(qiáng)大的特征獲取能力，并且有針對(duì)各種結(jié)構(gòu)化數(shù)據(jù)設(shè)計(jì)的網(wǎng)絡(luò)結(jié)構(gòu)的出現(xiàn)。

因此，Deep JSCC 相較于傳統(tǒng)設(shè)計(jì)更具有優(yōu)勢(shì)。

圖像/視頻等具有空間拓?fù)浣Y(jié)構(gòu)信源適合 CNN 網(wǎng)絡(luò)結(jié)構(gòu)，文本/語(yǔ)音等具有時(shí)間序列化結(jié)構(gòu)信源適合 RNN 網(wǎng)絡(luò)結(jié)構(gòu)。

對(duì)于非結(jié)構(gòu)化信源，Deep JSCC 則稍顯羸弱。因?yàn)榉墙Y(jié)構(gòu)化信源內(nèi)部相關(guān)性弱，難以去除冗余。

基于物理信道的符號(hào)編碼

結(jié)構(gòu)化信源

Gunduz 團(tuán)隊(duì)1 提出了一個(gè)傳輸高分辨率圖像的 Deep JSCC 框架。
發(fā)送端和接收端都使用 CNN 網(wǎng)絡(luò)，并在訓(xùn)練時(shí)加入了高斯白噪聲和瑞利衰減噪聲。
提出的 Deep JSCC 框架如下圖所示：

實(shí)驗(yàn)表明，從 PSNR 和 SSIM 數(shù)據(jù)來(lái)看，提出的信源信道聯(lián)合編碼比信源信道分離方案更優(yōu)，在低信噪比的信道環(huán)境下，優(yōu)勢(shì)尤其明顯。

Gunduz 團(tuán)隊(duì)2 在前一個(gè)方案的基礎(chǔ)上，提出將噪聲反饋模塊融入傳輸系統(tǒng)，以增強(qiáng)編解碼器對(duì)變換信噪比的魯棒性。

解碼器將一部分經(jīng)過(guò)噪聲信道的接收到的符號(hào) \bar{z}zˉ 反饋給編碼器，編碼器根據(jù) \bar{z}zˉ 重新計(jì)算信噪比，并對(duì)編解碼網(wǎng)絡(luò)參數(shù)進(jìn)行改進(jìn)，以適應(yīng)變換的信噪比環(huán)境。

其通信方案如下圖所示：

Jankowski3 提出了一種使用 Deep JSCC 來(lái)進(jìn)行圖像檢索的方案，先提取圖像特征，然后使用 Deep JSCC 編碼傳輸圖像特征子，接收端接收解碼特征子并基于特征對(duì)圖像進(jìn)行檢索。

系統(tǒng)架構(gòu)如下圖所示：

非結(jié)構(gòu)化信源

Saidutta4 提出了一種應(yīng)用雙編碼解碼結(jié)構(gòu)的 Deep JSCC 方案對(duì)高斯信源進(jìn)行編碼傳輸。
訓(xùn)練時(shí)采用 MSE 優(yōu)化器。

系統(tǒng)架構(gòu)如下圖所示：

在前面工作的基礎(chǔ)上，Saidutta5 提出了基于變分自編碼器對(duì)高斯信源編碼的 Deep JSCC 方案，通過(guò)假設(shè)接收信號(hào)和重構(gòu)信號(hào)的高斯統(tǒng)計(jì)特性，給出了正則化 MSE 損失的可變上限證明。

Xuan6 提出了一種基于 RNN 對(duì)高斯信源編碼的 Deep JSCC 方案。

其不需要獲取信源的先驗(yàn)信息，并在理論上證明了 Deep JSCC 的有效性，同時(shí)證明了基于深度學(xué)習(xí)的編碼器與基于混沌動(dòng)態(tài)系統(tǒng)（Chaotic Dynamical System）的編碼函數(shù)之間的相似性。

系統(tǒng)框架如下圖所示：

基于抽象信道的比特編碼

與傳統(tǒng)符號(hào)流的 Deep JSCC 方案不同，二進(jìn)制信道下傳輸離散比特流無(wú)法計(jì)算反向傳播梯度。因此，離散信道的嵌入也比物理信道的嵌入更為復(fù)雜。

近年來(lái)，神經(jīng)網(wǎng)絡(luò)離散化7和離散自編碼器8的發(fā)展，為上述難點(diǎn)提供了解決思路。針對(duì)離散化神經(jīng)網(wǎng)絡(luò)的問(wèn)題，一個(gè)簡(jiǎn)單的方法是使用得分函數(shù)估計(jì)器替代梯度9。由于該估計(jì)方差較高，一部分工作提出了不同的公式和控制變量來(lái)解決該問(wèn)題10。

另外，為了達(dá)到使離散隨機(jī)變量連續(xù)化的目的，Jang 和 Maddisonet 分別提出了 Gumbel-Softmax 分布11和 Concrete 方案12。

結(jié)構(gòu)化信源

Choi13 提出了一種使用離散自編碼器對(duì)圖像進(jìn)行抽象信道的比特編碼方案。為了保留編碼的硬離散性，使用了多樣本變分下界目標(biāo)，用于獲得低變差梯度。

系統(tǒng)結(jié)構(gòu)如下圖所示：

其使用圖像及其二進(jìn)制表示的互信息的變分下界來(lái)訓(xùn)練模型，以獲得更好的魯棒性。

Song14 提出了新的正則化方法 IABF(Infomax Adversarial Bits Flip) ，以增強(qiáng) NECST 的壓縮和糾錯(cuò)能力，提升魯棒性。并提出了新的損失函數(shù)，實(shí)現(xiàn)了網(wǎng)絡(luò)對(duì)高維數(shù)據(jù)更有效的優(yōu)化。

Shao15 基于輕量級(jí) CNN 網(wǎng)絡(luò)提出了可部署到計(jì)算能力有限的移動(dòng)設(shè)備中的低功耗 Deep JSCC。

系統(tǒng)架構(gòu)如下圖所示：

Farsad16 提出了基于 RNN 結(jié)構(gòu)的 Deep JSCC 方案，以對(duì)文本信源進(jìn)行編碼傳輸。采用里德-所羅門（ReedSolomon）碼對(duì)信道進(jìn)行編碼；結(jié)果表明，當(dāng)編碼比特較短時(shí)，該方案比傳統(tǒng)方法具更低的單詞錯(cuò)誤率。

系統(tǒng)架構(gòu)如下圖所示：

非結(jié)構(gòu)化信源

Carpi17 提出了一種基于強(qiáng)化學(xué)習(xí)的 Deep JSCC 方案，采用了比特位翻轉(zhuǎn)解碼（bitflipping decoding）、殘差信念傳播（residual belief propagation）和錨解碼（anchor decoding）三種算法，讓解碼器由數(shù)據(jù)驅(qū)動(dòng)去學(xué)習(xí)最佳的解碼策略。

以上就是詳解基于深度學(xué)習(xí)的兩種信源信道聯(lián)合編碼的詳細(xì)內(nèi)容，更多關(guān)于基于深度學(xué)習(xí)的兩種信源信道聯(lián)合編碼的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！

最新評(píng)論