錕拷碼和口字碼

說到亂碼問題就不得不提到錕斤拷，這算是非常常見的一種亂碼形式，那么它到底是經(jīng)過何種錯誤操作產(chǎn)生的呢？下面我們一步步探究。

看一個基本示例：

"??".encode("u8").decode("gbk")

'錕斤拷'

我們將?字符以UTF-8編碼后，以GBK編碼解碼就可以得到 錕斤拷 的亂碼。

那么為什么 錕斤拷 為什么如此常見呢？這是因為大部分編程語言在使用UNICODE系列的編碼去解碼時，會將不識別的字節(jié)編碼為0xFFFD(65533)即?字符表示未知字符進(jìn)行占位：

"\uFFFD"

'?'

注意：UNICODE系列包括UTF-8、UTF-16、UTF-32編碼，一般UNICODE編碼指UTF-16編碼。在python中unicode_escape編碼表示UNICODE編碼的的轉(zhuǎn)義形式：

"\uFFFD".encode("unicode_escape").decode()

'\\ufffd'

對于Python，默認(rèn)情況下解碼碰到未知字符時會直接拋出異常，但是如果設(shè)置errors參數(shù)為replace時，則會將未知字符解碼為?占位。

將漢字用GBK編碼：

"小小明".encode("gbk")

b'\xd0\xa1\xd0\xa1\xc3\xf7'

將上述編碼結(jié)果用UTF-8編碼解碼，并設(shè)置為替換模式：

"小小明".encode("gbk").decode("u8", "replace")

'СС??'

0xd0a1被解碼成С，但是0xc3和0xf7無法被UTF-8編碼識別，只能用占位符?替換，于是就得到了上面的結(jié)果。

此時我們再編碼并解碼：

"小小明".encode("gbk").decode("u8", "replace") \
    .encode("u8").decode("gbk", "replace")

'小小錕斤拷'

這是因為?被編碼成了0xEFBFBD

"??".encode("u8")

b'\xef\xbf\xbd\xef\xbf\xbd'

而0xEFBFBDEFBFBD被GBK解碼時，正好就是錕（0xEFBF），斤（0xBDEF），拷（0xBFBD）。

上述以?為主的亂碼字符就是口字碼，原因是以UTF-8編碼讀取了GBK編碼的中文。

而錕拷體則是大部分都是錕斤拷的全中文字符，原因是用GBK編碼讀取了UTF-8編碼的口字碼中文。

古文碼與問句碼

問句碼產(chǎn)生的核心原因在于GBK對于無法編碼的字符會使用?填充：

"???".encode("gbk", "replace")

b'??'

古文碼則與前面的口字碼產(chǎn)生原因相反，使用GBK編碼讀取以UTF-8編碼的中文：

"小小明".encode("u8").decode("gbk", "replace")

'灝忓皬鏄?'

此時的 灝忓皬鏄 就非常像古文，gbk解碼對于不識別的字節(jié)也使用?占位。

此時gbk編碼對于?編碼失敗，使用?替代：

'灝忓皬鏄?'.encode("gbk", "replace")

b'\xe5\xb0\x8f\xe5\xb0\x8f\xe6\x98?'

此時再用UTF-8解碼就得到了問句碼：

b'\xe5\xb0\x8f\xe5\xb0\x8f\xe6\x98?'.decode("u8", "ignore")

'小小?'

不過問句碼只在原始字符串為奇數(shù)時產(chǎn)生，如果原始字符串長度為偶數(shù)，使用上述編碼方式則可以原樣還原字符串：

"小小明月".encode("u8").decode("gbk", "replace") \
    .encode("gbk", "replace").decode("u8", "ignore")

'小小明月'

這樣說明只要我們將原始漢字字符串填充到偶數(shù)，就可以使用古文碼實現(xiàn)可逆的數(shù)據(jù)傳輸，而錕拷體則是一種不可逆的亂碼。

符號碼和拼音碼

還有兩種可逆的亂碼，我們先看看符號碼：

"小小明".encode("u8").decode("iso8859-1")

'å°\x8få°\x8fæ\x98\x8e'

像這種大部分字符為各種符號的亂碼就稱為符號碼，符號碼可以直接還原為原始的文本：

'?°\x8f?°\x8f?\x98\x8e'.encode("iso8859-1").decode("u8")

'小小明'

再看看拼音碼：

"小小明".encode("gbk").decode("iso8859-1")

'ССÃ÷'

這種大部分字符都是帶有聲調(diào)的字母稱為拼音碼，同樣可以直接還原：

'D?D??÷'.encode("iso8859-1").decode("gbk")

'小小明'

總結(jié)

到此這篇關(guān)于Python實現(xiàn)模擬錕斤拷等各類亂碼詳解的文章就介紹到這了,更多相關(guān)Python模擬亂碼內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評論