快捷導(dǎo)航

解決tensorflow模型壓縮的問(wèn)題_踩坑無(wú)數(shù),總算搞定

更新時(shí)間：2021年03月02日 15:58:38 作者：畢業(yè)恐慌癥1

這篇文章主要介紹了解決tensorflow模型壓縮的問(wèn)題_踩坑無(wú)數(shù)，總算搞定！希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧

1.安裝bazel，從github上下載linux版的.sh文件，然后安裝

2.從GitHub上下載最新的TensorFlow源碼

3.進(jìn)入TensorFlow源碼文件夾，輸入命令

bazel build tensorflow/tools/graph_transforms:transform_graph

這里會(huì)遇到各種坑，比如

ERROR: /opt/tf/tensorflow-master/tensorflow/core/kernels/BUILD:3044:1: C++ compilation of rule ‘//tensorflow/core/kernels:matrix_square_root_op' failed (Exit 4)

gcc: internal compiler error: Killed (program cc1plus)

這個(gè)錯(cuò)誤是cpu負(fù)荷太大，需要加行代碼

# 生成swap鏡像文件
sudo dd if=/dev/zero of=/mnt/512Mb.swap bs=1M count=512
# 對(duì)該鏡像文件格式化
sudo mkswap /mnt/512Mb.swap
# 掛載該鏡像文件 
sudo swapon /mnt/512Mb.swap

又或者這個(gè)@aws Error downloading

我看csdn有的博主解決方法是去臨時(shí)文件夾刪掉文件重新下載，但是我這邊發(fā)現(xiàn)沒(méi)用，我這邊的解決方法是運(yùn)行bazel前先輸入一條命令：

sed -i '\@https://github.com/aws/aws-sdk-cpp/archive/1.5.8.tar.gz@aws' tensorflow/workspace.bzl

命令里的網(wǎng)址就是實(shí)際要下載的文件的地址，因?yàn)橛械牡刂房赡芨牧?/p>

到這里編譯bazel就完成了

4.編譯完了就可以模型壓縮了，也是一行代碼，in_graph為輸入模型路徑，outputs不動(dòng)，out_graph為輸出模型路徑，transforms就填一個(gè)quantize_weights就可以了，這個(gè)就是把32bit轉(zhuǎn)成8bit的，也是此方法最有效的一步；我看有的博主還先編譯summary然后打印出輸入輸出結(jié)點(diǎn)，之后再輸入一大堆參數(shù)，還刪除一些結(jié)點(diǎn)啥的，我這邊都試了，最終也并沒(méi)有更縮減模型大小，所以就這樣就可以了。

bazel-bin/tensorflow/tools/graph_transforms/transform_graph --in_graph=../model/ctpn.pb  --outputs='output_node_name'  --out_graph=../model/quantized_ctpn.pb  --transforms='quantize_weights'

最終從68m縮減到17m，75%的縮減比例，實(shí)測(cè)效果基本沒(méi)啥差別，這方法還是很管用的。

補(bǔ)充：模型壓縮一二三之tensorflow查看ckpt模型里的參數(shù)和數(shù)值

查看ckpt模型參數(shù)和數(shù)值

import os
from tensorflow.python import pywrap_tensorflow
checkpoint_path = os.path.join("<你的模型的目錄>", "./model.ckpt-11000") 
# Read data from checkpoint file
reader = pywrap_tensorflow.NewCheckpointReader(checkpoint_path)
var_to_shape_map = reader.get_variable_to_shape_map()
# Print tensor name and values
for key in var_to_shape_map:
 print("tensor_name: ", key)
 print(reader.get_tensor(key))