最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

將自己的數(shù)據(jù)集制作成TFRecord格式教程

 更新時(shí)間:2020年02月17日 09:33:51   作者:v1_vivian  
今天小編就為大家分享一篇將自己的數(shù)據(jù)集制作成TFRecord格式教程,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧

在使用TensorFlow訓(xùn)練神經(jīng)網(wǎng)絡(luò)時(shí),首先面臨的問(wèn)題是:網(wǎng)絡(luò)的輸入

此篇文章,教大家將自己的數(shù)據(jù)集制作成TFRecord格式,feed進(jìn)網(wǎng)絡(luò),除了TFRecord格式,TensorFlow也支持其他格

式的數(shù)據(jù),此處就不再介紹了。建議大家使用TFRecord格式,在后面可以通過(guò)api進(jìn)行多線程的讀取文件隊(duì)列。

1. 原本的數(shù)據(jù)集

此時(shí),我有兩類(lèi)圖片,分別是xiansu100,xiansu60,每一類(lèi)中有10張圖片。

2.制作成TFRecord格式

tfrecord會(huì)根據(jù)你選擇輸入文件的類(lèi),自動(dòng)給每一類(lèi)打上同樣的標(biāo)簽。如在本例中,只有0,1 兩類(lèi),想知道文件夾名與label關(guān)系的,可以自己保存起來(lái)。

#生成整數(shù)型的屬性
def _int64_feature(value):
 return tf.train.Feature(int64_list = tf.train.Int64List(value = [value]))
 
#生成字符串類(lèi)型的屬性
def _bytes_feature(value):
 return tf.train.Feature(bytes_list = tf.train.BytesList(value = [value]))
 
#制作TFRecord格式
def createTFRecord(filename,mapfile):
 class_map = {}
 data_dir = '/home/wc/DataSet/traffic/testTFRecord/'
 classes = {'xiansu60','xiansu100'}
 #輸出TFRecord文件的地址
 
 writer = tf.python_io.TFRecordWriter(filename)
 
 for index,name in enumerate(classes):
  class_path=data_dir+name+'/'
  class_map[index] = name
  for img_name in os.listdir(class_path):
   img_path = class_path + img_name #每個(gè)圖片的地址
   img = Image.open(img_path)
   img= img.resize((224,224))
   img_raw = img.tobytes()   #將圖片轉(zhuǎn)化成二進(jìn)制格式
   example = tf.train.Example(features = tf.train.Features(feature = {
    'label':_int64_feature(index),
    'image_raw': _bytes_feature(img_raw)
   }))
   writer.write(example.SerializeToString())
 writer.close()
 
 txtfile = open(mapfile,'w+')
 for key in class_map.keys():
  txtfile.writelines(str(key)+":"+class_map[key]+"\n")
 txtfile.close()

此段代碼,運(yùn)行完后會(huì)產(chǎn)生生成的.tfrecord文件。

3. 讀取TFRecord的數(shù)據(jù),進(jìn)行解析,此時(shí)使用了文件隊(duì)列以及多線程

#讀取train.tfrecord中的數(shù)據(jù)
def read_and_decode(filename): 
 #創(chuàng)建一個(gè)reader來(lái)讀取TFRecord文件中的樣例
 reader = tf.TFRecordReader()
 #創(chuàng)建一個(gè)隊(duì)列來(lái)維護(hù)輸入文件列表
 filename_queue = tf.train.string_input_producer([filename], shuffle=False,num_epochs = 1)
 #從文件中讀出一個(gè)樣例,也可以使用read_up_to一次讀取多個(gè)樣例
 _,serialized_example = reader.read(filename_queue)
#  print _,serialized_example
 
 #解析讀入的一個(gè)樣例,如果需要解析多個(gè),可以用parse_example
 features = tf.parse_single_example(
 serialized_example,
 features = {'label':tf.FixedLenFeature([], tf.int64),
    'image_raw': tf.FixedLenFeature([], tf.string),})
 #將字符串解析成圖像對(duì)應(yīng)的像素?cái)?shù)組
 img = tf.decode_raw(features['image_raw'], tf.uint8)
 img = tf.reshape(img,[224, 224, 3]) #reshape為128*128*3通道圖片
 img = tf.image.per_image_standardization(img)
 labels = tf.cast(features['label'], tf.int32)
 return img, labels

4. 將圖片幾個(gè)一打包,形成batch

def createBatch(filename,batchsize):
 images,labels = read_and_decode(filename)
 
 min_after_dequeue = 10
 capacity = min_after_dequeue + 3 * batchsize
 
 image_batch, label_batch = tf.train.shuffle_batch([images, labels], 
              batch_size=batchsize, 
              capacity=capacity, 
              min_after_dequeue=min_after_dequeue
              )
 
 label_batch = tf.one_hot(label_batch,depth=2)
 return image_batch, label_batch

5.主函數(shù)

if __name__ =="__main__":
 #訓(xùn)練圖片兩張為一個(gè)batch,進(jìn)行訓(xùn)練,測(cè)試圖片一起進(jìn)行測(cè)試
 mapfile = "/home/wc/DataSet/traffic/testTFRecord/classmap.txt"
 train_filename = "/home/wc/DataSet/traffic/testTFRecord/train.tfrecords"
#  createTFRecord(train_filename,mapfile)
 test_filename = "/home/wc/DataSet/traffic/testTFRecord/test.tfrecords"
#  createTFRecord(test_filename,mapfile)
 image_batch, label_batch = createBatch(filename = train_filename,batchsize = 2)
 test_images,test_labels = createBatch(filename = test_filename,batchsize = 20)
 with tf.Session() as sess:
  initop = tf.group(tf.global_variables_initializer(),tf.local_variables_initializer())
  sess.run(initop)
  coord = tf.train.Coordinator()
  threads = tf.train.start_queue_runners(sess = sess, coord = coord)
 
  try:
   step = 0
   while 1:
    _image_batch,_label_batch = sess.run([image_batch,label_batch])
    step += 1
    print step
    print (_label_batch)
  except tf.errors.OutOfRangeError:
   print (" trainData done!")
   
  try:
   step = 0
   while 1:
    _test_images,_test_labels = sess.run([test_images,test_labels])
    step += 1
    print step
 #     print _image_batch.shape
    print (_test_labels)
  except tf.errors.OutOfRangeError:
   print (" TEST done!")
  coord.request_stop()
  coord.join(threads)

此時(shí),生成的batch,就可以feed進(jìn)網(wǎng)絡(luò)了。

以上這篇將自己的數(shù)據(jù)集制作成TFRecord格式教程就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。

相關(guān)文章

  • 30秒學(xué)會(huì)30個(gè)超實(shí)用Python代碼片段【收藏版】

    30秒學(xué)會(huì)30個(gè)超實(shí)用Python代碼片段【收藏版】

    許多人在數(shù)據(jù)科學(xué)、機(jī)器學(xué)習(xí)、web開(kāi)發(fā)、腳本編寫(xiě)和自動(dòng)化等領(lǐng)域中都會(huì)使用Python,它是一種十分流行的語(yǔ)言。本文將簡(jiǎn)要介紹30個(gè)簡(jiǎn)短的、且能在30秒內(nèi)掌握的代碼片段,感興趣的朋友一起看看吧
    2019-10-10
  • Python基于numpy模塊實(shí)現(xiàn)回歸預(yù)測(cè)

    Python基于numpy模塊實(shí)現(xiàn)回歸預(yù)測(cè)

    這篇文章主要介紹了Python基于numpy模塊實(shí)現(xiàn)回歸預(yù)測(cè),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
    2020-05-05
  • python 對(duì)xml解析的示例

    python 對(duì)xml解析的示例

    這篇文章主要介紹了python 如何對(duì)xml解析,幫助大家更好的理解和學(xué)習(xí)使用python,感興趣的朋友可以了解下
    2021-02-02
  • 使用python批量修改文件名的方法(視頻合并時(shí))

    使用python批量修改文件名的方法(視頻合并時(shí))

    這篇文章主要介紹了視頻合并時(shí)使用python批量修改文件名的方法,代碼簡(jiǎn)單易懂,非常不錯(cuò),具有一定的參考借鑒價(jià)值,需要的朋友可以參考下
    2019-08-08
  • 詳解Python中*args和**kwargs的使用

    詳解Python中*args和**kwargs的使用

    本文我們將通過(guò)示例了解Python中*args和?**kwargs的使用方法,文中通過(guò)示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下
    2022-04-04
  • Django?事務(wù)回滾的具體實(shí)現(xiàn)

    Django?事務(wù)回滾的具體實(shí)現(xiàn)

    本文主要介紹了Django?事務(wù)回滾的具體實(shí)現(xiàn),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2023-02-02
  • pycharm遠(yuǎn)程連接vagrant虛擬機(jī)中mariadb數(shù)據(jù)庫(kù)

    pycharm遠(yuǎn)程連接vagrant虛擬機(jī)中mariadb數(shù)據(jù)庫(kù)

    這篇文章主要介紹了pycharm遠(yuǎn)程連接vagrant虛擬機(jī)中mariadb數(shù)據(jù)庫(kù),需要的朋友可以參考下
    2020-06-06
  • Python限制內(nèi)存和CPU使用量的方法(Unix系統(tǒng)適用)

    Python限制內(nèi)存和CPU使用量的方法(Unix系統(tǒng)適用)

    這篇文章主要介紹了Python限制內(nèi)存和CPU的使用量的方法,文中講解非常細(xì)致,代碼幫助大家更好的理解和學(xué)習(xí),感興趣的朋友可以了解下
    2020-08-08
  • 用Python解決x的n次方問(wèn)題

    用Python解決x的n次方問(wèn)題

    今天小編就為大家分享一篇用Python解決x的n次方問(wèn)題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2019-02-02
  • 詳解Python函數(shù)式編程之裝飾器

    詳解Python函數(shù)式編程之裝飾器

    這篇文章主要為大家詳細(xì)介紹了Python函數(shù)式編程之裝飾器,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下,希望能夠給你帶來(lái)幫助
    2022-03-03

最新評(píng)論

通渭县| 通化县| 堆龙德庆县| 金乡县| 龙陵县| 会同县| 凌海市| 纳雍县| 汝阳县| 红桥区| 浦北县| 彰化市| 蒙山县| 鄂托克前旗| 乌审旗| 惠来县| 沽源县| 东阳市| 榆中县| 东山县| 那曲县| 古交市| 桦川县| 新丰县| 铜梁县| 阿合奇县| 双柏县| 奈曼旗| 鸡西市| 呼玛县| 夏津县| 福安市| 河池市| 安化县| 五指山市| 石泉县| 永顺县| 宁都县| 航空| 榆中县| 咸阳市|