最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

Python實現(xiàn)將DNA序列存儲為tfr文件并讀取流程介紹

 更新時間:2022年09月06日 11:07:36   作者:weixin_42576837  
為什么要在實驗過程中存儲文件,因為有些算法的內(nèi)容存在一些重復(fù)計算的步驟,這些步驟往往消耗很大一部分時間,在有大量參數(shù)的情況時,需要在多次不同參數(shù)的情況下重復(fù)試驗,因此可以考慮將一些不涉及參數(shù)運算的部分結(jié)果存入文件中

最近導(dǎo)師讓我跑模型,生物信息方向的,我一個學(xué)計算機的,好多東西都看不明白?,F(xiàn)在的方向大致是,用深度學(xué)習(xí)的模型預(yù)測病毒感染人類的風(fēng)險。

既然是病毒,就需要拿到它的DNA,也就是堿基序列,然后把這些ACGT序列丟進模型里面,然后就是預(yù)測能不能感染人類,說實話,估計結(jié)果不會好,現(xiàn)在啥都是transformer,而且我看的這篇論文,我認為僅僅從DNA序列大概預(yù)測不出什么東西。

但是就那樣吧,現(xiàn)在數(shù)據(jù)去哪里下載,需要下載什么樣的數(shù)據(jù),下載完成后怎么處理我還是一臉懵逼,但是假設(shè)上面都處理好了,然后即使把數(shù)據(jù)丟給模型,跑就完了。

也不是沒進度,目前了解到的是,我應(yīng)該使用一種叫fasta格式的文件,然后把里面的一大串ACGT序列拿出來,轉(zhuǎn)為模型可以處理的數(shù)據(jù)。然后,以后再說。

現(xiàn)在假設(shè)我已經(jīng)有了ACGT的序列,然后把它轉(zhuǎn)為模型可以處理的矩陣。

這里,我隨機生成長度為131072的基因序列,為什么是這個數(shù)字呢,因為這是之前看的 論文里的值,,暫時按照這個來做。

實現(xiàn):

首先是導(dǎo)入庫

import numpy as np
import random
import tensorflow as tf
import inspect
from typing import Any, Callable, Dict, Optional, Text, Union, Iterable
import os

然后,定義一個生成長度為131072bp的函數(shù):

#隨機生成131072的dna序列
length = 131072
def randomSeq(length):
  return ''.join([random.choice('ACGT') for i in range(length)])

這個函數(shù)的返回結(jié)果是長度為length的字符串,類似ACGTTGC這樣。

然后這種序列模型是沒辦法處理的,所以需要把它變成矩陣,也就用one-hot編碼。

比如ACGT這個序列,編碼成:

[ [1,0,0,0],

[0,1,0,0],

[0,0,1,0],

[0,0,0,1] ]

這樣的一個矩陣,這個就不細說了,網(wǎng)上很多資料。

然后,我從別人的代碼中抄了一個函數(shù),很好用。

#DNA序列轉(zhuǎn)為one-hot編碼,可以直接拿來用
def one_hot_encode(sequence: str,
                   alphabet: str = 'ACGT',
                   neutral_alphabet: str = 'N',
                   neutral_value: Any = 0,
                   dtype=np.float32) -> np.ndarray:
  """One-hot encode sequence."""
  def to_uint8(string):
    return np.frombuffer(string.encode('ascii'), dtype=np.uint8)
  hash_table = np.zeros((np.iinfo(np.uint8).max, len(alphabet)), dtype=dtype)
  hash_table[to_uint8(alphabet)] = np.eye(len(alphabet), dtype=dtype)
  hash_table[to_uint8(neutral_alphabet)] = neutral_value
  hash_table = hash_table.astype(dtype)
  return hash_table[to_uint8(sequence)]

這是一個嵌套函數(shù)了,仔細研究下還是可以理解的,我就不說了,會用就行了。

簡單講一下參數(shù)的意思:

sequence:字符串類型,就是輸入的堿基序列。

alphabet: str = ‘ACGT’ :詞表,一共只需要這四個詞

neutral_alphabet: str = ‘N’,

neutral_value: Any = 0,

上面這兩一起用,就是說遇到N這個堿基就會編碼成[0,0,0,0]的向量。

dtype=np.float32,這個就是內(nèi)部元素值的類型。

簡單生成一下:

然后輸入序列長度是131072bp,所以輸入的矩陣就是131072x4的矩陣,現(xiàn)在來把序列變?yōu)榫仃嚒?/p>

編碼成one-hot矩陣

dnaVec = one_hot_encode(dna)

現(xiàn)在DNA序列已經(jīng)變成了矩陣,接下來需要把這一條序列,也就是一個樣本數(shù)據(jù),變成TensorFlow中的TFRecord文件格式。TFRecord 是 TensorFlow 中的數(shù)據(jù)集存儲格式。當(dāng)我們將數(shù)據(jù)集整理成 TFRecord 格式后,TensorFlow 就可以高效地讀取和處理這些數(shù)據(jù)集,從而幫助我們更高效地進行大規(guī)模的模型訓(xùn)練。

關(guān)于tfr文件的處理,我就不在細說了,總之現(xiàn)在我們需要構(gòu)建example。

在此之前,我們需要先這么做:

#給出結(jié)果的tfr文件的路徑
path = '/content/drive/MyDrive/test_Enformer/result.tfr'
#dna的numpy數(shù)組轉(zhuǎn)成字節(jié)流,這樣才能存儲
dnaVec = dnaVec.tobytes()

接下來就是把這個字節(jié)流數(shù)據(jù)寫入到tfr文件中,這里同時寫入這條數(shù)據(jù)的label中,我的問題是給一個Dna序列,預(yù)測是或者不是的二分類問題,所以我同時把這條dna序列對應(yīng)的真實標(biāo)簽也寫進去,但是我是隨機從0,1中選擇一個。

from tensorflow.core.example.feature_pb2 import BytesList
with tf.io.TFRecordWriter(path) as writer:
  feature = {
      #序列使用的是tf.train.BytesList類型
      'sequence':tf.train.Feature(bytes_list=tf.train.BytesList(value=[dnaVec])),
      #label是隨機生成的0,或者1
      'label':tf.train.Feature(int64_list=tf.train.Int64List(value=[np.random.choice([0,1])]))
  }
  example = tf.train.Example(features=tf.train.Features(feature=feature))
  writer.write(example.SerializeToString())

這部分的代碼執(zhí)行結(jié)束后,就已經(jīng)把dna序列以及對應(yīng)的標(biāo)簽寫入了tfr文件中,不過這個tfr文件中只有一個example,你可以寫更多個。

剛剛寫入的tfr文件

到這里,相當(dāng)于已經(jīng)把數(shù)據(jù)準備好了,接下來就是讀取數(shù)據(jù)。

#從剛才的路徑中加載數(shù)據(jù)集
dataset = tf.data.TFRecordDataset(path)
#定義Feature結(jié)構(gòu),告訴解碼器每個Feature的類型是什么
feature_description = {"sequence": tf.io.FixedLenFeature((), tf.string),
              "label": tf.io.FixedLenFeature((), tf.int64)}
 #將 TFRecord 文件中的每一個序列化的 tf.train.Example 解碼
def parse_example(example_string):
  #解析之后得到的example
  example = tf.io.parse_single_example(example_string,feature_description)
  #example['sequence']還是字節(jié)流的形式,重新轉(zhuǎn)為數(shù)字向量
  sequence = tf.io.decode_raw(example['sequence'], tf.float32)
  sequence = tf.reshape(sequence,(length,4))  #形狀需要重塑,不然就是一個長向量
  label = tf.cast(example['label'],tf.int64)  #標(biāo)簽對應(yīng)的類型轉(zhuǎn)換
#每一天example解析后返回對應(yīng)的一個字典
  return {
      'sequence':sequence,
      'label': label
  }
#把parse_example函數(shù)映射到dataset中的每個example,
#這里的dataset中只有一個example
dataset = dataset.map(parse_example)

此時的dataset是一個可以遍歷的對象,內(nèi)部元素可以認為是解析完成后的example。

這個字典有兩個鍵sequence和lable,對應(yīng)著序列矩陣和標(biāo)簽值

這就是可以用來訓(xùn)練的數(shù)據(jù)。

到此這篇關(guān)于Python實現(xiàn)將DNA序列存儲為tfr文件并讀取流程介紹的文章就介紹到這了,更多相關(guān)Python存儲tfr文件內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

相關(guān)文章

  • python中np.where的用法

    python中np.where的用法

    np.where() 是 NumPy 庫中的一個函數(shù),用于根據(jù)條件從多個選擇中選擇元素,本文主要介紹了python中np.where的用法,具有一定的參考價值,感興趣的可以了解一下
    2023-10-10
  • Python 按字典dict的鍵排序,并取出相應(yīng)的鍵值放于list中的實例

    Python 按字典dict的鍵排序,并取出相應(yīng)的鍵值放于list中的實例

    今天小編就為大家分享一篇Python 按字典dict的鍵排序,并取出相應(yīng)的鍵值放于list中的實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2019-02-02
  • python如何利用matplotlib繪制并列雙柱狀圖并標(biāo)注數(shù)值

    python如何利用matplotlib繪制并列雙柱狀圖并標(biāo)注數(shù)值

    Python之中最好的圖表庫叫matplotlib,matplotlib,顧名思義就是提供了一整套和matlab相似的API,它的文檔相當(dāng)完備,下面這篇文章主要給大家介紹了關(guān)于python如何利用matplotlib繪制并列雙柱狀圖并標(biāo)注數(shù)值的相關(guān)資料,需要的朋友可以參考下
    2022-04-04
  • Python爬蟲之Selenium庫的使用方法

    Python爬蟲之Selenium庫的使用方法

    這篇文章主要介紹了Python爬蟲之Selenium庫的使用方法,幫助大家更好的理解和使用爬蟲,感興趣的朋友可以了解下
    2021-01-01
  • Python實現(xiàn)繪圖散點圖(scatter)

    Python實現(xiàn)繪圖散點圖(scatter)

    這篇文章主要介紹了Python實現(xiàn)繪圖散點圖方式(scatter),具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教
    2024-06-06
  • python使用Matplotlib畫條形圖

    python使用Matplotlib畫條形圖

    這篇文章主要為大家詳細介紹了python使用Matplotlib畫條形圖,文中示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2018-09-09
  • python實現(xiàn)無證書加密解密實例

    python實現(xiàn)無證書加密解密實例

    這篇文章主要介紹了python實現(xiàn)無證書加密解密的方法,實例講述了無證書加密解密的原理與具體實現(xiàn)過程,非常具有實用價值,需要的朋友可以參考下
    2014-10-10
  • Python生成九宮格圖片的示例代碼

    Python生成九宮格圖片的示例代碼

    這篇文章主要介紹了Python生成九宮格圖片的示例代碼,文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2021-04-04
  • Python通過命令提示符安裝matplotlib

    Python通過命令提示符安裝matplotlib

    這篇文章主要給大家介紹了關(guān)于Python通過命令提示符安裝matplotlib的相關(guān)資料,文中還介紹了離線安裝這一種方法,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下
    2021-11-11
  • Python實現(xiàn)查找數(shù)組中任意第k大的數(shù)字算法示例

    Python實現(xiàn)查找數(shù)組中任意第k大的數(shù)字算法示例

    這篇文章主要介紹了Python實現(xiàn)查找數(shù)組中任意第k大的數(shù)字算法,涉及Python針對數(shù)組的排序、查找等相關(guān)操作技巧,需要的朋友可以參考下
    2019-01-01

最新評論

广州市| 彭阳县| 隆德县| 通河县| 平塘县| 迭部县| 商都县| 河曲县| 阿尔山市| 闽侯县| 马尔康县| 屯门区| 宜章县| 亳州市| 孟村| 黄龙县| 鲁甸县| 綦江县| 即墨市| 怀远县| 维西| 潞西市| 铅山县| 高尔夫| 唐河县| 宁蒗| 桂阳县| 孝义市| 竹山县| 时尚| 邵阳县| 丹凤县| 彭泽县| 平南县| 乌兰县| 宁晋县| 宝丰县| 都匀市| 白朗县| 镶黄旗| 阳曲县|