最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

python Requsets下載開(kāi)源網(wǎng)站的代碼(帶索引 數(shù)據(jù))

 更新時(shí)間:2021年04月14日 10:23:49   作者:TTMer  
這篇文章主要介紹了python Requsets下載開(kāi)源網(wǎng)站的代碼(帶索引 數(shù)據(jù)),本文通過(guò)實(shí)例代碼給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下

環(huán)境搭建

python 3.x
requests 包
re 包
gooey包 (用于可視化)

代碼

import requests
import re
import os
from gooey import Gooey, GooeyParser
import time

s = requests.Session()

def judgeTypeOfPath(name):
    '''
    判斷該路徑是文件還是文件夾
      :param name: 路徑名稱(chēng)
      :return:True->文件;False->文件夾
    '''
    if name[-1] == '/':
        return False
    else:
        return True


def makeDirOfPath(path):
    '''
    創(chuàng)建文件夾
    :param path: 文件夾名稱(chēng)以及路徑
    :return: True->創(chuàng)建成功;False->創(chuàng)建失敗
    '''
    if not os.path.isdir(path):
        os.mkdir(path)
    if not os.path.isdir(path):
        return False
    return True

def getPath(url):
    '''
    獲取網(wǎng)頁(yè)路徑列表
    :param url: 當(dāng)前網(wǎng)頁(yè)路徑
    :return: 路徑列表
    '''
    baseResponse = s.get(url=url, stream=True,verify=False).text
    listOfDirOrFilesTemp = re.findall(r'<li><a href=".*?" rel="external nofollow" >', baseResponse)
    listOfDirOrFiles = []
    for i in range(len(listOfDirOrFilesTemp)):
        listOfDirOrFiles.append(listOfDirOrFilesTemp[i].split("\"")[1])
    return listOfDirOrFiles[1:len(listOfDirOrFiles) + 1]

def rfSearch(listOfPath,url, nowPath):
    '''
    遞歸尋找目錄、路徑,并下載文件
    :param listOfPath: 當(dāng)前目錄下文件以及文件夾目錄列表
    :param nowPath: 現(xiàn)在所在路徑
    :return:
    '''
    newList = listOfPath[:]
    if not newList:
        return
    for i in range(len(newList)):
        if not judgeTypeOfPath(newList[i]):
            u = nowPath + newList[i][0:len(newList[i])]
            makeDirOfPath(u)
            tempPath=nowPath + newList[i][0:len(newList[i])+1]
            tempUrl=url+newList[i][0:len(newList[i])+1]
            u=getPath(tempUrl)
            rfSearch(u,tempUrl,tempPath)
        else:
            print(f'開(kāi)始下載{newList[i]}...')
            t1=time.time()
            u = nowPath + newList[i]
            m=url+newList[i]
            if not os.path.exists(u):
                r = s.get(m, stream=True,verify=False)
                f = open(u, "wb")
                for chunk in r.iter_content(chunk_size=10240):
                    if chunk:
                        f.write(chunk)
                f.close()
            t2=time.time()
            print(f'{newList[i]}下載完成\t\t用時(shí)  {t2-t1}')

@Gooey(
    program_name='isric數(shù)據(jù)下載器',
    encoding="utf-8", )
def main():
    parser = GooeyParser(description="isric數(shù)據(jù)下載器")
    parser.add_argument('--url',default=r'https://files.isric.org/soilgrids/latest/data/')
    parser.add_argument('--path', widget="DirChooser", default=r'F:/isricData/')
    args = parser.parse_args()
    url=args.url
    nowPath = args.path
    u = getPath(url)
    rfSearch(u, url,nowPath)
###如果不需要可視化,則不用gooey,可以將上面部分替換如下
#@Gooey(
#    program_name='isric數(shù)據(jù)下載器',
#   encoding="utf-8", )
#上面三行刪除即可
###main函數(shù)替換成下面部分:
# def main():
#     url=r'https://files.isric.org/soilgrids/latest/data/'#在此處修改地址鏈接
#     nowPath = r'F:/isricData/'#在此處修改文件保存地址
#     u = getPath(url)
#     rfSearch(u, url,nowPath)

if __name__ == "__main__":
    main()

到此這篇關(guān)于python Requsets下載開(kāi)源網(wǎng)站的代碼(帶索引 數(shù)據(jù))的文章就介紹到這了,更多相關(guān)python Requsets下載內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

相關(guān)文章

  • python 實(shí)現(xiàn)表情識(shí)別

    python 實(shí)現(xiàn)表情識(shí)別

    這篇文章主要介紹了python 實(shí)現(xiàn)表情識(shí)別的示例代碼,幫助大家更好的理解和學(xué)習(xí)python,感興趣的朋友可以了解下
    2020-11-11
  • Python+decimal完成精度計(jì)算的示例詳解

    Python+decimal完成精度計(jì)算的示例詳解

    在進(jìn)行小數(shù)計(jì)算的時(shí)候使用float,經(jīng)常會(huì)出現(xiàn)小數(shù)位不精確的情況。在python編程中,推薦使用decimal來(lái)完成小數(shù)位的精度計(jì)算。本文將通過(guò)示例詳細(xì)說(shuō)說(shuō)decimal的使用,需要的可以參考一下
    2022-10-10
  • 簡(jiǎn)單示例解析python爬蟲(chóng)IP的使用(小白篇)

    簡(jiǎn)單示例解析python爬蟲(chóng)IP的使用(小白篇)

    這篇文章主要為大家通過(guò)簡(jiǎn)單示例解析python爬蟲(chóng)IP的使用介紹,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪
    2023-06-06
  • 使用Python實(shí)現(xiàn)視頻拼接效果

    使用Python實(shí)現(xiàn)視頻拼接效果

    這篇文章主要為大家詳細(xì)介紹了使用Python實(shí)現(xiàn)視頻拼接效果的兩種方法,文中的示例代碼講解詳細(xì),感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下
    2025-02-02
  • Python利用Canny算法檢測(cè)硬幣邊緣

    Python利用Canny算法檢測(cè)硬幣邊緣

    這篇文章主要介紹了如何使用Canny算法檢測(cè)出紙面上硬幣的邊緣。文中的示例代碼講解詳細(xì),感興趣的小伙伴可以跟隨小編一起動(dòng)手試一試
    2022-01-01
  • python中csv文件的若干讀寫(xiě)方法小結(jié)

    python中csv文件的若干讀寫(xiě)方法小結(jié)

    今天小編就為大家分享一篇python中csv文件的若干讀寫(xiě)方法小結(jié),具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2018-07-07
  • python機(jī)器學(xué)習(xí)基礎(chǔ)決策樹(shù)與隨機(jī)森林概率論

    python機(jī)器學(xué)習(xí)基礎(chǔ)決策樹(shù)與隨機(jī)森林概率論

    這篇文章主要為大家介紹了python機(jī)器學(xué)習(xí)基礎(chǔ)決策樹(shù)與隨機(jī)森林概率論詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步
    2021-11-11
  • python sklearn中tsne算法降維結(jié)果不一致問(wèn)題的解決方法

    python sklearn中tsne算法降維結(jié)果不一致問(wèn)題的解決方法

    最近在做一個(gè)文本聚類(lèi)的分析,在對(duì)文本數(shù)據(jù)embedding后,想著看下數(shù)據(jù)的分布,于是用sklearn的TSNE算法來(lái)降維embedding后的數(shù)據(jù)結(jié)果,當(dāng)在多次執(zhí)行后,竟發(fā)現(xiàn)TSNE的結(jié)果竟然變了,而且每次都不一樣,所以本文就給大家講講如何解決sklearn中tsne算法降維結(jié)果不一致的問(wèn)題
    2023-10-10
  • pytorch中with?torch.no_grad():的用法實(shí)例

    pytorch中with?torch.no_grad():的用法實(shí)例

    最近在看別人寫(xiě)的代碼,遇到經(jīng)常使用with torch.no_grad(),所以下面這篇文章主要給大家介紹了關(guān)于pytorch中with?torch.no_grad():用法的相關(guān)資料,需要的朋友可以參考下
    2022-03-03
  • Python?pyecharts繪制折線圖詳解

    Python?pyecharts繪制折線圖詳解

    pyecharts是一個(gè)由百度開(kāi)源的數(shù)據(jù)可視化,憑借著良好的交互性,精巧的圖表設(shè)計(jì),得到了眾多開(kāi)發(fā)者的認(rèn)可。本文將利用其繪制折線圖,需要的可以參考一下
    2022-04-04

最新評(píng)論

夹江县| 青海省| 千阳县| 嘉定区| 昌吉市| 孝昌县| 白玉县| 浠水县| 高淳县| 河南省| 维西| 沛县| 巴青县| 奉化市| 南宁市| 南溪县| 万年县| 榆社县| 武乡县| 云南省| 桂林市| 亚东县| 东源县| 大理市| 肥乡县| 公主岭市| 苍梧县| 任丘市| 本溪市| 内江市| 江油市| 思南县| 哈巴河县| 河北区| 彩票| 伊金霍洛旗| 留坝县| 靖州| 新昌县| 磐石市| 卢龙县|