最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

python 爬取吉首大學網站成績單

 更新時間:2021年06月01日 16:00:47   作者:chen0495  
python簡單爬蟲,爬取吉首大學成績單,學校的成績單居然不支持導出,太坑了,算個績點居然還要手打,我吐了.花2個多小時寫了此python程序來生成可方便求和平均的Excel文件,幫助JSU學子脫離手算煩惱...

項目地址:

https://github.com/chen0495/pythonCrawlerForJSU

環(huán)境

  • python 3.5即以上
  • request、BeautifulSoup、numpy、pandas.
  • 安裝BeautifulSoup使用命令pip install BeautifulSoup4

配置及使用

登陸學校成績單查詢網站,修改cookie.

按F12后按Ctrl+R刷新一下,獲取cookie的方法見下圖:

修改爬蟲url為自己的成績單網址.

運行src/main.py文件即可在/result下得到csv文件.

結果展示

完整代碼

# -*- coding: utf-8 -*-
# @Time    : 5/29/2021 2:13 PM
# @Author  : Chen0495
# @Email   : 1346565673@qq.com|chenweiin612@gmail.com
# @File    : main.py
# @Software: PyCharm

import requests as rq
from bs4 import BeautifulSoup as BS
import numpy as np
import pandas as pd

rq.adapters.DEFAULT_RETRIES = 5
s = rq.session()
s.keep_alive = False # 關閉多余連接

header = { # 請更改cookie
    'user-agent' : 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4501.0 Safari/537.36 Edg/92.0.891.1',
    'cookie' : 'wengine_vpn_ticketwebvpn_jsu_edu_cn=xxxxxxxxxx; show_vpn=1; refresh=1'
}

# 請更改url
r = rq.get('https://webvpn.jsu.edu.cn/https/xxxxxxxxxxxxxxxxxxxxxxxxxxxxxx/jsxsd/kscj/cjcx_list', headers = header, verify=False)

soup = BS(r.text,'html.parser')

head = []
for th in soup.find_all("th"):
    head.append(th.text)
while '' in head:
    head.remove('')
head.remove('序號')
context = np.array(head)


x = []
flag = 0
for td in soup.find_all("td"):
    if flag!=0 and flag%11!=1:
        x.append(td.text)
    if flag%11==0 and flag!=0:
        context = np.row_stack((context,np.array(x)))
        x.clear()
    flag+=1

context = np.delete(context,0,axis=0)
data = pd.DataFrame(context,columns=head)
print(data)

# 生成文件,親更改文件名
data.to_csv('../result/result.csv',encoding='utf-8-sig')

以上就是python 爬取吉首大學成績單的詳細內容,更多關于python 爬取成績單的資料請關注腳本之家其它相關文章!

相關文章

  • 解決python中顯示圖片的plt.imshow plt.show()內存泄漏問題

    解決python中顯示圖片的plt.imshow plt.show()內存泄漏問題

    這篇文章主要介紹了解決python中顯示圖片的plt.imshow plt.show()內存泄漏問題,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-04-04
  • Pytorch Tensor基本數學運算詳解

    Pytorch Tensor基本數學運算詳解

    今天小編就為大家分享一篇Pytorch Tensor基本數學運算詳解,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2019-12-12
  • Python連接MySQL數據庫的四種方法

    Python連接MySQL數據庫的四種方法

    用?Python?連接到?MySQL?數據庫的方法不是很系統(tǒng),實際中有幾種不同的連接方法,而且不是所有的方法都能與不同的操作系統(tǒng)很好地配合,本文涵蓋了四種方法,你可以用它們來連接你的Python應用程序和MySQL,需要的朋友可以參考下
    2024-08-08
  • django批量導入xml數據

    django批量導入xml數據

    從網上下載的一些數據,excel表格,xml文件,txt文件等有時候我們想把它導入數據庫,應該如何操作呢?下面我們就來詳細討論下。
    2016-10-10
  • 使用Python實現獲取網頁指定內容

    使用Python實現獲取網頁指定內容

    在當今互聯網時代,網頁數據抓取是一項非常重要的技能,本文將帶你從零開始學習如何使用Python獲取網頁中的指定內容,希望對大家有所幫助
    2025-03-03
  • 用pycharm開發(fā)django項目示例代碼

    用pycharm開發(fā)django項目示例代碼

    這篇文章主要介紹了用pycharm開發(fā)django項目示例代碼,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2019-06-06
  • python實現輸入的數據在地圖上生成熱力圖效果

    python實現輸入的數據在地圖上生成熱力圖效果

    今天小編就為大家分享一篇python實現輸入的數據在地圖上生成熱力圖效果,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2019-12-12
  • 基于Python制作ASCII碼轉換器

    基于Python制作ASCII碼轉換器

    ASCII碼是基于拉丁字母的一套電腦編碼系統(tǒng),主要用于顯示現代英語和其他西歐語言。本文將利用Python制作一個ASCII碼轉換器,感興趣的可以動手試一試
    2022-02-02
  • python常用函數詳解

    python常用函數詳解

    本文給大家總結了python中常用函數,非常的細致全面,有需要的小伙伴可以參考下
    2016-09-09
  • Python密碼學Caesar?Cipher凱撒密碼算法教程

    Python密碼學Caesar?Cipher凱撒密碼算法教程

    這篇文章主要為大家介紹了Python密碼學Caesar?Cipher凱撒密碼算法教程,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪
    2022-05-05

最新評論

清涧县| 巴青县| 大邑县| 建宁县| 博客| 临澧县| 扶余县| 兴和县| 同德县| 边坝县| 临漳县| 桂东县| 七台河市| 锡林浩特市| 岳阳县| 冷水江市| 海林市| 日喀则市| 廉江市| 成安县| 凤庆县| 葵青区| 鸡东县| 巍山| 乡宁县| 武夷山市| 扬中市| 宁夏| 府谷县| 鸡西市| 景泰县| 云梦县| 永吉县| 岳西县| 平江县| 道孚县| 鄂托克旗| 水富县| 云龙县| 兰坪| 塔河县|