node爬取新型冠狀病毒的疫情實(shí)時(shí)動(dòng)態(tài)

更新時(shí)間：2020年02月06日 17:28:40 作者：喜歡ctrl的cxk

這篇文章主要介紹了node爬取新型冠狀病毒的疫情實(shí)時(shí)動(dòng)態(tài),非常不錯(cuò)，本文通過實(shí)例代碼給大家講解的非常詳細(xì)，需要的朋友可以參考下

寫在前面：

新型冠狀病毒有多么可怕，我想大家都已經(jīng)知道了。湖北爆發(fā)了新型冠狀病毒，湖南前幾天爆發(fā)了禽流感，四川發(fā)生地震，中國(guó)加油！昨天晚上我突發(fā)奇想地打算把疫情實(shí)時(shí)動(dòng)態(tài)展示在自建站上，于是說干就干（先附上昨晚用puppeteer截的圖片）。

安裝node_modules：

所需的node_modules：①puppeteer；②cheerio；③fs；④cron。

需要注意的是安裝puppeteer的時(shí)候很容易安裝失敗，這里有倆個(gè)解決方法，都是用淘寶源（馬云爸爸不是白叫的😄）。

一、先將npm換成淘寶源再安裝：

npm config set registry http://registry.npm.taobao.org/
npm install -g cheerio
npm i -g puppeteer
npm i -g fs
npm i -g cron

二、用cnpm進(jìn)行安裝：

npm install cnpm -g --registry=https://registry.npm.taobao.org/
cnpm install -g cheerio
cnpm i -g puppeteer
cnpm i -g fs
cnpm i -g cron

具體操作：

用puppeteer爬?。?/p>

puppeteer本質(zhì)上是一個(gè)chrome瀏覽器，網(wǎng)頁(yè)很難分清這是人類用戶還是爬蟲，我們可以用它來加載動(dòng)態(tài)網(wǎng)頁(yè)。

先來一個(gè)簡(jiǎn)單的例子，用puppeteer截圖：

const puppeteer = require('puppeteer');
 
(async () => {
 const browser = await puppeteer.launch({args: ['--no-sandbox', '--disable-setuid-sandbox']});  //啟動(dòng)瀏覽器實(shí)例
  /* puppeteer.launch()的可選參數(shù)如下：
  headless: 是否打開瀏覽器，默認(rèn)為true
  ignoreHTTPSErrors: 是否忽略https錯(cuò)誤，默認(rèn)為true
  executablePath: 配置要調(diào)用瀏覽器的可執(zhí)行路徑，默認(rèn)是同Puppeteer一起安裝的Chromeium
  slowMo：指定的毫秒延緩Puppeteer的操作
  args：設(shè)置瀏覽器的相關(guān)參數(shù)，比如是否啟動(dòng)沙箱模式“--no-sandbox”，是否更換代理“--proxy-server”，
  */
 const page = await browser.newPage();  //新建頁(yè)面
 await page.goto('https://ncov.dxy.cn/');  //訪問目標(biāo)網(wǎng)頁(yè)：丁香醫(yī)生
 await page.screenshot({  //進(jìn)行截圖
  path: 'p1.png',
  type: 'png',
  // quality: 100, 只對(duì)jpg有效
  // 指定區(qū)域截圖，clip和fullPage兩者只能設(shè)置一個(gè)
  // fullPage: true,
  clip: {
   x: 0,
   y: 0,
   width: 1000,
   height: 1000
  }
 });
 browser.close();  //關(guān)閉瀏覽器
})();

用puppeteer獲取網(wǎng)頁(yè)源代碼：

const puppeteer = require('puppeteer');
 
(async () => {
 const browser = await puppeteer.launch();
 const page = await browser.newPage();
 await page.goto('https://ncov.dxy.cn/');
 //page.frames() 獲取當(dāng)前頁(yè)面所有的 iframe，然后根據(jù) iframe 的名字精確獲取某個(gè)想要的 iframe
 const frame = await page.mainFrame();
 const bodyHandle = await frame.$('html');  //獲取所有的html
 //frame.evaluate()在瀏覽器中執(zhí)行函數(shù)，相當(dāng)于在控制臺(tái)中執(zhí)行函數(shù)，返回一個(gè)Promise
 const html = await frame.evaluate(body=>body.innerHTML,bodyHandle);
 await bodyHandle.dispose();
 browser.close();
 console.log(html);
})();

用cheerio解析html：

// 使用cheerio模塊裝載我們得到的頁(yè)面源代碼,返回的是一個(gè)類似于jquery中的$對(duì)象
// 使用這個(gè)$對(duì)象就像操作jquery對(duì)象一般去操作我們獲取得到的頁(yè)面的源代碼
var $ = cheerio.load(html);
var $menu_box = $(".statistics___1cFUQ");
console.log($menu_box.html());

用fs寫入到文件中：

/* fs.wirteFile有三個(gè)參數(shù)
  * 1,第一個(gè)參數(shù)是要寫入的文件路徑
  * 2,第二個(gè)參數(shù)是要寫入得內(nèi)容
  * 3,第三個(gè)參數(shù)是可選參數(shù),表示要寫入的文件編碼格式,一般就不寫,默認(rèn)就行
  * 4,第四個(gè)參數(shù)是個(gè)回調(diào)函數(shù) 只有一個(gè)參數(shù)error,來判斷是否寫入成功
  */
fs.writeFile("./coronavirus.php",$menu_box.html(),error=>{
  if(error) return console.log("寫入文件失敗,原因是:"+error.message);
  console.log('寫入成功');
});

引入到網(wǎng)站中：

我是直接把它放在頭部，局部代碼如下：

<div id="header-bg">
  <style type="text/css">
    .title___2d1_B img {
      width: 18px;
      height: 18px;
      cursor:pointer;
    }
    #novel_coronavirus {
      text-align: center;
      position:relative;
      top:50px;
      background-color:rgba(255,255,255,0.7);
    }
    #novel_coronavirus li {
      margin: 10px;
      padding:2px;
      border:1px slide #000;
    }
    #novel_coronavirus ul li { 
      list-style:none;
      display: inline-block;
    }
    .count___3GCdh p{
      font-size:12px;
    }
    .count___3GCdh span{
      font-size:20px;
    }
  </style>
  <div id="novel_coronavirus" > 
    <strong><p style="font-size:23px">新型冠狀病毒疫情實(shí)時(shí)動(dòng)態(tài)</p></strong>
    <?php require("./test/coronavirus.php");?>
  </div>
</div>

服務(wù)器上運(yùn)行的完整代碼：

CronJob的定時(shí)參數(shù)是秒分鐘小時(shí) 天月份星期。這里我設(shè)置成了每分鐘爬取一次。（我是用mstsc遠(yuǎn)程連接后運(yùn)行node coronavirus.js的，這樣關(guān)閉遠(yuǎn)程桌面連接后，服務(wù)器依然會(huì)每分鐘爬取一次丁香醫(yī)生上的新型冠狀病毒的全國(guó)疫情實(shí)時(shí)動(dòng)態(tài)。

const cheerio = require('cheerio');
const puppeteer = require('puppeteer');
const fs = require('fs');
var cronJob = require('cron').CronJob;
new cronJob('0 */1 * * * *',function(){
 update();
},null,true);  //每分鐘執(zhí)行一次
//爬取全國(guó)新型肺炎疫情實(shí)時(shí)動(dòng)態(tài)并寫入到指定的.php文件
function update() {
 (async () => {
  const browser = await puppeteer.launch({args: ['--no-sandbox', '--disable-setuid-sandbox']});
  const page = await browser.newPage();
  await page.goto('https://ncov.dxy.cn/');
  const frame = await page.mainFrame();
  const bodyHandle = await frame.$('html');
  const html = await frame.evaluate(body=>body.innerHTML,bodyHandle);
  await bodyHandle.dispose();
  browser.close();
  var $ = cheerio.load(html);
  var $menu_box = $(".statistics___1cFUQ");
  fs.writeFile("coronavirus.php",$menu_box.html(),error=>{
   if(error) {
    console.log("寫入文件失敗,原因是:"+error.message);
   } else { 
    console.log('更新成功');
   }
  });
 })();
}

查看我的網(wǎng)站