最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

golang如何實現(xiàn)抓取IP地址的蜘蛛程序詳解

 更新時間:2018年07月01日 12:05:08   作者:zhoutk  
這篇文章主要給大家介紹了關(guān)于利用golang如何實現(xiàn)抓取IP地址的蜘蛛程序的相關(guān)資料,文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧

背景

要做IP地址歸屬地查詢,量比較大,所以想先從網(wǎng)上找到大部分的分配數(shù)據(jù),寫個蜘蛛程序來抓取入庫,以后在程序的運行中不斷進行維護、更新、完善。

一些關(guān)鍵點

  • goroutine的使用,讓程序并行運行。
  • 正則表達式分組信息提取的使用,正確的提取我們關(guān)注的信息。
  • 數(shù)據(jù)庫批量插入操作。
  • 數(shù)據(jù)庫批量更新操作。

代碼解析

按功能模塊對核心代碼進行說明

ip.go

主進程,實現(xiàn)goroutine的調(diào)用。

func main() {
 //利用go基本庫封裝的網(wǎng)頁抓取函數(shù),后面有說明
 ctx := common.HttpGet("http://ips.chacuo.net/") 
 //正則表達式,有兩個分組(兩組小括號),分別取城市信息與url,具體分析代碼后面有說明
 reg := regexp.MustCompile(`<li><a title="[\S]+" href='([^']+?)'>([^<]+?)</a></li>`)  
 //取得頁面上所有的城市及相應(yīng)url
 ips := reg.FindAllStringSubmatch(string(ctx), -1)

 ch := make(chan string) //建立無緩沖字符串通道

 for _, el := range ips { //一個協(xié)程處理一個具體頁面
  go ipSpider.SpiderOnPage(el[1], el[2], ch)
 }

 for range ips {   //阻塞等待所有抓取工作全部完成
  fmt.Println(<-ch)
 }
}

正則表達式說明

主進程針對所有省有入口頁面,取得每省的入口分配給一個協(xié)程去處理,每一個入口是這個樣子

<a title="北京最新IP地址段"  rel="external nofollow" >北京</a>
  • 請注意,這里面變化只有三個部分(title內(nèi)容,href內(nèi)容,鏈接顯示內(nèi)容),其中兩個部分是我們需要的
  • title內(nèi)容對應(yīng)正則為 [\S]+ ,非空白符
  • href內(nèi)容對應(yīng)的正則為 ([^']+?) ,第一次遇到單引號結(jié)束,問號表示非貪婪匹配,括號是分組,能方便取出所匹配信息
  • 鏈接顯示內(nèi)容對應(yīng)的正則為 ([^<]+?) , 第一次遇到<時結(jié)束,第二個分組
  • FindAllStringSubmatch函數(shù)可以取出所有子分組,子分組從下標1開始,0為正則整體匹配的字符串

goroutine 流程

  • 建立一個無緩沖字符串通道,作為所有協(xié)程與主進程通信通道
  • 循環(huán)正則匹配結(jié)果,為每一個省的頁面分配一個協(xié)程
  • 協(xié)程獲取數(shù)據(jù)成功并批量寫數(shù)據(jù)庫,返回成功信息到通道
  • 協(xié)程處理失敗,反回失敗信息到通道
  • 主進程阻塞等所有協(xié)程成功或失敗返回,并打印成功或失敗信息

獲取ip地址信息

與主進程類似,注意無信息時處理。

IpSpider.go

 //獲取頁面數(shù)據(jù)
 ctx := common.HttpGet(url)
 //reg := regexp.MustCompile(`<li><a title="[\S]+" href='([^']+?)'>([^<]+?)</a></li>`)
 //兩個分組分別對應(yīng)IP段開始與結(jié)束
 reg := regexp.MustCompile(`<dd><span class="v_l">([^<]+?)</span><span class="v_r">([^<]+?)</span><div class="clearfix"></div></dd>`)
 //<dd><span class="v_l">49.64.0.0</span><span class="v_r">49.95.255.255</span><div class="clearfix"></div></dd>
 //取得所有匹配的分組信息
 ip := reg.FindAllStringSubmatch(string(ctx), -1)
 //沒有取得任何信息,提前返回,很重要,不然主進程會一直等待結(jié)束不了
 if len(ip) == 0 {
  ch <- "There are no data exist."
  return nil
 }

數(shù)據(jù)庫表結(jié)構(gòu)生成語句

CREATE TABLE `ip_addr_info` (
 `id` int(11) NOT NULL AUTO_INCREMENT COMMENT '索引,自動增長',
 `ip_addr_begin` varchar(32) NOT NULL DEFAULT '' COMMENT 'ip地址段開始',
 `ip_addr_end` varchar(32) DEFAULT '' COMMENT 'ip地址段結(jié)束',
 `province` varchar(32) DEFAULT '' COMMENT '所屬省',
 `ip_comp` varchar(32) DEFAULT '' COMMENT '運營商',
 PRIMARY KEY (`id`),
 UNIQUE KEY `ip_addr` (`ip_addr_begin`,`ip_addr_end`)
) ENGINE=InnoDB AUTO_INCREMENT=7268 DEFAULT CHARSET=utf8 COMMENT='表';

批量寫入數(shù)據(jù)庫

循環(huán)處理抓取數(shù)據(jù),生成批量寫入語句及輸入?yún)?shù),請簽到出到afc9ebd版本。

 var vs [] interface{}  //存儲輸入?yún)?shù)的接口數(shù)組
 var vss string    //待拼接的輸入?yún)?shù)占位符字符串
 for _, el := range ip {  //處理所有的數(shù)據(jù)
  vs = append(vs, el[1], el[2], province) //每一列包括開始地址、結(jié)束地址與省份
  vss += "(?,?,?),"  //占位符
 }
 vss = vss[0:len(vss) -1]  //去掉最后的逗號
 var configs interface{}  //從配置文件取數(shù)據(jù)庫信息
 fr, err := os.Open("./configs.json") //配置文件內(nèi)容請參照上篇文章《golang實現(xiàn)mysql數(shù)據(jù)庫備份》
 if err != nil {
  ch <- err.Error()
  return err
 }
 decoder := json.NewDecoder(fr)
 err = decoder.Decode(&configs)

 confs := configs.(map[string]interface{})
 dialect := confs["database_dialect"].(string)

 dbConf := confs["db_"+dialect+"_config"].(map[string]interface{})
 dbHost := dbConf["db_host"].(string)
 dbPort := strconv.FormatFloat(dbConf["db_port"].(float64), 'f', -1, 32)
 dbUser := dbConf["db_user"].(string)
 dbPass := dbConf["db_pass"].(string)
 dbName := dbConf["db_name"].(string)
 dbCharset := dbConf["db_charset"].(string)

 dao, err := mysql.Open(dialect, dbUser + ":"+dbPass+"@tcp("+dbHost+":"+dbPort+")/"+dbName+"?charset="+dbCharset)
 defer dao.Close()
 if err != nil {
  ch <- err.Error()
  return err
 }
 //批量插入語句拼接
 sqlstr := "insert into ip_addr_info (ip_addr_begin,ip_addr_end,province) values " + vss
 stmt, err := dao.Prepare(sqlstr) //預(yù)處理帶參數(shù)的sql語句
 rs, err := stmt.Exec(vs...)   //帶參數(shù)執(zhí)行sql語句
 if err != nil {     //出錯,返回錯誤信息
  ch <- err.Error()
  return err
 }else {       //成功,返回成功信息
  affect, _ := rs.RowsAffected()
  ch <- "Province: " + province + ", affect: " + strconv.FormatInt(affect, 10)
  return nil
 }

批量修改數(shù)據(jù)庫

數(shù)據(jù)庫中的ip_comp字段,是代表運營商信息,需要從運營商頁面進入進行數(shù)據(jù)獲取,只需改一下入口url重新運行程序就能正確抓取,但這時入庫就不是新增了,而是更新,請簽出到4729e66版本。

 //前提數(shù)據(jù)庫表定義要設(shè)定唯一索引,主鍵或其它定義的unique索引
 ...
 
 sqlstr := "insert into ip_addr_info (ip_addr_begin,ip_addr_end,ip_comp) values " + vss +
  //提供更新(唯一索引沖突時)時要對應(yīng)原字段與值
  " ON DUPLICATE KEY UPDATE ip_addr_begin = values(ip_addr_begin), ip_addr_end = values(ip_addr_end), ip_comp = values(ip_comp)"
 stmt, err := dao.Prepare(sqlstr)
 rs, err := stmt.Exec(vs...)
 if err != nil {
  ch <- err.Error()
  return err
 }else {
  affect, _ := rs.RowsAffected()
  ch <- "Province: " + province + ", affect: " + strconv.FormatInt(affect, 10)
  return nil
 }

待改進的方面

把入口url提到配置中,使用策略模式,讓匹配規(guī)則抽象成策略,目標是不改程序,調(diào)整配置文件就可以抓取不同的網(wǎng)頁。

項目地址

https://github.com/zhoutk/goTools

使用方法

git clone https://github.com/zhoutk/goTools
cd goTools
go get
go run ip.go

go buid ip.go
./ip  

小結(jié)

熟悉了golang語言,了解了一種全新的并發(fā)編程模式,熟悉了具體的數(shù)據(jù)庫操作方法,給自己生成了一個方便的工具。

總結(jié)

以上就是這篇文章的全部內(nèi)容了,希望本文的內(nèi)容對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,如果有疑問大家可以留言交流,謝謝大家對腳本之家的支持。

相關(guān)文章

  • 關(guān)于Go語言中的IO操作詳解

    關(guān)于Go語言中的IO操作詳解

    在現(xiàn)代軟件開發(fā)中,高效的輸入輸出(I/O)操作是提高程序性能的關(guān)鍵之一,Go語言提供了豐富的I/O操作接口,使得文件讀寫、網(wǎng)絡(luò)通信等任務(wù)變得簡單而高效,本文介紹了關(guān)于Go語言中的IO操作,需要的朋友可以參考下
    2024-10-10
  • go語言實現(xiàn)字符串與其它類型轉(zhuǎn)換(strconv包)

    go語言實現(xiàn)字符串與其它類型轉(zhuǎn)換(strconv包)

    strconv包是Go語言標準庫的一部分,主要提供字符串與基本數(shù)據(jù)類型之間的轉(zhuǎn)換功能,使用strconv包可以方便地在不同類型之間進行轉(zhuǎn)換,滿足日常編程中的需求,感興趣的可以了解一下
    2024-10-10
  • golang切片原理詳細解析

    golang切片原理詳細解析

    這篇文章主要介紹了golang切片原理詳細解析,切片在編譯時定義為Slice結(jié)構(gòu)體,并通過NewSlice()函數(shù)進行創(chuàng)建,更多相關(guān)內(nèi)容感興趣的小伙伴可以參考一下下面文章內(nèi)容
    2022-06-06
  • Go語言實現(xiàn)布谷鳥過濾器的方法

    Go語言實現(xiàn)布谷鳥過濾器的方法

    這篇文章主要介紹了Go語言實現(xiàn)布谷鳥過濾器的方法,本文給大家介紹的非常詳細,對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下
    2021-03-03
  • Go語言空結(jié)構(gòu)體詳解

    Go語言空結(jié)構(gòu)體詳解

    本文主要介紹了Go語言空結(jié)構(gòu)體詳解,文中通過示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2022-01-01
  • 輕松入門:使用Golang開發(fā)跨平臺GUI應(yīng)用

    輕松入門:使用Golang開發(fā)跨平臺GUI應(yīng)用

    Golang是一種強大的編程語言,它的并發(fā)性和高性能使其成為開發(fā)GUI桌面應(yīng)用的理想選擇,Golang提供了豐富的標準庫和第三方庫,可以輕松地創(chuàng)建跨平臺的GUI應(yīng)用程序,通過使用Golang的GUI庫,開發(fā)人員可以快速構(gòu)建具有豐富用戶界面和交互功能的應(yīng)用程序,需要的朋友可以參考下
    2023-10-10
  • GO常見的錯誤99%程序員會遇到(解決方法)

    GO常見的錯誤99%程序員會遇到(解決方法)

    這篇文章主要介紹了GO常見的錯誤99%程序員會遇到,本文給出了解決方法,非常不錯,具有一定的參考借鑒價值,需要的朋友可以參考下
    2020-01-01
  • Go語言并發(fā)控制之sync.WaitGroup使用詳解

    Go語言并發(fā)控制之sync.WaitGroup使用詳解

    這篇文章主要為大家詳細介紹了Go語言并發(fā)控制中sync.Map的原理與使用,文中的示例代碼講解詳細,感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下
    2025-02-02
  • 在Golang中正確的修改HTTPRequest的Host的操作方法

    在Golang中正確的修改HTTPRequest的Host的操作方法

    我們工作中經(jīng)常需要通過HTTP請求Server的服務(wù),比如腳本批量請求接口跑數(shù)據(jù),由于一些網(wǎng)關(guān)策略,部分Server會要求請求中Header里面附帶Host參數(shù),所以本文給大家介紹了如何在Golang中正確的修改HTTPRequest的Host,需要的朋友可以參考下
    2023-12-12
  • go語言通過odbc操作Access數(shù)據(jù)庫的方法

    go語言通過odbc操作Access數(shù)據(jù)庫的方法

    這篇文章主要介紹了go語言通過odbc操作Access數(shù)據(jù)庫的方法,實例分析了Go語言通過odbc連接、查詢與關(guān)閉access數(shù)據(jù)庫的技巧,需要的朋友可以參考下
    2015-03-03

最新評論

高青县| 宝丰县| 江孜县| 九龙城区| 阜城县| 宾阳县| 花垣县| 萝北县| 乃东县| 建始县| 宜昌市| 牡丹江市| 宝坻区| 天全县| 海阳市| 清原| 万州区| 利辛县| 格尔木市| 鄯善县| 当阳市| 宁德市| 申扎县| 双桥区| 克什克腾旗| 竹溪县| 诏安县| 谷城县| 濮阳市| 吉水县| 遵义市| 麻城市| 白水县| 湛江市| 万荣县| 宝兴县| 苏尼特左旗| 五台县| 旺苍县| 麻栗坡县| 卓资县|