php實(shí)現(xiàn)遞歸抓取網(wǎng)頁(yè)類(lèi)實(shí)例
更新時(shí)間:2015年04月03日 12:20:50 作者:pythoner
這篇文章主要介紹了php實(shí)現(xiàn)遞歸抓取網(wǎng)頁(yè)類(lèi),實(shí)例分析了php遞歸操作及網(wǎng)頁(yè)抓取的技巧,非常具有實(shí)用價(jià)值,需要的朋友可以參考下
本文實(shí)例講述了php實(shí)現(xiàn)遞歸抓取網(wǎng)頁(yè)類(lèi)的方法。分享給大家供大家參考。具體如下:
<?php
class crawler{
private $_depth=5;
private $_urls=array();
function extract_links($url)
{
if(!$this->_started){
$this->_started=1;
$curr_depth=0;
}else{
$curr_depth++;
}
if($curr_depth<$this->_depth)
{
$data=file_get_contents($url);
if(preg_match_all('/((?:http|https)://(?:www.)*(?:[a-zA-Z0-9_-]{1,15}.+[a-zA-Z0-9_]{1,}){1,}(?:[a-zA-Z0-9_/.-?&:%,!;]*))/',$data,$urls12))
{
foreach($urls12[0] as $k=>$v){
$check=get_headers($v,1);
if(strstr($v,$url) && $check[0]=='HTTP/1.1 200 OK' && !array_search($v,$this->_urls) && $curr_depth<$this->_depth){
$this->_urls[]=$v;
$this->extract_links($v);
}
}
}
}
return $this->_urls;
}
}
?>
希望本文所述對(duì)大家的php程序設(shè)計(jì)有所幫助。
您可能感興趣的文章:
- php curl抓取網(wǎng)頁(yè)的介紹和推廣及使用CURL抓取淘寶頁(yè)面集成方法
- PHP抓取網(wǎng)頁(yè)、解析HTML常用的方法總結(jié)
- php結(jié)合正則批量抓取網(wǎng)頁(yè)中郵箱地址
- PHP使用CURL實(shí)現(xiàn)多線程抓取網(wǎng)頁(yè)
- PHP中使用file_get_contents抓取網(wǎng)頁(yè)中文亂碼問(wèn)題解決方法
- php使用curl和正則表達(dá)式抓取網(wǎng)頁(yè)數(shù)據(jù)示例
- 采集郵箱的php代碼(抓取網(wǎng)頁(yè)中的郵箱地址)
- PHP的cURL庫(kù)功能簡(jiǎn)介 抓取網(wǎng)頁(yè)、POST數(shù)據(jù)及其他
- PHP多線程抓取網(wǎng)頁(yè)實(shí)現(xiàn)代碼
- PHP 抓取網(wǎng)頁(yè)圖片并且另存為的實(shí)現(xiàn)代碼
- PHP抓取及分析網(wǎng)頁(yè)的方法詳解
相關(guān)文章
php使用pdo連接并查詢sql數(shù)據(jù)庫(kù)的方法
這篇文章主要介紹了php使用pdo連接并查詢sql數(shù)據(jù)庫(kù)的方法,實(shí)例分析了常用的pdo連接方法與改進(jìn)方法,并針對(duì)pdo技術(shù)進(jìn)行了分析說(shuō)明,需要的朋友可以參考下2014-12-12
基于PHP導(dǎo)出Excel的小經(jīng)驗(yàn) 完美解決亂碼問(wèn)題
本篇文章是對(duì)PHP導(dǎo)出Excel亂碼問(wèn)題的解決方法就行了詳細(xì)的分析介紹,需要的朋友參考下2013-06-06
php實(shí)現(xiàn)約瑟夫問(wèn)題的方法小結(jié)
這篇文章主要介紹了php實(shí)現(xiàn)約瑟夫問(wèn)題的方法,實(shí)例總結(jié)了兩種常見(jiàn)的實(shí)現(xiàn)約瑟夫問(wèn)題的技巧,具有一定參考借鑒價(jià)值,需要的朋友可以參考下2015-03-03
PHP簡(jiǎn)單實(shí)現(xiàn)定時(shí)監(jiān)控nginx日志文件功能示例
這篇文章主要介紹了PHP簡(jiǎn)單實(shí)現(xiàn)定時(shí)監(jiān)控nginx日志文件功能,涉及php定時(shí)讀取nginx服務(wù)器日志以及基于curl的數(shù)據(jù)傳輸相關(guān)操作技巧,需要的朋友可以參考下2018-06-06
Search File Contents PHP 搜索目錄文本內(nèi)容的代碼
這個(gè)類(lèi)可以用來(lái)搜索在給定的文本目錄中的文件。它可以給定目錄遍歷遞歸查找某些文件擴(kuò)展名的文件。2010-02-02

