PHP 采集程序原理分析篇
苦想了幾天,終于弄明白了里面的道理。在這里寫出來(lái),請(qǐng)高手指正。
采集程序的思路很簡(jiǎn)單,無(wú)非就是先打一個(gè)頁(yè)面,一般都是列表頁(yè),取得里面全部鏈接的地址,然后打開逐條鏈接,尋找我們感興趣的東西,如果找到,就把它入庫(kù)或別的處理。下面以一個(gè)很簡(jiǎn)單的例子來(lái)說(shuō)說(shuō)。
首先確定一個(gè)采集頁(yè),一般就是列表面了。這里目標(biāo)是:http://m.fzitv.net/article/11/index.htm。這是一個(gè)列表頁(yè),我們的目的就是采集這個(gè)列表頁(yè)上全部的文章。
有列表頁(yè)了,第一步先打開它,把它的內(nèi)容納入到我們的程序中來(lái)。一般用fopen或是file_get_contents這兩個(gè)函數(shù),我們這里用fopen作例子。怎么打開它呢?很簡(jiǎn)單:$source=fopen("http://m.fzitv.net/article/11/index.htm",'r');實(shí)際上已經(jīng)把內(nèi)容納入到我們的程序中來(lái)了。注意得到的$source是一個(gè)資源,不是可處理的文本,所以再用函數(shù)fread將內(nèi)容讀到一個(gè)變量中,這次就是真正的可編輯的文本了。例子:
$content=fread($source,99999);后面的數(shù)字表示字節(jié)數(shù),填個(gè)大的就行。你用file_put_contents將$content寫入到一個(gè)文本文件,可以看出里面的內(nèi)容其實(shí)就是網(wǎng)頁(yè)的源碼。得到了網(wǎng)頁(yè)的源碼,我們就要分析里面的文章鏈接地址,這里要用到正則表達(dá)式了,[推薦正則表達(dá)式教程(http://m.fzitv.net/article/7/all/545.1.htm)]。通過(guò)查看源代碼,我們可以看到里面文章的鏈接地址全是這個(gè)樣子<div class="in_arttitle"><a href="http://m.fzitv.net/article/10/all/273.1.htm"> 將數(shù)據(jù)庫(kù)連接代碼封裝在函數(shù)里,在需要讀取時(shí)調(diào)用..</a>
我們就可以寫正則表達(dá)式了。$count=preg_match_all("/<div class=\"in_arttitle\"><a\shref=\"(.+?)\">(.+?)<\/a>/",$content,$art_list);
其中數(shù)組$art_list[1][$s]里面包含的就是某個(gè)文章的鏈接地址。而$art_list[2][$s]包含的就是某一文章的標(biāo)題。到了這一步就可以算成功了一半了。
接著用for循環(huán)依次打每個(gè)鏈接,然后像取得標(biāo)題一樣的方法取得內(nèi)容即可。以上這些和我在網(wǎng)上找的教程都差不多,但是到了這個(gè)for循環(huán)網(wǎng)上的教程可就差勁,還沒找到一篇可以說(shuō)清這個(gè)事的文章,剛開始我是用js來(lái)幫助循環(huán)的,還是用實(shí)例說(shuō)吧,剛開始我是這樣做的:
for($i=0;$i<20;4i++ {
中間就是采集內(nèi)容的部分了,省略了
采集了一頁(yè),肯定要采集再一頁(yè)啊
可是再用fopen打開鏈接時(shí)就不行了。請(qǐng)求失敗什么的,用js也不行,最后才知道要用這句echo "<META HTTP-EQUIV=REFRESH CONTENT='0;URL=aa.php?id=1'>";其中aa.php就是我們的程序的文件名, id后面的數(shù)字就可以幫助我們實(shí)現(xiàn)循環(huán),采集多個(gè)頁(yè)面。這就是能真正循環(huán)起來(lái)的關(guān)鍵
}
腦子有點(diǎn)難受,寫得有點(diǎn)亂,將就著看吧,在高手看來(lái)這可能沒什么大不了的,可是對(duì)于我等菜鳥來(lái)說(shuō),實(shí)在是很有幫助。
相關(guān)文章
PHP對(duì)象相互引用的內(nèi)存溢出實(shí)例分析
這篇文章主要介紹了PHP對(duì)象相互引用的內(nèi)存溢出實(shí)例分析,是PHP5.3以下版本中常見的一個(gè)bug,文中給出了解決方法,需要的朋友可以參考下2014-08-08
PHP字符轉(zhuǎn)義相關(guān)函數(shù)小結(jié)(php下的轉(zhuǎn)義字符串)
PHP字符轉(zhuǎn)義相關(guān)函數(shù)小結(jié),有時(shí)候?yàn)榱税踩鹨?,我們需要?duì)用戶輸入的字符串進(jìn)行轉(zhuǎn)義2007-04-04
php 從數(shù)據(jù)庫(kù)提取二進(jìn)制圖片的處理代碼
形式上類似UCH 只是存儲(chǔ)方式不一樣 本人比較愚鈍 這個(gè)問(wèn)題困惑了我半天 希望對(duì)有同樣問(wèn)題的phper有所幫助 高手們別見笑!2009-09-09
php使用PDO事務(wù)配合表格讀取大量數(shù)據(jù)插入操作實(shí)現(xiàn)方法
這篇文章主要介紹了php使用PDO事務(wù)配合表格讀取大量數(shù)據(jù)插入操作實(shí)現(xiàn)方法,涉及php使用excel_reader操作Excel文件及PDO操作數(shù)據(jù)庫(kù)的相關(guān)技巧,需要的朋友可以參考下2017-02-02
php短網(wǎng)址和數(shù)字之間相互轉(zhuǎn)換的方法
這篇文章主要介紹了php短網(wǎng)址和數(shù)字之間相互轉(zhuǎn)換的方法,涉及php操作字符串的技巧,具有一定參考借鑒價(jià)值,需要的朋友可以參考下2015-03-03

