PHP CURL或file_get_contents獲取網(wǎng)頁標(biāo)題的代碼及兩者效率的穩(wěn)定性問題
PHP CURL與file_get_contents函數(shù)都可以獲取遠(yuǎn)程服務(wù)器上的文件保存到本地,但在性能上面兩者完全不在同一個級別,下面我先來介紹PHP CURL或file_get_contents函數(shù)應(yīng)用例子,然后再簡單的給各位介紹一下它們的一些小區(qū)別吧。
推薦方法 CURL獲取
<?php
$c = curl_init();
$url = 'm.fzitv.net';
curl_setopt($c, CURLOPT_URL, $url);
curl_setopt($c, CURLOPT_RETURNTRANSFER, 1);
$data = curl_exec($c);
curl_close($c);
$pos = strpos($data,'utf-8');
if($pos===false){$data = iconv("gbk","utf-8",$data);}
preg_match("/<title>(.*)<\/title>/i",$data, $title);
echo $title[1];
?>
使用file_get_contents
<?php
$content=file_get_contents("http://m.fzitv.net/");
$pos = strpos($content,'utf-8');
if($pos===false){$content = iconv("gbk","utf-8",$content);}
$postb=strpos($content,'<title>')+7;
$poste=strpos($content,'</title>');
$length=$poste-$postb;
echo substr($content,$postb,$length);
?>
看看file_get_contents性能
1)fopen/file_get_contents 每次請求遠(yuǎn)程URL中的數(shù)據(jù)都會重新做DNS查詢,并不對DNS信息進(jìn)行緩存。但是CURL會自動對DNS信息進(jìn)行緩存。對同一域名下的網(wǎng)頁或者圖片的請求只需要一次DNS 查詢。這大大減少了DNS查詢的次數(shù)。所以CURL的性能比fopen/file_get_contents 好很多。
2)fopen/file_get_contents在請求HTTP時,使用的是http_fopen_wrapper,不會keeplive。而curl卻可以。這樣在多次請求多個鏈接時,curl效率會好一些。(設(shè)置header頭應(yīng)該可以)
3)fopen/file_get_contents函數(shù)會受到php.ini文件中allow_url_open選項配置的影響。如果該配置關(guān)閉了,則該函數(shù)也就失效了。而curl不受該配置的影響。
4)curl可以模擬多種請求,例如:POST數(shù)據(jù),表單提交等,用戶可以按照自己的需求來定制請求。而fopen/file_get_contents只能使用get方式獲取數(shù)據(jù)。
5)fopen/file_get_contents 不能正確下載二進(jìn)制文件
6)fopen/file_get_contents 不能正確處理ssl請求
7)curl 可以利用多線程
8)使用 file_get_contents 的時候如果 網(wǎng)絡(luò)出現(xiàn)問題, 很容易堆積一些進(jìn)程在這里
9)如果是要打一個持續(xù)連接,多次請求多個頁面。那么file_get_contents就會出問題。取得的內(nèi)容也可能會不對。所以做一些類似采集工作的時候,肯定就有問題了。對做采集抓取的用curl,如果還有同不相信下面我們再做個測試
curl與file_get_contents性能對比PHP源代碼如下:
1829.php
<?php
/**
* 通過淘寶IP接口獲取IP地理位置
* @param string $ip
* @return: string
**/
function getCityCurl($ip)
{
$url="http://ip.taobao.com/service/getIpInfo.php?ip=".$ip;
$ch = curl_init();
$timeout = 5;
curl_setopt ($ch, CURLOPT_URL, $url);
curl_setopt ($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt ($ch, CURLOPT_CONNECTTIMEOUT, $timeout);
$file_contents = curl_exec($ch);
curl_close($ch);
$ipinfo=json_decode($file_contents);
if($ipinfo->code=='1'){
return false;
}
$city = $ipinfo->data->region.$ipinfo->data->city;
return $city;
}
function getCity($ip)
{
$url="http://ip.taobao.com/service/getIpInfo.php?ip=".$ip;
$ipinfo=json_decode(file_get_contents($url));
if($ipinfo->code=='1'){
return false;
}
$city = $ipinfo->data->region.$ipinfo->data->city;
return $city;
}
// for file_get_contents
$startTime=explode(' ',microtime());
$startTime=$startTime[0] + $startTime[1];
for($i=1;$i<=10;$i++)
{
echo getCity("121.207.247.202")."</br>";
}
$endTime = explode(' ',microtime());
$endTime = $endTime[0] + $endTime[1];
$totalTime = $endTime - $startTime;
echo 'file_get_contents:'.number_format($totalTime, 10, '.', "")." seconds</br>";
//for curl
$startTime2=explode(' ',microtime());
$startTime2=$startTime2[0] + $startTime2[1];
for($i=1;$i<=10;$i++)
{
echo getCityCurl('121.207.247.202')."</br>";
}
$endTime2 = explode(' ',microtime());
$endTime2=$endTime2[0] + $endTime2[1];
$totalTime2 = $endTime2 - $startTime2;
echo "curl:".number_format($totalTime2, 10, '.', "")." seconds";
?>
測試訪問
file_get_contents速度:4.2404510975 seconds
curl速度:2.8205530643 seconds
curl比file_get_contents速度快了30%左右,最重要的是服務(wù)器負(fù)載更低.
ps:php函數(shù)file_get_contents與curl效率及穩(wěn)定性問題
習(xí)慣了使用方便快捷的file_get_contents函數(shù)抓取別家網(wǎng)站內(nèi)容,但是總是會遇到獲取失敗的問題,盡管按照手冊中的例子設(shè)置了超時,可多數(shù)時候不好使:
$config['context'] = stream_context_create(array('http' => array('method' => "GET",'timeout' => 5)));
'timeout' => 5//這個超時時間不穩(wěn)定,經(jīng)常不好使。這時候,看一下服務(wù)器的連接池,會發(fā)現(xiàn)一堆類似下面的錯誤,讓你頭疼萬分:
file_get_contents(http://***): failed to open stream…
不得已,安裝了curl庫,寫了一個函數(shù)替換:
function curl_get_contents($url)
{
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $url); //設(shè)置訪問的url地址
//curl_setopt($ch,CURLOPT_HEADER,1); //是否顯示頭部信息
curl_setopt($ch, CURLOPT_TIMEOUT, 5); //設(shè)置超時
curl_setopt($ch, CURLOPT_USERAGENT, _USERAGENT_); //用戶訪問代理 User-Agent
curl_setopt($ch, CURLOPT_REFERER,_REFERER_); //設(shè)置 referer
curl_setopt($ch,CURLOPT_FOLLOWLOCATION,1); //跟蹤301
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //返回結(jié)果
$r = curl_exec($ch);
curl_close($ch);
return $r;
}
如此,除了真正的網(wǎng)絡(luò)問題外,沒再出現(xiàn)任何問題。
這是別人做過的關(guān)于curl和file_get_contents的測試:
file_get_contents抓取google.com需用秒數(shù):
2.31319094
2.30374217
2.21512604
3.30553889
2.30124092
curl使用的時間:
0.68719101
0.64675593
0.64326
0.81983113
0.63956594
差距很大吧?呵呵,從我使用的經(jīng)驗來說,這兩個工具不只是速度有差異,穩(wěn)定性也相差很大。建議對網(wǎng)絡(luò)數(shù)據(jù)抓取穩(wěn)定性要求比較高的朋友使用上面的 curl_file_get_contents函數(shù),不但穩(wěn)定速度快,還能假冒瀏覽器欺騙目標(biāo)地址哦!
- php基于curl重寫file_get_contents函數(shù)實例
- php中file_get_contents與curl性能比較分析
- php采用file_get_contents代替使用curl實例
- 深入file_get_contents與curl函數(shù)的詳解
- 探討file_get_contents與curl效率及穩(wěn)定性的分析
- 比file_get_contents穩(wěn)定的curl_get_contents分享
- php中使用Curl、socket、file_get_contents三種方法POST提交數(shù)據(jù)
- PHP curl 或 file_get_contents 獲取需要授權(quán)頁面的方法
相關(guān)文章
centos 7系統(tǒng)下安裝laravel運(yùn)行環(huán)境的步驟詳解
Laravel框架對于開發(fā)網(wǎng)頁應(yīng)用來說是一個絕好的的工具,最近正好又在學(xué)習(xí)linux系統(tǒng),所以下面這篇文章主要給大家介紹了在centos 7系統(tǒng)下安裝laravel運(yùn)行環(huán)境的步驟,需要的朋友可以參考借鑒,下面跟著小編來一起學(xué)習(xí)學(xué)習(xí)吧。2017-08-08
PHP檢測移動設(shè)備類mobile detection使用實例
這篇文章主要介紹了PHP檢測移動設(shè)備類mobile detection使用實例,mobile detection可以檢測到絕大部分手機(jī)、平板電腦的操作系統(tǒng)、瀏覽器等數(shù)據(jù),需要的朋友可以參考下2014-04-04
PHP中使用substr()截取字符串出現(xiàn)中文亂碼問題該怎么辦
本文給大家介紹使用php substr()截取字符串出現(xiàn)亂碼問題該怎么辦,涉及到php substr()方法的一些知識點,感興趣的朋友一起學(xué)習(xí)下吧2015-10-10
Laravel框架路由配置總結(jié)、設(shè)置技巧大全
這篇文章主要介紹了Laravel框架路由配置總結(jié)、設(shè)置技巧大全,Laravel 中最簡單的路由由一個URI和一個閉包調(diào)用組成,需要的朋友可以參考下2014-09-09
Yii中CArrayDataProvider和CActiveDataProvider區(qū)別實例分析
這篇文章主要介紹了Yii中CArrayDataProvider和CActiveDataProvider區(qū)別,結(jié)合實例形式分析了Yii中CArrayDataProvider和CActiveDataProvider的具體功能與用法,需要的朋友可以參考下2016-03-03

