最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

php采集時被封ip的解決方法

 更新時間:2010年08月29日 14:48:23   作者:  
最近各種網(wǎng)站的采集程序?qū)懙谋容^多,遇到在采某網(wǎng)站時采到100多條時突然發(fā)現(xiàn)對方的網(wǎng)站打不開了,猜到肯定被封ip了,用了代理還是會封,這不是辦法。
在網(wǎng)上找了一些資料都沒有找到,功夫不負(fù)有心人啊,在找的時侯有一個人提到了用搜索引擎爬蟲蜘蛛的USERAGENT。雖然只提到一點點我還是想到了,列出我的解決方法,

1.使用Snoopy或curl傳搜索引擎爬蟲的USERAGENT值。
查看搜索引擎爬蟲的USERAGENT值:http://m.fzitv.net/yunying/29357.html

2.使用Snoopy或curl傳referer值。
如:$snoopy->referer = 'http://www.google.com';
$header[] = "Referer: http://www.google.com/";

3.使用Snoopy或curl代理。
如:$snoopy->proxy_host = "59.108.44.41";
$snoopy->proxy_port = "3128";

4.使用Snoopy或curl防造IP。
如:$snoopy->rawheaders['X_FORWARDED_FOR'] = '127.0.0.1';

5.用php與一個重起路由的程序,這樣就會獲得新的ip地址。

6.如果發(fā)現(xiàn)重起路由還是顯示被封,有可能對方封了你的mac地址,現(xiàn)在路由器都有偽造MAC的功能,可以寫程序或手動修改路由器的MAC地址,網(wǎng)上也有專門修改網(wǎng)卡mac地址的工具。

相關(guān)文章

最新評論

泽普县| 遵义县| 瑞安市| 达孜县| 深水埗区| 开封市| 绵竹市| 深水埗区| 浮梁县| 交城县| 登封市| 四会市| 富民县| 扬州市| 宝兴县| 垫江县| 陕西省| 阳曲县| 平陆县| 建昌县| 深泽县| 兴宁市| 阿鲁科尔沁旗| 萨迦县| 石渠县| 靖安县| 乐清市| 关岭| 嵊泗县| 庆安县| 肥东县| 丹巴县| 上栗县| 大方县| 神池县| 宣汉县| 湟源县| 罗山县| 积石山| 孟津县| 翁源县|