NodeJS制作爬蟲全過程（續(xù)）

更新時間：2014年12月22日 11:11:36 投稿：hebedich

本文是接上篇NodeJS制作爬蟲全過程，是最上文的一個補(bǔ)充以及優(yōu)化，給需要的小伙伴參考下

書接上回，我們需要修改程序以達(dá)到連續(xù)抓取40個頁面的內(nèi)容。也就是說我們需要輸出每篇文章的標(biāo)題、鏈接、第一條評論、評論用戶和論壇積分。

如圖所示，$('.reply_author').eq(0).text().trim();得到的值即為正確的第一條評論的用戶。

{<1>}

在eventproxy獲取評論及用戶名內(nèi)容后，我們需要通過用戶名跳到用戶界面繼續(xù)抓取該用戶積分

復(fù)制代碼代碼如下:

var $ = cheerio.load(topicHtml);

//此URL為下一步抓取目標(biāo)URL

var user + $('.reply_author').eq(0).attr('href');

userHref = url.resolve(tUrl, userHref);

var title = $('.topic_full_title').text().trim().replace(/\n/g,"");;

var href = topicUrl;

var comment1 = $('.reply_content').eq(0).text().trim();

var author1 = $('.reply_author').eq(0).text().trim();

//傳遞參數(shù)到下一次并發(fā)抓取

ep.emit('user_html', [userHref, title, href, comment1, author1]);

在eventproxy這一次中，我們要找到score是放在哪里（class="big"）。

{<2>}

找到classname就好辦了，我們先試著把結(jié)果輸出一下

復(fù)制代碼代碼如下:

var outcome = superagent.get(userUrl)

    .end(function (err, res) {

        if (err) {

            return console.error(err);

        }

        var $ = cheerio.load(res.text);

        var score = $('.big').text().trim();

        console.log(user[1]);

        console.log(user[2]);

        console.log(user[3]);

        console.log(user[4]);

        console.log($('.big').text().trim());

        return ({

            title: user[1],

            href: user[2],

            comment1: user[3],

            author1: user[4],

            score1: score

        });

    });

});

運行程序，這段代碼得到的結(jié)果。

{<3>}

但是問題來了，我們在.end()的回調(diào)函數(shù)中能正確輸出結(jié)果，但是不能正確的輸出outcome。仔細(xì)一看，需要輸出的outcome是一個Request對象。這是因為粗心犯的錯的，.end()函數(shù)并不會傳遞返回值給Request對象，需要將結(jié)果返回到上一層（users）。

復(fù)制代碼代碼如下:

//find userDetails

ep.after('user_html', topicUrls.length, function(users){

    users = users.map(function(user){

        var userUrl = user[0];

        var score;

        superagent.get(userUrl)

            .end(function (err, res) {

                if (err) {

                    return console.error(err);

                }

                //console.log(res.text);

                var $ = cheerio.load(res.text);

                score = $('.big').text().trim();

            });

        return ({

            title: user[1],

            href: user[2],

            comment1: user[3],

            author1: user[4],

            score1: score

        });

    });

把users好好地輸出發(fā)現(xiàn)除了score1其他是正確值。仔細(xì)調(diào)試發(fā)現(xiàn)，程序是先進(jìn)行了console.log()，然后再進(jìn)行.map()。更準(zhǔn)確地說，在.map()函數(shù)內(nèi)，.get()的回調(diào)函數(shù)并沒有執(zhí)行完賦值score，return 返回值就進(jìn)行了。這就是回調(diào)函數(shù)的異步，而外層的同步操作是不會等待回調(diào)函數(shù)做完操作的。

{<4>}

我的做法就是eventproxy再emit一層消息，伴隨著消息把需要的數(shù)據(jù)一起傳遞給接收消息操作.after()，只有當(dāng)消息全部接收完畢，再打印出傳遞的參數(shù)(結(jié)果)。

復(fù)制代碼代碼如下:

score = $('.big')text().trim();

//新添加

ep.emit('got_score', [user[1], user[2], user[3], user[4], score]);

.....

ep.after('got_score', 10, function(users){

console.log(users);

});

{<6>}

這個問題解決了，但score1的數(shù)值好像太大了點吧。再一看，原來class='big'有兩個，用戶的話題收藏也是屬于這個class。我們得通過cheerio的.slice( start, [end] )來切取第一個元素，即將score 修改為 score = $('.big').slice(0).eq(0).text().trim();。正確結(jié)果如圖。

{<7>}