使用node.js制作简易爬虫

时间：2014-05-28 18:48:15 阅读：360 评论：0 收藏：0 [点我收藏+]

最近看了些node.js方面的知识，就像拿它来做些什么。因为自己喜欢摄影，经常上蜂鸟网，所以寻思了一下，干脆做个简单的爬虫来扒论坛的帖子。

直接上代码吧。

 1 var sys = require("sys"),
 2     http = require("http"),
 3     fs = require("fs");
 4 var url = "http://newbbs.fengniao.com/forum/forum_125.html";
 5 var data = "";
 6 //创建正则，过滤html
 7 var reg = /<div\s*class="recommendSub">\s*<a\s*href="(.*?)"\s*class="pic"\s*title="(.*?)"/g;
 8 var result = [],
 9     timeStamp = 0;
10 // 创建一个请求
11 var req = http.request(url, function (res) {
12     // 设置显示编码
13     timeStamp = new Date().getTime();
14     res.setEncoding("utf8");
15     res.on(‘data‘, function (chunk) {
16         data += chunk;
17     });
18     // 响应完毕时间出发，输出 data
19     res.on(‘end‘, function () {
20         while (match = reg.exec(data)) {
21             result.push({
22                 title: match[1],
23                 url: match[2]
24             });
25         }
26         writeFile(result);
27     });
28 });
29 // 发送请求
30 req.end();
31 function writeFile(r) {
32     var str = ‘‘;
33     for (var i = 0, _len = r.length; i < _len; i++) {
34         str += r[i].title + ‘\n‘ + r[i].url + ‘\n‘;
35     }
36     //数据拼接结束后，写入s.txt文件
37     fs.writeFile(‘s.txt‘, str, function (err) {
38         if (err) {
39             throw err;
40         }
41         console.log(‘耗时约‘ + Math.ceil((new Date().getTime() - timeStamp) / 1000) + ‘s‘);
42         console.log(‘数据已写入文件‘);
43     });
44 }