码迷,mamicode.com
首页 > Web开发 > 详细

使用 Chrome 浏览器插件 Web Scraper 10分钟轻松实现网页数据的爬取

时间:2017-05-22 01:27:39      阅读:9183      评论:0      收藏:0      [点我收藏+]

标签:man   multiple   导出数据   cimage   导入   follow   抓取   浏览器插件   fan   

本文标签: WebScraper Chrome浏览器插件 网页数据的爬取

使用 Chrome 浏览器插件 Web Scraper 可以轻松实现网页数据的爬取,不写代码,鼠标操作,点哪爬哪,还不用考虑爬虫中的登陆、验证码、异步加载等复杂问题。

技术分享

Web Scraper插件

Web Scraper 官网中的简介:

Web Scraper Extension (Free!)
Using our extension you can create a plan (sitemap) how a web site should be traversed and what should be extracted. Using these sitemaps the Web Scraper will navigate the site accordingly and extract all data. Scraped data later can be exported as CSV.

先看一下,我用 web scaper 爬取到的数据:

1. 知乎轮子哥粉丝

轮子哥有 54 万多粉丝,我只抓取了前 20 页400条记录

技术分享

设定数据字段

技术分享

2.简书七日热门数据

技术分享

运行爬虫得到数据

技术分享

导出数据

技术分享

Web Scraper 抓取流程及要点:

安装Web Scraper插件后,三步完成爬取操作
1、Create new sitemap(创建爬取项目)
2、选取爬取网页中的内容,点~点~点,操作
3、开启爬取,下载CSV数据

其中最关键的是第二步,两个要点:

  1. 先选中数据块 Element,每块数据我们在页面上取,都是重复的,选中 Multiple
  2. 在数据块中再取需要的数据字段(上图Excel中的列)

爬取大量数据的要点,在于掌握分页的控制。
分页分为3种情况:

  1. URL 参数分页(比较规整方式)
    URL 中带有分页的 page 参数的,如:

    https://www.zhihu.com/people/excited-vczh/followers?page=2

    直接在创建sitemap时,Start URL中就可以带上分页参数,写成这样:

    https://www.zhihu.com/people/excited-vczh/followers?page=[1-27388]
  2. 滚动加载,点击“加载更多” 加载页面数据

  3. 点击分页数字标签(包括“下一页”标签)
    注意,这里第2-3种可以归为一类方式,是异步加载的方式,大部分都可以转为第1种的方式来处理。
    这种方式分页不太好控制。一般使用 Link 或 Element click 来实现分页的操作。

图示 Web Scraper 操作步骤:

技术分享

第一步:创建sitemap

技术分享

第二步:选取块数据Element

技术分享

第三步:选取抓取的字段text

技术分享

第四步:爬取

Web Scaper 使用体会:

1) 除了规整的分页方式外,其他分页方式不好控制,不同的网站受页面标签不同,操作也不一样。

2) 因为直接抓取页面显示值,抓取数据规整度不太好,需要 EXCEL 函数处理。
如,简书七日热门中文章发表时间,格式有好几种。

3) 有一点网页代码基础的上手很快,代码才是王道啊。
特别是有点Python爬虫基础的,在选取页面数据中很容易操作、理解,发现操作中出现的问题。

4) 比起八爪鱼、火车头等数据采集器,web scraper不需要下载软件,免费,无需注册,还很体会一点点代码的操作。当然 web scraper 也有付费的云爬虫。

Web Scraper 还可以导入sitemap,把下面的这段代码导入,你就可以抓取到知乎轮子哥前20页的粉丝:

{"startUrl":"https://www.zhihu.com/people/excited-vczh/followers?page=[1-20]","selectors":[{"parentSelectors":["_root"],"type":"SelectorElement","multiple":true,"id":"items","selector":"div.List-item","delay":""},{"parentSelectors":["items"],"type":"SelectorText","multiple":false,"id":"name","selector":"div.UserItem-title a.UserLink-link","regex":"","delay":""},{"parentSelectors":["items"],"type":"SelectorText","multiple":false,"id":"desc","selector":"div.RichText","regex":"","delay":""},{"parentSelectors":["items"],"type":"SelectorText","multiple":false,"id":"answers","selector":"span.ContentItem-statusItem:nth-of-type(1)","regex":"","delay":""},{"parentSelectors":["items"],"type":"SelectorText","multiple":false,"id":"articles","selector":"span.ContentItem-statusItem:nth-of-type(2)","regex":"","delay":""},{"parentSelectors":["items"],"type":"SelectorText","multiple":false,"id":"fans","selector":"span.ContentItem-statusItem:nth-of-type(3)","regex":"","delay":""}],"_id":"zh_vczh"}

PS, Web Scraper 资料教程

  1. 官网中的视频教程
    http://webscraper.io/tutorials

  2. 知乎@陈大欣 的回答 中写了详细的步骤,并录制了视频教程。

    这个问题来源 零基础如何学爬虫技术? @陈大欣 在文章中把 Excel 爬虫,web scraper,代码爬虫做了比较分析。

写在最后:FOR Freedom 看看外边的世界,以及IT这一行,少不了去Google查资料,最后,安利一些速器代理。

加速器推荐 免费方案 付费方案 官方网站
一枝红杏加速器 免费方案暂无,稳定高速 输入8折优惠码wh80,年付只需80元/年 官网直达http://whosmall.com/go/yzhx
安云加速器 最好用的外贸VPN 最低¥30/月 官网直达http://whosmall.com/go/ay
LoCo加速器 每天免费2小时 最低¥15/月 官网直达http://whosmall.com/go/loco

本文标签: WebScraper Chrome浏览器插件 网页数据的爬取

转自 SUN‘S BLOG - 专注互联网知识,分享互联网精神!

原文地址 使用 Chrome 浏览器插件 Web Scraper 10分钟轻松实现网页数据的爬取

相关阅读MacOS 如何使用软件包管理器 Homebrew-Cask 安装软件?

相关阅读Mac 系统上如何用 LaunchBar 一键下载网页上的所有文件?

相关阅读MacOS 如何用 LaunchBar 一键上传文件至 Google Drive?

相关阅读最好用的 Mac App 快速启动及切换工具:Manico 2.0

相关阅读我为什么选择 Window Tidy 作为 MacOS 分屏工具?

相关阅读Chrome 扩展 Stylish :给不喜欢某个网站一键「换肤」

相关阅读将 QQ 音乐、网易云音乐和虾米音乐资源「整合」一起的Chrome 扩展Listen 1

相关阅读8 个「新标签页」Chrome 扩展: 教你把 New Tab 页面玩的溜溜溜

相关阅读7 款实用 Chrome 扩展推荐:帮你提升 Chrome 使用体验

相关阅读无扩展就不是 Chrome 了:15 款优质的Chrome 扩展推荐给大家

相关阅读12 款不能少的使网页浏览获得的最佳体验Chrome 扩展

相关阅读5 款可以带来幸福感的 Chrome 扩展

相关阅读: 对程序员有用:2017最新能上Google的hosts文件下载及总结网友遇到的各种hosts问题解决方法及配置详解

相关BLOG:SUN’S BLOG - 专注互联网知识,分享互联网精神!去看看:www.whosmall.com

原文地址:http://whosmall.com/?post=473

使用 Chrome 浏览器插件 Web Scraper 10分钟轻松实现网页数据的爬取

标签:man   multiple   导出数据   cimage   导入   follow   抓取   浏览器插件   fan   

(0)
(1)
   
举报
评论 一句话评论(0
0条  
登录后才能评论!
© 2014 mamicode.com 版权所有 京ICP备13008772号-2
迷上了代码!