码迷,mamicode.com
首页 > 其他好文 > 详细

网络爬虫-爬取京东商品评价数据

时间:2018-10-04 10:58:49      阅读:165      评论:0      收藏:0      [点我收藏+]

标签:style   出现   显示   str   代码   pen   重点   lang   selenium   

        前段时间做商品评价的语义分析,需要大量的电商数据,于是乎就自己动手爬取京东的数据。第一次接触爬虫是使用selenium爬取CNKI的摘要,基于惯性思维的我仍然想用selenium+Firefox的方法爬取京东上的数据。代码就这样以selenium为框架写好了,但是效果一如既往的差,主要是耗时真的是太久了,即使是选择不加载图片等内容仍然有时效性的问题,所以我选择了scrapy爬取京东的电商数据。由于京东在页面展示的数据是后端分页,所以页面的URL不变而页面的内容随着一次次的请求而不断加载。如何获得动态网页的URL是本博客的重点,下面是如何京东网页URL的具体方法。希望借着这个例子让更多的人知道怎么动态获取页面URL。

        1、Chrome中打开我们我们需要的电商页面,比如

技术分享图片

        2、    选择“商品评论”

技术分享图片

 

 

        3、   按电脑的F12键,在电脑的右半栏框中选择Network按键

技术分享图片

 

(PS:如果没有显示内容,按F5刷新

        4、  在输入框中输入json

技术分享图片

        5、   在Network中出现的json文件里面会含有我们需要的评论数据

技术分享图片

        6、   对含有所需评论的文件单击右键,选择“Open in new tab”,则地址栏中的URL就是此时此刻真正的URL

技术分享图片

(PS:为了更好在chrome中展示网页源码,建议下载插件JSON-handle)

        7、   多试几个这样的页面我们就会很容易的发现我们规律了,这样我们就可以使用scrapy轻松的爬取我们所需要的评论啦!

 

网络爬虫-爬取京东商品评价数据

标签:style   出现   显示   str   代码   pen   重点   lang   selenium   

原文地址:https://www.cnblogs.com/cxf-zzj/p/9740327.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!