一、安装库 使用conda安装： 如果出现解析环境问题，需要激活conda环境： https://www.cnblogs.com/jdemarryme/p/8745138.html 之后就可以使用conda list查看已安装的库了（激活环境：https://blog.csdn.net/hellow ...
分类：
编程语言 时间：
2019-07-29 00:43:42
阅读次数：
117
获取全站用户，理论来说从1个用户作为切入点就可以，我们需要爬取用户的关注列表，从关注列表不断的叠加下去。随便打开一个用户的个人中心绿色圆圈里面的都是我们想要采集到的信息。这个用户关注0人？那么你还需要继续找一个入口，这个用户一定要关注了别人。选择关注列表，是为了让数据有价值，因为关注者里面可能大量的小号或者不活跃的账号，价值不大。我选了这样一个入口页面，它关注了3个人，你也可以选择多一些的，这个没
分类：
编程语言 时间：
2019-07-28 09:45:05
阅读次数：
126
全站爬虫有时候做起来其实比较容易，因为规则相对容易建立起来，只需要做好反爬就可以了，今天咱们爬取知乎。继续使用scrapy当然对于这个小需求来说，使用scrapy确实用了牛刀，不过毕竟这个系列到这个阶段需要不断使用scrapy进行过度，so，我写了一会就写完了。你第一步找一个爬取种子，算作爬虫入口https://www.zhihu.com/people/zhang-jia-wei/followin
分类：
编程语言 时间：
2019-07-28 09:25:45
阅读次数：
111
今天继续爬取一个网站，http://www.27270.com/ent/meinvtupian/这个网站具备反爬，所以我们下载的代码有些地方处理的也不是很到位，大家重点学习思路，有啥建议可以在评论的地方跟我说说。为了以后的网络请求操作方向，我们这次简单的进行一些代码的封装操作。这里在你可以先去安装一个叫做retrying的模块pipinstallretrying这个模块的具体使用，自己去百度吧。嘿
分类：
编程语言 时间：
2019-07-25 09:35:59
阅读次数：
148
蜂鸟网图片--简介今天玩点新鲜的，使用一个新库aiohttp，利用它提高咱爬虫的爬取速度。安装模块常规套路pipinstallaiohttp运行之后等待，安装完毕，想要深造，那么官方文档必备：https://aiohttp.readthedocs.io/en/stable/接下来就可以开始写代码了。我们要爬取的页面，这一次选取的是http://bbs.fengniao.com/forum/foru
分类：
编程语言 时间：
2019-07-25 09:32:51
阅读次数：
102
1.蜂鸟网图片--简介国庆假日结束了，新的工作又开始了，今天我们继续爬取一个网站，这个网站为http://image.fengniao.com/，蜂鸟一个摄影大牛聚集的地方，本教程请用来学习，不要用于商业目的，不出意外，蜂鸟是有版权保护的网站。2.蜂鸟网图片--网站分析第一步，分析要爬取的网站有没有方法爬取，打开页面，找分页http://image.fengniao.com/index.php?a
分类：
编程语言 时间：
2019-07-25 09:31:21
阅读次数：
123
简介你好，当你打开这个文档的时候，我知道，你想要的是什么！Python爬虫，如何快速的学会Python爬虫，是你最期待的事情，可是这个事情应该没有想象中的那么容易，况且你的编程底子还不一定好，这套课程，没有你想要的Python基础，没有变量，循环，数组等基础知识，因为我不想在那些你可以直接快速学会的地方，去浪费你的时间。好了，这套课程是基于Python3.0以上写的，操作系统我使用的是CentOS
分类：
编程语言 时间：
2019-07-24 10:15:32
阅读次数：
119
简介你好，当你打开这个文档的时候，我知道，你想要的是什么！Python爬虫，如何快速的学会Python爬虫，是你最期待的事情，可是这个事情应该没有想象中的那么容易，况且你的编程底子还不一定好，这套课程，没有你想要的Python基础，没有变量，循环，数组等基础知识，因为我不想在那些你可以直接快速学会的地方，去浪费你的时间。好了，这套课程是基于Python3.0以上写的，操作系统我使用的是CentOS
分类：
编程语言 时间：
2019-07-17 00:22:09
阅读次数：
92
if 条件语句 a=3if a>3: print("ok") elif a==3: print("no")else: print("dagag") 循环语句：list1=["aaa","eee"];i=0;while i<len(list1): print(list1[i]) i+=1for it ...
分类：
编程语言 时间：
2019-06-06 17:29:50
阅读次数：
86
适合爬虫入门的书籍《Python网络数据采集》，采用简洁强大的Python语言，介绍了网络数据采集，并为采集新式网络中的各种数据类型提供了全面的指导。第一部分重点介绍网络数据采集的基本原理：如何用Python从网络服务器请求信息，如何对服务器的响应进行基本处理，以及如何以自动化手段与网站进行交互。第 ...
分类：
编程语言 时间：
2019-06-05 11:24:12
阅读次数：
115
