有的网站防采集，会在页面加上this.window.location.reload()
分类：
Web程序 时间：
2014-07-10 14:34:18
阅读次数：
310
最简单的爬虫，不需要设定代理服务器，不需要设定cookie，不需要http连接池，使用httpget方法，只是为了获取html代码...好吧，满足这个要求的爬虫应该是最基本的爬虫了。当然这也是做复杂的爬虫的基础。使用的是httpclient4的相关API。不要跟我讲网上好多都是httpclient3...
分类：
编程语言 时间：
2014-07-09 20:49:07
阅读次数：
299
搜索引擎技术之概要预览前言 近些天在学校静心复习功课与梳理思路（找工作的事情暂缓），趁闲暇之际，常看有关搜索引擎相关技术类的文章，接触到不少此前未曾触碰到的诸多概念与技术，如爬虫，网页抓取，分词，索引，查询，排序等等，更惊叹于每一幅精彩的架构图，特此，便有记录下来的冲动，以作备忘。 本文从最主要.....
分类：
其他好文 时间：
2014-07-09 20:04:15
阅读次数：
200
你是否苦恼于网上无法下载的“小说在线阅读”内容？或是某些文章的内容让你很有收藏的冲动，却找不到一个下载的链接？是不是有种自己写个程序把全部搞定的冲动？是不是学了 python，想要找点东西大展拳脚，告诉别人“哥可是很牛逼的！”？那就让我们开始吧！ 哈哈
好吧，我就是最近写 Yii 写多了，想找点东西调剂一下.... = =
本项目以研究为目的，所有版权问题我们都是站在作者的一边，以看盗版小说为目的的读者们请自行面壁！
说了这么多，我们要做的就是把小说正文的内容从网页上爬下来，我们的...
分类：
编程语言 时间：
2014-07-08 19:53:59
阅读次数：
311
写过很多个爬虫小程序了，之前几次主要用C# + Html Agility Pack来完成工作。由于.NET BCL只提供了"底层"的HttpWebRequest和"中层"的WebClient，故对HTTP操作还是需要编写很多代码的。加上编写C#需要使用Visual Studio这个很"重"的工具，开...
分类：
Web程序 时间：
2014-07-06 20:03:05
阅读次数：
346
最近，为了微信公众号的图文，上网疯狂的收集和看了一些有深度的新闻和有趣的引人深思的文字评论，并选择了几篇极品发布出去。但感觉一篇一篇的看实在是麻烦死了。想找一个简单的解决办法，看能不能自动把网上的资料收集起来，然后自己用统一筛选。不巧，最近准备学习下网络爬虫相关知识，于是按照网上的教程自己学着试写了一个小小的爬虫，嘻嘻，是用来爬韩寒博客的。
先把完整的代码贴上来，如果朋友们需要试验下，请...
分类：
编程语言 时间：
2014-07-06 10:11:48
阅读次数：
325
在网上看到不少文章都选用mysqldb作为python连接mysql数据库的工具，但是mysqldb目前支撑的版本较低，安装失败。所以才尝试pymysql,这个比较简单易用...
分类：
数据库 时间：
2014-07-06 08:28:30
阅读次数：
300
#encoding=utf-8
#这是一个易经的启卦程序，在windows下的python3.3下创建‘
#启卦要本着易的四原则，无事不占，不动不占，无疑不占.不能乱占。
#预测原理是，随机生成一组6个红球号码，然后运行易经启卦程序，如果此结果
#为上上卦，那么这组号码就被打印出来，如果不是遇继续..
分类：
编程语言 时间：
2014-07-04 06:49:48
阅读次数：
243
#encoding=utf-8
#这是一个易经的启卦程序，在windows下的python3.3下创建‘
#启卦要本着易的四原则，无事不占，不动不占，无疑不占.不能乱占。
importrandom
banyao=range(1,385)
#获取1到384的随机数。
fz=[]
#爻的阴阳列表
fx=[]
#爻符列表
fy=["初","二","三","四","五","..
分类：
编程语言 时间：
2014-07-04 06:42:35
阅读次数：
500
