参照着网上的爬虫案例(点我),先做了一个demo,基本的爬虫项目创建,以及数据抽取,数据分析,数据保存等等过程基本上有所掌握。
我的需求是需要检索指定的百度贴吧,根据指定的关键字库,搜索出含有关键字的链接,并抽取出来,用于后续告警。 因此,基于需求,分如下步骤:
第一:基于Scrapy创建爬虫项目;...
分类:
编程语言 时间:
2014-04-28 17:37:30
阅读次数:
707
想写个自动定会议室的程序。1、会议系统登录后,存在session,提交会议室的订单通过httpwatch拼接后获得链接地址,直接访问链接及可以了2、如果没有提前登录,就无法提交链接了。使用python+PAMIE实现了了自动登录的过程(登录的链接一直拼接不出来。。)下面说说这个研究过程。。1、一开始...
分类:
编程语言 时间:
2014-04-28 16:04:47
阅读次数:
848
什么是后缀数组?后缀数组是一种解决字符串问题的有力工具。相比于后缀树,它更易于实现且占用内存更少。在实际应用中,后缀数组经常用于解决字符串有关的复杂问题。先介绍几个后缀数组中的基本定义:子串:字符串S
的子串r[i..j],i≤j,表示r 串中从i 到j 这一段,也就是顺次排列r[i],r[i+1]...
分类:
其他好文 时间:
2014-04-28 15:54:52
阅读次数:
564
这个天气预报采集是从中国天气网提取广东省内主要城市的天气并回显。本来是打算采集腾讯天气的,但是貌似它的数据是用js写上去还是什么的,得到的html文本中不包含数据,所以就算了爬虫简单说来包括两个步骤:获得网页文本、过滤得到数据。
1、获得html文本。 python在获取html方面十分方便,寥.....
分类:
编程语言 时间:
2014-04-28 15:31:09
阅读次数:
712
“答案正确”是自动判题系统给出的最令人欢喜的回复。本题属于PAT的“答案正确”大派送 ——
只要读入的字符串满足下列条件,系统就输出“答案正确”,否则输出“答案错误”。得到“答案正确”的条件是:1. 字符串中必须仅有P, A,
T这三种字符,不可以包含其它字符;2. 任意形如 xPATx 的字符串都...
分类:
其他好文 时间:
2014-04-28 14:55:50
阅读次数:
739
sudo apt-get install
python-software-propertiessudo apt-add-repository ppa:brightbox/ruby-ngsudo
apt-get updatesudo apt-get install ruby2.1ruby2.1 -vr...
分类:
其他好文 时间:
2014-04-28 14:18:29
阅读次数:
445
在PHP中.表示的字符串和字符串相连接起来的strlen()表示的是计算字符串的长度的eg:$varnamber1="我不知道自己该做些什么";echo
$varstrlen;strpos() 函数用于在字符串内检索一段字符串或一个字符。$names = array("Peter","Quagmir...
分类:
其他好文 时间:
2014-04-28 13:09:22
阅读次数:
499
IOS 通过ip地址获取当前城市的编号 //解析网址通过ip 获取城市天气代码 NSURL *url
= [NSURL URLWithString:@"http://61.4.185.48:81/g/"]; // 定义一个NSError对象,用于捕获错误信息
NSError *error; NSS....
分类:
移动开发 时间:
2014-04-28 02:36:49
阅读次数:
832
在java中有很多运算符.不同的运算符可以实现不同的功能.不同运算符在计算时的优先级别由高到低:以后只列出我们所常用
的:增量减量——乘除取模——加减字符串连接——比较——相等——与或条件——三目——赋值——扩展赋值;增量运算符:c=++a表示先计算a+1,然后赋值结果给c;c=a++,表示先把a的...
分类:
其他好文 时间:
2014-04-28 02:19:03
阅读次数:
365
Given two binary strings, return their sum
(also a binary string).For example,a ="11"b
="1"Return"100".给定两个二进制的字符串,返回他们的和。对于a,b两个二进制字符串,首先通过交换使a的长度小于b...
分类:
其他好文 时间:
2014-04-28 02:05:20
阅读次数:
502