标签:
工具: python-urllib2 | firefox+firebug或者chrome,用浏览器打开登陆页面之后,按F12键会默认打开开发者工具或者启动firebug,点击network监听数据包,下面以itune的登陆举一个例子。
1. 在浏览器中输入itunes的登陆地址:https://itunesconnect.apple.com/itc/static /login?view=1&path=%2FWebObjects%2FiTunesConnect.woa,同时按F12启动firebug 进行网络监听.
点击“网络” --》 ”全部“ ,可以看到所有加载的页面数据,包括html/图像/css/js等。
点击“html”,全部里边显示的信息太多,可以先只看html,这里边出现的html-url通常是我们需要用urllib2实际请求的页面。
下面是firefox+firebug显示的页面
而这个是chrome的开发者工具显示的页面
不同的工具监测到数据包会有差别,上面两个对比看一下,大概估计实际需要get的url,就只有2个。
2. 我们点开查看其中一个,重点关注一下相应的参数、头信息。(头信息中的Cookie字段和 后面的cookies表单中的内容是一致的)。
头信息又分为请求头信息和响应头信息。urlopen需要提交的头信息可能是请求头信息中的一部分。响应头信息中的字段可能会在访问下一个页面的时候用到。
3. 账号密码的输入通常都会涉及到一个post请求,我们可以输入一个错误的账号、密码试试
(输入正确的用户信息,会导致这个页面跳转,控制台会全部刷新,之前的访问路径就丢了)。
点击进去,可以看到需要提交的参数(账号、密码等)、额外的头文件、cookie等。
所以,itunes的登陆大概分为上面三步:
先 get : https://itunesconnect.apple.com/itc/static/login?view=1&path=%2FWebObjects%2FiTunesConnect.woa
后 get : https://idmsa.apple.com/appleauth/auth/signin?widgetKey=22d448248055bab0dc197c6271d738c3
最后post : https://idmsa.apple.com/appleauth/auth/signin
下面附上上面3步骤对应的python代码,早期的话,这种方式直接就能完成itunes的登陆,也适用于大部分简单的网站。
在 itunes网站升级之后,上面这种方法就不行了,因为itunes添加了新的验证机制,通常是需要爬虫使用额外的header。但难点在于这些 header的构造非常复杂,中间会经过一系列js的运算,这个时候要爬虫去计算出这些header值就变得非常困难。例如itunes升级之后,就需要 提交一个header叫“X-Apple-I-FD-Client-Info”,而这个header我们算不出来。
总结
通过数据包分析进行登录验证的优缺点如下。
优点:执行速度快。
缺点:抓包分析比较费时,有的时候不确定哪些header是必须的,另外有些header算不出来。
在验证分析需要的header取不到的情况下,就可以考虑使用浏览器模拟点击的方式,跳过数据包分析。
标签:
原文地址:http://www.cnblogs.com/timdes/p/5098117.html