码迷,mamicode.com
首页 > 编程语言 > 详细

python爬虫-基础入门-爬取整个网站《1》

时间:2018-11-04 12:36:23      阅读:192      评论:0      收藏:0      [点我收藏+]

标签:页面   截图   main   技术分享   request   lan   www   name   logs   

python爬虫-基础入门-爬取整个网站《1》

描述:

  使用环境:python2.7.15 ,开发工具:pycharm,现爬取一个网站页面(http://www.baidu.com)所有数据。

python代码如下:

 1 # -*- coding:  utf-8 -*-
 2 
 3 import urllib2
 4 
 5 def baiduNet() :
 6 
 7     request = urllib2.Request("http://www.baidu.com")
 8     response = urllib2.urlopen(request)
 9     netcontext = response.read()
10 
11     file = open("baidutext.txt","w")
12     file.write(netcontext)
13 
14 
15 if __name__ == "__main__" :
16     baiduNet()

 

执行后baidutext.txt数据,部分截图如下:

技术分享图片

 

打开浏览器,访问百度,鼠标右键页面,查看源代码,如下:

技术分享图片

 

使用代码爬取到的页面数据和源网站页面数据是一样的,爬取网页成功。

 

如有问题,欢迎纠正!!!

如有转载,请标明源处:https://www.cnblogs.com/Charles-Yuan/p/9903221.html

 

python爬虫-基础入门-爬取整个网站《1》

标签:页面   截图   main   技术分享   request   lan   www   name   logs   

原文地址:https://www.cnblogs.com/Charles-Yuan/p/9903221.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!