码迷,mamicode.com
首页 > 其他好文 > 详细

爬取糗事百科的图片

时间:2017-06-11 11:28:13      阅读:141      评论:0      收藏:0      [点我收藏+]

标签:str   code   range   window   dir   file   font   bin   5.0   

小编,最近写了个单线程的爬虫,主要是爬取糗事百科的图片之类的,下面是源代码,小伙伴们可以拿去参照,学习


#!/usr/bin/env python

# -*- coding:utf-8 -*-
import requests,json
import requests,re,os,time
import urllib.request
import urllib.parse
import ssl
import unittest
from selenium import webdriver

headers = {"User-Agent" : "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0;"}
os.chdir("meizhu")
def fc(url):

req = urllib.request.Request(url, headers = headers)
html = urllib.request.urlopen(req).read().decode(‘utf-8‘)

r =‘<img src="//(.+?\.jpg)" alt="[\u4e00-\u9fa5]{1,}"/>‘
result = re.compile(r).findall(str(html))

h=(list(result))
print(h)

for img in h:
imgurl ="http://" + img
imaname = str(img.split(‘/‘)[4]+".jpg")
file = urllib.request.urlretrieve(str(imgurl),filename=imaname)

for i in range(1,5):
url = "http://www.qiushibaike.com/pic/page/" + str(i)
fc(url)

爬取糗事百科的图片

标签:str   code   range   window   dir   file   font   bin   5.0   

原文地址:http://www.cnblogs.com/Huangsh2017Come-on/p/6984586.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!