码迷,mamicode.com
首页 > 编程语言 > 详细

python2.7 爬虫初体验爬取新浪国内新闻_20161130

时间:2016-12-01 01:24:21      阅读:240      评论:0      收藏:0      [点我收藏+]

标签:爬取   新闻   数据   log   mysq   mysqld   ica   title   发布   

python2.7 爬虫初学习

模块:BeautifulSoup requests

1、获取新浪国内新闻标题

2、获取新闻url

3、还没想好,想法是把第2步的url 获取到下载网页源代码 再去分析源代码 获取新闻详情页 发表时间 新闻来源等数据 结合MySQLdb模块导入到数据库

4、疑惑:期望是整体获取这些字段 发表时间 发布标题 新闻详情内容 新闻来源 

任重而道远。。都想拜个老师带带了。。

#coding:utf-8
import requests
from bs4 import BeautifulSoup as bs

url=‘http://news.sina.com.cn/china/‘
res=requests.get(url)
res.encoding=‘utf-8‘
html=res.text
soup=bs(html,‘html.parser‘)
title=soup.select(‘.blk12‘)[0].text
print title
t=soup.select(‘.blk12 a‘)
for i in range(len(t)):
    url=t[i][‘href‘]
    print url

  

技术分享

 

python2.7 爬虫初体验爬取新浪国内新闻_20161130

标签:爬取   新闻   数据   log   mysq   mysqld   ica   title   发布   

原文地址:http://www.cnblogs.com/Mr-Cxy/p/6119862.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!