PHP爬取糗事百科首页糗事

标签：php   糗事百科   数据库   mysql   sae   

突然想获取一些网上的数据来玩玩，因为有SAE的MySql数据库，让它在那呆着没有什么卵用！于是就开始用PHP编写一个爬取糗事百科首页糗事的小程序，数据都保存在MySql中，岂不是很好玩！

说干就干！首先确定思路

获取HTML源码--->解析HTML--->保存到数据库

没有什么难的

1、创建PHP文件“getDataToDB.php”，

2、获取指定URL的HTML源码

这里我用的是curl函数，详细内容参见PHP手册

代码为

<span style="font-family:Times New Roman;font-size:14px;">// 获取对应链接的HTMLCODE
function GetHtmlCode($url) {
	$ch = curl_init (); // 初始化一个cur对象
	curl_setopt ( $ch, CURLOPT_URL, $url ); // 设置需要抓取的网页
	curl_setopt ( $ch, CURLOPT_RETURNTRANSFER, 1 ); // 设置crul参数，要求结果保存到字符串中还是输出到屏幕上
	curl_setopt ( $ch, CURLOPT_CONNECTTIMEOUT, 1000 ); // 设置链接延迟
	$HtmlCode = curl_exec ( $ch ); // 运行curl，请求网页
	return $HtmlCode;
}</span>

这里我没有能力使用正则表达式，就在网上海搜，终于找到这个，就像Java使用Jsoup（使用Jsoup解析滁州学院官网获取新闻列表）一样，具体参见BLOG

代码如下

<span style="font-family:Times New Roman;font-size:14px;">function getFmlDataToDB() {
	$link = mysql_connect ( SAE_MYSQL_HOST_M . ':' . SAE_MYSQL_PORT, SAE_MYSQL_USER, SAE_MYSQL_PASS );
	// 获取源码
	$html = str_get_html ( GetHtmlCode ( "http://www.qiushibaike.com/" ) );
	
	if ($link) {
		mysql_select_db ( SAE_MYSQL_DB, $link );
		mysql_query ( 'set names utf8' );
		// class="article block untagged mb15"
		foreach ( $html->find ( 'div[class=article block untagged mb15]' ) as $per ) {
			
			$z = null;
			$t = null;
			$w = null;
			$d = null;
			$p = null;
			$ds = null;
			$ps = null;
			
			// //作者
			$author = $per->find ( 'div[class=author]' );
			if ($author != null) {
				$a = $author [0]->find ( 'a' );
				$z = $a [1]->innertext;
			} else {
				$z = 'no author';
			}
			
			// 头像链接
			
			if ($author != null) {
				$icon = $author [0]->find ( 'a' );
				$t = $icon [0]->src->innertext;
			} else {
				$t = '...............';
			}
			
			// 文章内容
			$content = $per->find ( 'div[class=content]' );
			$w = $content [0]->innertext;
			
			// 点赞数
			$vote1 = $per->find ( 'div[class=stats]' );
			$vote2 = $vote1 [0]->find ( 'span[class=stats-vote]' );
			$vote3 = $vote2 [0]->find ( 'i[class=number]' );
			
			$d = $vote3 [0]->innertext;
			// 评论数
			$comments1 = $vote1 [0]->find ( 'span[class=stats-comments]' );
			$comments2 = $comments1 [0]->find ( 'a[class=qiushi_comments]' );
			$comments3 = $comments2 [0]->find ( 'i[class=number]' );
			$p = $comments3 [0]->innertext;
			// 顶 数
			$up_down = $per->find ( 'div[class=stats-buttons bar clearfix]' );
			
			$up_down1 = $up_down [0]->find ( 'ul' );
			$li = $up_down1 [0]->find ( 'li' );
			$up = $li [0]->find ( 'span[class=number hidden]' );
			$ds = $up [0]->innertext;
			// 拍 数
			$down = $li [1]->find ( 'span[class=number hidden]' );
			$ps = $down [0]->innertext;

		}
	} else {
		echo '数据库链接KO';
	}
}</span>

4、创建数据库，将数据插入到数据库中

这里我使用的SAE中的MySQL，具体的连接方发参见使用PHP连接SAE中的MySql数据库

需要注意的就是编码格式，区要在执行语句前加上这样一句话

<span style="font-family:Microsoft YaHei;font-size:14px;">mysql_query ( 'set names utf8' );</span>

<span style="font-family:Microsoft YaHei;font-size:14px;">			$sql = "INSERT INTO `app_bmhjqs`.`db_fml` (`id`, `author`, `icon_url`, `content`, `vote`, `comments`, `up`, `down`) VALUES (NULL, '$z', '$t', '$w', '$d', '$p', '$ds', '$ps');";
			// 解决乱码
			mysql_query ( 'set names utf8' );
			$result = mysql_query ( $sql );</span>

<span style="font-family:Times New Roman;font-size:14px;">// 定时器
// ignore_user_abort (); // run script. in background
// set_time_limit ( 0 ); // run script. forever
// $interval = 30; // do every 15 minutes..

// do {
// 	echo date ( 'Y-m-d H:i:s', time () );
// 	echo '写入数据库';
// 	//getFmlDataToDB ();
	
// } while ( true );</span>

今天早上，我迫不及待的打开电脑，打开SAE数据库，情况如下：

额滴神！受不鸟了，赶紧把定时器关掉了，写了个按钮触发事件！这样下去，数据库会被挤满的！

好了,PHP爬取糗事百科首页糗事就此完成

如果你感觉这篇Blog对你有所帮助，就点个赞吧！

PHP爬取糗事百科首页糗事

标签：php   糗事百科   数据库   mysql   sae   

原文地址：http://blog.csdn.net/qqhjqs/article/details/45826341