码迷,mamicode.com
首页 > Web开发 > 详细

Jsoup代码示例、解析网页+提取文本

时间:2017-10-07 18:40:39      阅读:203      评论:0      收藏:0      [点我收藏+]

标签:document   mini   soup   html   2.x   use   exe   运行   nod   

使用Jsoup解析HTML

那么我们就必须用到HttpClient先获取到html

同样我们引入HttpClient相关jar包

以及commonIO的jar包

技术分享

 

我们把httpClient的基本代码写上,然后解析网页 得到文档对象

 

我们获取title和制定id的文档对象

技术分享

技术分享

 

代码实例:

package com.zhi.jsoup1;


import org.apache.http.HttpEntity;
import org.apache.http.client.methods.CloseableHttpResponse;
import org.apache.http.client.methods.HttpGet;
import org.apache.http.impl.client.CloseableHttpClient;
import org.apache.http.impl.client.HttpClients;
import org.apache.http.util.EntityUtils;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.select.Elements;

public class Demo {
	public static void main(String[] args) throws Exception {
		CloseableHttpClient httpClient=HttpClients.createDefault(); //1、创建实例
		HttpGet httpGet=new HttpGet("https://home.cnblogs.com/u/mengxinrenyu/"); //2、创建实例
	
		httpGet.setHeader("User-Agent", "Mozilla/5.0 (Windows NT 5.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/38.0.2125.122 Safari/537.36 SE 2.X MetaSr 1.0");
		
		CloseableHttpResponse httpResponse=httpClient.execute(httpGet); //3、执行
		HttpEntity entity=httpResponse.getEntity(); //4、获取实体
		String content=EntityUtils.toString(entity, "utf-8"); //5、获取网页内容
		httpResponse.close();
		httpClient.close();
		
		Document doc=Jsoup.parse(content); // 解析网页 得到文档对象
        Elements elements=doc.getElementsByTag("title"); // 获取tag是title的所有DOM元素
        Element element=elements.get(0); // 获取第1个元素
        String title=element.text(); // 返回元素的文本
        System.out.println("标题:"+title);
        
        element=doc.getElementById("top_left"); // 获取id=top_left的DOM元素
        String menu=element.text(); // 返回元素的文本
        System.out.println("导航:"+menu);
	}
}

  由于网页我是登陆以后的,所以会出现以下错误

技术分享

因为请求的是某个登陆账户下的网页,所以网页会提示登录。从没没有相应id的元素,返回NPE。

 

我们换一个新闻页面试一下

技术分享

技术分享

代码示例:

public class Demo {
	public static void main(String[] args) throws Exception {
		CloseableHttpClient httpClient=HttpClients.createDefault(); //1、创建实例
		HttpGet httpGet=new HttpGet("https://news.cnblogs.com/"); //2、创建实例
	
		httpGet.setHeader("User-Agent", "Mozilla/5.0 (Windows NT 5.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/38.0.2125.122 Safari/537.36 SE 2.X MetaSr 1.0");
		
		CloseableHttpResponse httpResponse=httpClient.execute(httpGet); //3、执行
		HttpEntity entity=httpResponse.getEntity(); //4、获取实体
		String content=EntityUtils.toString(entity, "utf-8"); //5、获取网页内容
		httpResponse.close();
		httpClient.close();
		
		Document doc=Jsoup.parse(content); // 解析网页 得到文档对象
        Elements elements=doc.getElementsByTag("title"); // 获取tag是title的所有DOM元素
        Element element=elements.get(0); // 获取第1个元素
        String title=element.text(); // 返回元素的文本
        System.out.println("标题:"+title);
        
        element=doc.getElementById("top_mini_nav_block"); // 获取id=top_left的DOM元素
        String menu=element.text(); // 返回元素的文本
        System.out.println("导航:"+menu);
	}
}

  运行如图:

技术分享

Jsoup代码示例、解析网页+提取文本

标签:document   mini   soup   html   2.x   use   exe   运行   nod   

原文地址:http://www.cnblogs.com/mengxinrenyu/p/7635248.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!