标签：des style blog http color java 使用 os
【背景】
在上一篇博文 java爬取网页内容 简单例子（1）——使用正则表达式 里面，介绍了如何使用正则表达式去解析网页的内容，虽然该正则表达式比较通用，但繁琐，代码量多，现实中想要想出一条简单的正则表达式 对于没有很好正则表达式基础的人——比如说我T_T——是一件蛮困难的事。这一篇，我们改用jsoup，一个强大的解析html工具，去解析html，你会发现，一切都变得很容易。
【准备工作】
【先看效果】
目标网站：中国天气
目的：获取今天的天气
目标HTML代码：
<li class="dn on" data-dn="7d1"> <h1>今天</h1> <h2>8日</h2> <big class="jpg50 d04"></big> <big class="jpg50 n04"></big> <p class="wea" title="雷阵雨">雷阵雨</p> <p class="tem tem1"> <span>33</span><i>°C</i> </p> <p class="tem tem2"> <span>25</span><i>°C</i> </p> <p class="win"> <em> <span title="无持续风向" class=""></span> <span title="无持续风向" class=""></span> </em> <i>微风</i> </p> <div class="slid"></div> </li>
解析的java代码：
（1）审查网页元素后发现，我们要的内容在上面的目标HTML代码中，在整个网页中是在 class="dn on" data-dn="7d1" 的<li>中
（2）“今天” 两字在<h1></h1>中
（3）“8日” 两字在<h2></h2>中
（4）“雷阵雨” 三字在 class="wea" 中
（5）“33” 在第一个<span>中
（6）“25” 在第二个<span>中
（7）“微风” 两字在 第三个<i> 中
有了上面的分析，要获取到这些天气内容就易如反掌了。如下java代码：
1 package com.zjm.www.test; 2 3 import java.io.IOException; 4 5 import org.jsoup.Jsoup; 6 import org.jsoup.nodes.Document; 7 import org.jsoup.select.Elements; 8 9 public class TestJsoup { 10 11 public Document getDocument (String url){ 12 try { 13 return Jsoup.connect(url).get(); 14 } catch (IOException e) { 15 e.printStackTrace(); 16 } 17 return null; 18 } 19 20 public static void main(String[] args) { 21 TestJsoup t = new TestJsoup(); 22 Document doc = t.getDocument("http://www.weather.com.cn/html/weather/101280101.shtml"); 23 // 获取目标HTML代码 24 Elements elements1 = doc.select("[class=dn on][data-dn=7d1]"); 25 // 今天 26 Elements elements2 = elements1.select("h1"); 27 String today = elements2.get(0).text(); 28 System.out.println(today); 29 // 几号 30 Elements elements3 = elements1.select("h2"); 31 String number = elements3.get(0).text(); 32 System.out.println(number); 33 // 是否有雨 34 Elements elements4 = elements1.select("[class=wea]"); 35 String rain = elements4.get(0).text(); 36 System.out.println(rain); 37 // 高的温度 38 Elements elements5 = elements1.select("span"); 39 String highTemperature = elements5.get(0).text()+"°C"; 40 System.out.println(highTemperature); 41 // 低的温度 42 String lowTemperature = elements5.get(1).text()+"°C"; 43 System.out.println(lowTemperature); 44 // 风力 45 Elements elements6 = elements1.select("i"); 46 String wind = elements6.get(2).text(); 47 System.out.println(wind); 48 } 49 }
结果打印出：
1 今天 2 8日 3 雷阵雨 4 33°C 5 25°C 6 微风
【详解】
附:
java代码第13行：
从文档中我们可用看出，获取数据源的方法有三：
（1）从一段html代码字符串获取： Document doc = Jsoup.parse(html);
（2）从一个url获取： Document doc = Jsoup.connect("http://example.com/").get();
（3）从一个html文件获取 File input = new File("/tmp/input.html"); Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/");
这里，我们采取了第二种方法，从url中获取。
java代码第24、26、30、34、38行：
Document 继承自 Element 类， 而Element类有一个很好的方法，叫select ， 这个选择器几乎无所不能。快速从一堆html代码中获取我们想要的一段，我觉得使用select最方便。下面我们来看怎么使用select方法来查找。
注：以下表格的结果都是使用以下语句打印出来的
for(Element e : elements) { System.out.println(e.text()); }
| select详解 | |||
| 描述 | 测试的HTML代码 | select写法 |
结果 |
|
通过 标签名 来查找 |
<span>33</span> <span>25</span>
|
Elements elements = doc.select("span");
|
33 25
|
|
通过 id 来查找 |
<span id=\"mySpan\">36</span> <span>20</span>
|
Elements elements = doc.select("#mySpan");
注：通过id来查找，使用方法跟css指定元素一样，用# |
36
|
|
通过 class名 来查找 |
<span class=\"myClass\">36</span>
|
Elements elements = doc.select(".myClass");
注：通过id来查找，使用方法跟css指定元素一样，用 . |
36
|
|
利用标签内 属性名 查找元素 |
<span class=\"class1\" id=\"id1\">36</span>
|
Elements elements = doc.select("span[class=class1]span[id=id1]");
注：规则为 标签名【属性名=属性值】，标签名可写可不写，多个属性即多个【】，如上。 |
36
|
|
利用标签内 属性名前缀 查找元素 |
<span class=\"class1\" >36</span> <span class=\"class2\" >22</span>
|
Elements elements = doc.select("span[^cl]");
注：规则为 标签名【^属性名前缀】，标签名可写可不写，多个属性即多个【】。 |
36 22
|
|
利用标签内 属性名+正则表达式 查找元素 |
<span class=\"ABC\" >36</span> <span class=\"ADE\" >22</span>
|
Elements elements = doc.select("span[class~=^AB]");
注：规则为 标签名【属性名~=正则表达式】，以上的正则表达式的意思是查找以class值以AB为开头的标签，标签名可写可不写，多个属性即多个【】 |
36
|
|
利用标签 文本包含某些内容 来查找 |
<span>36</span> <span>22</span>
|
Elements elements = doc.select("span:contains(3)");
注：规则为 标签名:contains(文本值) |
36
|
|
利用标签 文本包含某些内容+正则表达式 来查找 |
<span>36</span> <span>22</span>
|
Elements elements = doc.select("span:matchesOwn(^3)");
注：规则为 标签名:matchesOwn(正则表达式)，以上的正则表式的意思是以文本值以3为开头的标签 |
36
|
关于select，还有一些其他的查找方法，以上只列出个人觉得比较好用、常用的语法。
select方法返回的是一个Elements 对象，里面包含着找到的所有节点。遍历Elements ，通过get（index），就可以拿出具体的 节点了。通过节点的text()方法，就可用拿出文本值。
而想得到节点的其他属性，可以看API的介绍。
【结语】
jsoup还有其他强大的功能，在此只介绍其在获取网页特定内容的写法。希望对刚接触jsoup的人有帮助。
如果本文有哪里写得不好或写错，欢迎各位提出来，感激不尽~
java爬取网页内容 简单例子（2）——附jsoup的select用法详解,布布扣,bubuko.com
java爬取网页内容 简单例子（2）——附jsoup的select用法详解
标签：des style blog http color java 使用 os
原文地址：http://www.cnblogs.com/xiaoMzjm/p/3899366.html
