【背景】
在上一篇博文 java爬取网页内容 简单例子(1)——使用正则表达式 里面,介绍了如何使用正则表达式去解析网页的内容,虽然该正则表达式比较通用,但繁琐,代码量多,现实中想要想出一条简单的正则表达式 对于没有很好正则表达式基础的人——比如说我T_T——是一件蛮困难的事。这一篇,我们改用jsoup,一个强大的解析html工具,去解析html,你会发现,一切都变得很容易。
【准备工作】
下载:jsoup-1.6.1.jar
【先看效果】
目标网站:中国天气
目的:获取今天的天气
目标HTML代码:
<li class="dn on" data-dn="7d1">
<h1>今天</h1>
<h2>8日</h2>
<big class="jpg50 d04"></big>
<big class="jpg50 n04"></big>
<p class="wea" title="雷阵雨">雷阵雨</p>
<p class="tem tem1"> <span>33</span><i>°C</i> </p>
<p class="tem tem2"> <span>25</span><i>°C</i> </p>
<p class="win">
<em>
<span title="无持续风向" class=""></span>
<span title="无持续风向" class=""></span>
</em>
<i>微风</i>
</p>
<div class="slid"></div>
</li>
View Code
解析的java代码:
(1)审查网页元素后发现,我们要的内容在上面的目标HTML代码中,在整个网页中是在 class="dn on" data-dn="7d1" 的<li>中
(2)“今天” 两字在<h1></h1>中
(3)“8日” 两字在<h2></h2>中
(4)“雷阵雨” 三字在 class="wea"
(5)“33” 在第一个<span>中
(6)“25” 在第二个<span>中
(7)“微风” 两字在 第三个<i>
有了上面的分析,要获取到这些天气内容就易如反掌了。如下java代码:
1 package com.zjm.www.test;
2
3 import java.io.IOException;
4
5 import org.jsoup.Jsoup;
6 import org.jsoup.nodes.Document;
7 import org.jsoup.select.Elements;
8
9 public class TestJsoup {
10
11 public Document getDocument (String url){
12 try {
13 return Jsoup.connect(url).get();
14 } catch (IOException e) {
15 e.printStackTrace();
16 }
17 return null;
18 }
19
20 public static void main(String[] args) {
21 TestJsoup t = new TestJsoup();
22 Document doc = t.getDocument("http://www.weather.com.cn/html/weather/101280101.shtml");
23 // 获取目标HTML代码
24 Elements elements1 = doc.select("[class=dn on][data-dn=7d1]");
25 // 今天
26 Elements elements2 = elements1.select("h1");
27 String today = elements2.get(0).text();
28 System.out.println(today);
29 // 几号
30 Elements elements3 = elements1.select("h2");
31 String number = elements3.get(0).text();
32 System.out.println(number);
33 // 是否有雨
34 Elements elements4 = elements1.select("[class=wea]");
35 String rain = elements4.get(0).text();
36 System.out.println(rain);
37 // 高的温度
38 Elements elements5 = elements1.select("span");
39 String highTemperature = elements5.get(0).text()+"°C";
40 System.out.println(highTemperature);
41 // 低的温度
42 String lowTemperature = elements5.get(1).text()+"°C";
43 System.out.println(lowTemperature);
44 // 风力
45 Elements elements6 = elements1.select("i");
46 String wind = elements6.get(2).text();
47 System.out.println(wind);
48 }
49 }
View Code
结果打印出:
1 今天
2 8日
3 雷阵雨
4 33°C
5 25°C
6 微风
【详解】
附:
- jsoup的官方中文文档为:http://www.open-open.com/
- API为:http://jsoup.org/apidocs/
java代码第13行:
三:
(1)从一段html代码字符串获取: Document doc = Jsoup.parse(html);
(2)从一个url获取: Document doc = Jsoup.connect("http://example.com/").get();
(3)从一个html文件获取 File input = new File("/tmp/input.html");
Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/");
这里,我们采取了第二种方法,从url中获取。
java代码第24、26、30、34、38行:
Document 继承自 Element 类, 而Element类有一个很好的方法,叫select , 这个选择器几乎无所不能。快速从一堆html代码中获取我们想要的一段,我觉得使用select最方便。下面我们来看怎么使用select方法来查找。
注:以下表格的结果都是使用以下语句打印出来的
for(Element e : elements) {
System.out.println(e.text());
}
select详解 | |||
描述 | 测试的HTML代码 | select写法 | 结果 |
通过 标签名 来查找 |
|
注:通过标签来查找,直接写 "标签名" 就好,不需要尖括号。 | 3325
|
通过 id 来查找 |
|
注:通过id来查找,使用方法跟css指定元素一样,用# | 36
|
通过 class名 来查找 |
|
注:通过id来查找,使用方法跟css指定元素一样,用 . | 36
|
利用标签内 属性名 查找元素 |
|
注:规则为 标签名【属性名=属性值】,标签名可写可不写,多个属性即多个【】,如上。 | 36
|
利用标签内 属性名前缀 查找元素 |
|
注:规则为 标签名【^属性名前缀】,标签名可写可不写,多个属性即多个【】。 | 3622
|
利用标签内 属性名+正则表达式 查找元素 |
|
注:规则为 标签名【属性名~=正则表达式】,以上的正则表达式的意思是查找以class值以AB为开头的标签,标签名可写可不写,多个属性即多个【】 | 36
|
利用标签 文本包含某些内容 来查找 |
|
注:规则为 标签名:contains(文本值) | 36
|
利用标签 文本包含某些内容+正则表达式 来查找 |
|
注:规则为 标签名:matchesOwn(正则表达式),以上的正则表式的意思是以文本值以3为开头的标签 | 36
|
关于select,还有一些其他的查找方法,以上只列出个人觉得比较好用、常用的语法。
select方法返回的是一个Elements 对象,里面包含着找到的所有节点。遍历Elements ,通过get(index),就可以拿出具体的 节点了。通过节点的text()方法,就可用拿出文本值。
而想得到节点的其他属性,可以看API的介绍。
【结语】
jsoup还有其他强大的功能,在此只介绍其在获取网页特定内容的写法。希望对刚接触jsoup的人有帮助。
如果本文有哪里写得不好或写错,欢迎各位提出来,感激不尽~