最近再学习爬虫抓取网站技术,但是遇到了一点小瓶颈,就是在进行爬虫的时候需要一些正则表达式来进行模糊匹配,而对于只接触过一点一点正则表达式的人肯定是不行的,所以花了一个下午上机课的时间学习,整理了下正则表达式的用法。

正则表达式

提问:
为什么会用正则表达式(正则表达式的优点)?
典型的搜索和替换操作要求您提供与预期的搜索结果匹配的确切文本。虽然这种技术对于对静态文本执行简单搜索和替换任务可能已经足够了,但它缺乏灵活性,若采用这种方法搜索动态文本,即使不是不可能,至少也会变得很困难。

通过使用正则表达式,可以:
①测试字符串内的模式。
例如,可以测试输入字符串,以查看字符串内是否出现电话号码模式或信用卡号码模式。这称为数据验证。
②替换文本。
可以使用正则表达式来识别文档中的特定文本,完全删除该文本或者用其他文本替换它。
③替换文本。
可以使用正则表达式来识别文档中的特定文本,完全删除该文本或者用其他文本替换它。

正则表达式用到的主要包括下面三个java.util.regex 包里面的类:

Pattern 类:
pattern 对象是一个正则表达式的编译表示。Pattern 类没有公共构造方法。要创建一个 Pattern 对象,你必须首先调用其公共静态编译方法,它返回一个 Pattern 对象。该方法接受一个正则表达式作为它的第一个参数。

Matcher 类:
Matcher 对象是对输入字符串进行解释和匹配操作的引擎。与Pattern 类一样,Matcher 也没有公共构造方法。你需要调用 Pattern 对象的 matcher 方法来获得一个 Matcher 对象。

PatternSyntaxException:
PatternSyntaxException 是一个非强制异常类,它表示一个正则表达式模式中的语法错误。

下面进入代码的演练分析:

添加测试类进行测试
	public class test2 {
	public static void main(String[] args) {
		String s = "abc123def";//需要匹配的字符串
		testOne(s);
	}

	private static void testOne(String s){
		String pattern = "abc[0-9]+def$";//需要匹配对应的正则表达式
		System.out.println(s.matches(pattern));、、返回字符串和正则表达式所表达的所否一致,一致的话返回一个true,否则返回一个false
	}
}

1)为匹配输入字符串的开始位置。

[0-9]+匹配多个数字, [0-9] 匹配单个数字,+ 匹配一个或者多个。
abc$匹配字母 abc 并以 abc 结尾,$ 为匹配输入字符串的结束位置。

例如:令String s为:"123abc";
	String pattern为:"^[0-9]+abc$";     //代表匹配以0到9到任意开头(^[0-9])多个字符(+)并以abc结尾($);
	返回值为:true;

2) \s:加在一个字符串后面,表示这个字符串后面可以有多个空格
\d+:表示匹配一个或多个数字;
?:设置问号前面的括号内的内容是可选的;
.:匹配"."
.XXX.:表示匹配包含XXX的字符串

例如:令String s为:"5.1"   "5"   "2.21" 
     令String pattern为"^\\d+(\\.\\d+)?"	//代表匹配以任意多个数字开头(^\\d+)并可选择的加入小数点和数字((\\.\\d+)?)   注意要是有小数点后面就必须有数字
	返回值都为true

3)正则表达式捕获数组操作

捕获组是把多个字符当一个单独单元进行处理的方法,它通过对括号内的字符分组来创建。

	例如,正则表达式 (dog) 创建了单一分组,组里包含"d","o",和"g"。

	捕获组是通过从左至右计算其开括号来编号。例如,在表达式((A)(B(C))),有四个这样的组:

	((A)(B(C)))
	(A)
	(B(C))
	(C)

首先:\d 匹配一个数字字符。等价于 [0-9]。
\D 匹配一个非数字字符。等价于 [^0-9]。

捕获组实例代码:
	import java.util.regex.Matcher;
	import java.util.regex.Pattern;
 
	public class RegexMatches
	{
 	   	public static void main( String args[] ){
 	     // 按指定模式在字符串查找
      		String line = "This order was placed for QT3000! OK?";
      		String pattern = "(\\D*)(\\d+)(.*)"; 
      		// 创建 Pattern 对象
   	   Pattern r = Pattern.compile(pattern);
 		// 现在创建 matcher 对象
   		   Matcher m = r.matcher(line);
   	   if (m.find( )) {
     		System.out.println(m.group(0) );
      	 	  System.out.println(m.group(1) );
      	 	  System.out.println(m.group(2) );
      		   System.out.println(m.group(3) ); 
     	 } else {
       		  System.out.println("NO MATCH");
     	 }
   		}
	}
根据捕获组的括号规则来运行后输出的结果为:
	This order was placed for QT3000! OK?
	This order was placed for QT
	3000
	! OK?

正则表达式语法表:

在其他语言中,\ 表示:我想要在正则表达式中插入一个普通的(字面上的)反斜杠,请不要给它任何特殊的意义。
在 Java 中,\ 表示:我要插入一个正则表达式的反斜线,所以其后的字符具有特殊的意义。
所以,在其他的语言中(如Perl),一个反斜杠 \ 就足以具有转义的作用,而在 Java 中正则表达式中则需要有两个反斜杠才能被解析为其他语言中的转义作用。也可以简单的理解在 Java 的正则表达式中,两个 \ 代表其他语言中的一个 \,这也就是为什么表示一位数字的正则表达式是 \d,而表示一个普通的反斜杠是 \\。

字符

说明

\

将下一字符标记为特殊字符、文本、反向引用或八进制转义符。例如,“n"匹配字符"n”。"\n"匹配换行符。序列"\\“匹配”\","\(“匹配”("。

^

匹配输入字符串开始的位置。如果设置了 RegExp 对象的 Multiline 属性,^ 还会与"\n"或"\r"之后的位置匹配。

$

匹配输入字符串结尾的位置。如果设置了 RegExp 对象的 Multiline 属性,$ 还会与"\n"或"\r"之前的位置匹配。

*

零次或多次匹配前面的字符或子表达式。例如,zo* 匹配"z"和"zoo"。* 等效于 {0,}。

+

一次或多次匹配前面的字符或子表达式。例如,"zo+"与"zo"和"zoo"匹配,但与"z"不匹配。+ 等效于 {1,}。

?

零次或一次匹配前面的字符或子表达式。例如,"do(es)?“匹配"do"或"does"中的"do”。? 等效于 {0,1}。

{n}

n 是非负整数。正好匹配 n 次。例如,"o{2}"与"Bob"中的"o"不匹配,但与"food"中的两个"o"匹配。

{n,}

n 是非负整数。至少匹配 n 次。例如,"o{2,}“不匹配"Bob"中的"o”,而匹配"foooood"中的所有 o。"o{1,}“等效于"o+”。"o{0,}“等效于"o*”。

{n,m}

m 和 n 是非负整数,其中 n <= m。匹配至少 n 次,至多 m 次。例如,"o{1,3}"匹配"fooooood"中的头三个 o。‘o{0,1}’ 等效于 ‘o?’。注意:您不能将空格插入逗号和数字之间。

[xyz]

字符集。匹配包含的任一字符。例如,"[abc]“匹配"plain"中的"a”。

[^xyz]

反向字符集。匹配未包含的任何字符。例如,"[^abc]“匹配"plain"中"p”,“l”,“i”,“n”。

[a-z]

字符范围。匹配指定范围内的任何字符。例如,"[a-z]"匹配"a"到"z"范围内的任何小写字母。

[^a-z]

反向范围字符。匹配不在指定的范围内的任何字符。例如,"[^a-z]"匹配任何不在"a"到"z"范围内的任何字符。

\b

匹配一个字边界,即字与空格间的位置。例如,“er\b"匹配"never"中的"er”,但不匹配"verb"中的"er"。

\B

非字边界匹配。“er\B"匹配"verb"中的"er”,但不匹配"never"中的"er"。

\cx

匹配 x 指示的控制字符。例如,\cM 匹配 Control-M 或回车符。x 的值必须在 A-Z 或 a-z 之间。如果不是这样,则假定 c 就是"c"字符本身。

\d

数字字符匹配。等效于 [0-9]。

\D

非数字字符匹配。等效于 [^0-9]。

\f

换页符匹配。等效于 \x0c 和 \cL。

\n

换行符匹配。等效于 \x0a 和 \cJ。

\s

匹配任何空白字符,包括空格、制表符、换页符等。与 [ \f\n\r\t\v] 等效。

\S

匹配任何非空白字符。与 [^ \f\n\r\t\v] 等效。

\t

制表符匹配。与 \x09 和 \cI 等效。

\v

垂直制表符匹配。与 \x0b 和 \cK 等效。

\w

匹配任何字类字符,包括下划线。与"[A-Za-z0-9_]"等效。

\W

与任何非单词字符匹配。与"[^A-Za-z0-9_]"等效。

\xn

匹配 n,此处的 n 是一个十六进制转义码。十六进制转义码必须正好是两位数长。例如,"\x41"匹配"A"。"\x041"与"\x04"&"1"等效。允许在正则表达式中使用 ASCII 代码。

\num

匹配 num,此处的 num 是一个正整数。到捕获匹配的反向引用。例如,"(.)\1"匹配两个连续的相同字符。

\nm

标识一个八进制转义码或反向引用。如果 \nm 前面至少有 nm 个捕获子表达式,那么 nm 是反向引用。如果 \nm 前面至少有 n 个捕获,则 n 是反向引用,后面跟有字符 m。如果两种前面的情况都不存在,则 \nm 匹配八进制值 nm,其中 n 和 m 是八进制数字 (0-7)。

\nml

当 n 是八进制数 (0-3),m 和 l 是八进制数 (0-7) 时,匹配八进制转义码 nml。

\un

匹配 n,其中 n 是以四位十六进制数表示的 Unicode 字符。例如,\u00A9 匹配版权符号 (©)。

以下是几个Matcher类的方法的介绍以及代码:
索引方法:

方法

说明

public int start()

返回以前匹配的初始索引。

public int start(int group)

返回在以前的匹配操作期间,由给定组所捕获的子序列的初始索引

public int end()

返回最后匹配字符之后的偏移量。

public int end(int group)

返回在以前的匹配操作期间,由给定组所捕获子序列的最后字符之后的偏移量。

研究方法:

方法

说明

public boolean lookingAt()

尝试将从区域开头开始的输入序列与该模式匹配。

public boolean find()

尝试查找与该模式匹配的输入序列的下一个子序列。

public boolean find(int start)

重置此匹配器,然后尝试查找匹配该模式、从指定索引开始的输入序列的下一个子序列。

public boolean matches()

尝试将整个区域与模式匹配。

替换方法

方法

说明

public Matcher appendReplacement(StringBuffer sb, String replacement)

实现非终端添加和替换步骤。

public StringBuffer appendTail(StringBuffer sb)

实现终端添加和替换步骤。

public String replaceAll(String replacement)

替换模式与给定替换字符串相匹配的输入序列的每个子序列。

public String replaceFirst(String replacement)

替换模式与给定替换字符串匹配的输入序列的第一个子序列。

public static String quoteReplacement(String s)

返回指定字符串的字面替换字符串。这个方法返回一个字符串,就像传递给Matcher类的appendReplacement 方法一个字面字符串一样工作。

start和end方法

package Matcher;

import java.util.regex.Matcher;
import java.util.regex.Pattern;

public class Start和end方法 {
	private static final String REGEX = "\\bcat\\b";
    private static final String INPUT ="cat cat cat cattie cat";
    public static void main( String args[] ){
       Pattern p = Pattern.compile(REGEX);
       Matcher m = p.matcher(INPUT); // 获取 matcher 对象
       int count = 0;
       while(m.find()) {
         count++;
         System.out.println("Match number "+count);
         System.out.println("start(): "+m.start());
         System.out.println("end(): "+m.end());
      }
   }
}

输出信息为:

Match number 1
start(): 0
end(): 3
Match number 2
start(): 4
end(): 7
Match number 3
start(): 8
end(): 11
Match number 4
start(): 19
end(): 22

可以看出start会一直匹配对应属于的字符串,而end匹配的是字符串的结尾位置
Start 方法返回在以前的匹配操作期间,由给定组所捕获的子序列的初始索引,end 方法最后一个匹配字符的索引加 1。
matches和lookingAt方法

import java.util.regex.Matcher;
import java.util.regex.Pattern;

public class matches和lookingAt方法 {
	private static final String REGEX = "foo";
    private static final String INPUT = "fooooooooooooooooo";
    private static final String INPUT2 = "ooooofoooooooooooo";
    private static Pattern pattern;
    private static Matcher matcher;
    private static Matcher matcher2;
 
    public static void main( String args[] ){
       pattern = Pattern.compile(REGEX);
       matcher = pattern.matcher(INPUT);
       matcher2 = pattern.matcher(INPUT2);
 
       System.out.println("Current REGEX is: "+REGEX);
       System.out.println("Current INPUT is: "+INPUT);
       System.out.println("Current INPUT2 is: "+INPUT2);
 
 
       System.out.println("lookingAt(): "+matcher.lookingAt());
       System.out.println("matches(): "+matcher.matches());
       System.out.println("lookingAt(): "+matcher2.lookingAt());
   }
}

以上代码编译后结果如下:

Current REGEX is: foo
Current INPUT is: fooooooooooooooooo
Current INPUT2 is: ooooofoooooooooooo
lookingAt(): true
matches(): false
lookingAt(): false

matchs和lookingAt 方法都用来尝试匹配一个输入序列模式。它们的不同是matches要求整个序列都匹配 ,而lookingAt不要求。
lookingAt 方法虽然不需要整句都匹配,但是需要从第一个字符开始匹配。
这两个方法经常在输入字符串的开始使用。

import java.util.regex.Matcher;
import java.util.regex.Pattern;

public class matches和lookingAt方法 {
	private static final String REGEX = "foo";
    private static final String INPUT = "fooooooooooooooooo";
    private static final String INPUT2 = "ooooofoooooooooooo";
    private static Pattern pattern;
    private static Matcher matcher;
    private static Matcher matcher2;
 
    public static void main( String args[] ){
       pattern = Pattern.compile(REGEX);//使用foo来匹配下面的字符串
       matcher = pattern.matcher(INPUT);
       matcher2 = pattern.matcher(INPUT2);
 
       System.out.println("Current REGEX is: "+REGEX);
       System.out.println("Current INPUT is: "+INPUT);
       System.out.println("Current INPUT2 is: "+INPUT2);
       
       System.out.println("lookingAt(): "+matcher.lookingAt());
       System.out.println("matches(): "+matcher.matches());
       System.out.println("lookingAt(): "+matcher2.lookingAt());
   }
}

replaceFirst 和 replaceAll 方法
replaceFirst 和 replaceAll 方法用来替换匹配正则表达式的文本。不同的是,replaceFirst 替换首次匹配,replaceAll 替换所有匹配。

以下是运用这两个方法的例子

import java.util.regex.Matcher;
import java.util.regex.Pattern;

public class replaceFirst和replaceAll方法 {
	private static String REGEX = "dog";
	private static String INPUT = "The dog says meow. " + "All dogs say meow.";
	private static String REPLACE = "cat";

	public static void main(String[] args) {
		Pattern p = Pattern.compile(REGEX);
		// get a matcher object
		Matcher m = p.matcher(INPUT);
		INPUT = m.replaceAll(REPLACE);
		System.out.println(INPUT);
	}
}

运行结果如下:

The cat says meow. All cats say meow.

appendReplacement 和 appendTail 方法
Matcher 类也提供了appendReplacement 和 appendTail 方法用于文本替换:
以下是运行的代码:

import java.util.regex.Matcher;
import java.util.regex.Pattern;
 
public class RegexMatches
{
   private static String REGEX = "a*b";
   private static String INPUT = "aabfooaabfooabfoobkkk";
   private static String REPLACE = "-";
   public static void main(String[] args) {
      Pattern p = Pattern.compile(REGEX);
      // 获取 matcher 对象
      Matcher m = p.matcher(INPUT);
      StringBuffer sb = new StringBuffer();
      while(m.find()){
         m.appendReplacement(sb,REPLACE);
      }
      m.appendTail(sb);
      System.out.println(sb.toString());
   }
}

运行结果如下:

-foo-foo-foo-kkk