UTF-8(8-bit Unicode Transformation Format)是一种针对Unicode的可变长度字符编码,又称万国码。由Ken Thompson于1992年创建。现在已经标准化为RFC 3629。UTF-8用1到4个字节编码Unicode字符。用在网页上可以同一页面显示中文简体繁体及其它语言(如英文,日文,韩文)。

字符集:

如果UNICODE 字符由2个 字节表示,则编码成UTF-8很可能需要3个字节。而如果UNICODE字符由4个字节表示,则编码成UTF-8可能需要6个字节。用4个或6个字节去编码一个UNICODE字符可能太多了,但很少会遇到那样的UNICODE字符。 UTF-8转换表表示如下:

Unicode/UCS-4

bit数

UTF-8

byte数

备注

0000 ~



007F

0~7

0XXX XXXX

1

 

0080 ~



07FF

8~11

110X XXXX



10XX XXXX

2

 

0800 ~



FFFF

12~16

1110XXXX



10XX XXXX



10XX XXXX

3

基本定义范围:0~FFFF

1 0000 ~



1F FFFF

17~21

1111 0XXX



10XX XXXX



10XX XXXX



10XX XXXX

4

Unicode6.1定义范围:0~10 FFFF

20 0000 ~



3FF FFFF

22~26

1111 10XX



10XX XXXX



10XX XXXX



10XX XXXX



10XX XXXX

5

说明:此非unicode编码范围,属于UCS-4 编码



早期的规范UTF-8可以到达6字节序列,可以覆盖到31位元(通用字符集原来的极限)。尽管如此,2003年11月UTF-8 被 RFC 3629 重新规范,只能使用原来Unicode定义的区域, U+0000到U+10FFFF。根据规范,这些字节值将无法出现在合法 UTF-8序列中

400 0000 ~



7FFF FFFF

27~31

1111 110X



10XX XXXX



10XX XXXX



10XX XXXX



10XX XXXX



10XX XXXX

6

实际表示ASCII 字符的UNICODE字符,将会编码成1个 字节,并且UTF-8表示与ASCII字符表示是一样的。所有其他的UNICODE字符转化成UTF-8将需要至少2个字节。每个字节由一个 换码序列开始。第一个字节由唯一的换码序列,由n位连续的1加一位0组成, 首字节连续的1的个数表示 字符编码所需的字节数。

Unicode转换为UTF-8时,可以将Unicode二进制从低位往高位取出二进制数字,每次取6位,如上述的二进制就可以分别取出为如下示例所示的格式,前面按格式填补,不足8位用0填补。

注:Unicode转换为UTF-8需要的字节数可以根据这个规则计算:如果Unicode小于0X80(Ascii字符),则转换后为1个字节。否则转换后的字节数为Unicode二进制位数减1再除以5。

示例

UNICODE uCA(1100 1010) 编码成UTF-8将需要2个 字节:

uCA -> C3 8A, 过程如下:

uCA(1100 1010)处于0080 ~07FF之间,从上文中的转换表可知对其编码需要2bytes,即两个字节,其对 应 UTF-8格式为: 110X XXXX10XX XXXX。从此格式中可以看到,对其编码还需要11位,而uCA(1100 1010)仅有8位,这时需要在其二进制数前补0凑成11位: 000 1100 1010, 依次填入110X XXXX 10XX XXXX的空位中, 即得 1100 0011 1000 1010(C38A)。

同理,UNICODE uF03F (1111 0000 0011 1111) 编码成UTF-8将需要3个字节:

u F03F -> EF 80 BF,对应格式为:1110XXXX10XX XXXX10XX XXXX,编码还需要16位,将1111 0000 0011 1111(F03F)依次填入,可得 1110 1111 1000 0000 1011 1111(EF 80 BF)。

Unicode 16进制

Unicode 2进制

bit数

UTF-8 2进制

UTF-8 16进制

CA

1100 1010

8

1100 0011 1000 1010

C3 8A

F0 3F

11110000 0011 1111

16

11101111 1000 0000 1011 1111

EF 80 BF