主题句:每个编码形式将字符从字符集转换为编码数据。



1 说白了一个代码点就是一个Unicode字符。代码单元就是代码点的集合。
 2 字符视图
 3 要了解字符集标准,您必须能区分三种不同的字符视图: 
 4 
 5 字符集(字符的抽象列表)。 
 6 作为带标量值的“代码点”的字符。 
 7 作为编码数据的字符。 
 8 字符集(字符的抽象列表)
 9 
10 字符集是各种文字(包括拉丁文、西里尔文、中文、朝鲜语、日语、希伯来语和阿拉伯语)中所包含的字符的一个抽象列表,由一百多万个字符组成。字符集还包括其他符号,例如音符。
11 
12 Unicode 和 GB18030 标准都具有字符集。当某个标准添加了新字符时,为了保持对等,另一个标准也将添加这些字符。
13 
14 作为带标量值的“代码点”的字符
15 
16 注意   这第二个字符视图只适用于 Unicode,而不适用于 GB18030。
17 字符集中的每个字符都被分配到一个“代码点”。每个代码点都有一个特定的数值,称为标量值。该标量值通常用十六进制表示。
18 
19 代码点存在于“代码空间”中。代码空间由许多标量值组成,这些值被划分在两个平面中: 
20 
21 基本多语种平面(64k 大小)。 
22 在 Unicode 中,此下平面中的值的十六进制表示位于 U+0000 到 U+FFFF 的范围中。 
23 
24 辅助多语种平面(16 个 64k 大小的附加节)。 
25 在 Unicode 中,此上平面中的值的十六进制表示位于 U+10000 到 U+10FFFF 的范围中。 
26 
27 所有可能的标量值的完整代码空间的大小为 17 * 64k(1,088,000 个可能值)。
28 
29 作为编码数据的字符
30 
31 每个编码形式将字符从字符集转换为编码数据。
32 
33 在 GB18030 中,编码数据直接从字符集派生:标量值(作为字符集和编码数据之间的媒介)的概念只适用于 Unicode。
34 
35 在 Unicode 中,通过向标量值应用某个算法来派生编码数据。
36 
37 Unicode 定义了三种字符编码形式: 
38 
39 UTF-8 
40 UTF-16 
41 UTF-32 
42 代码点和代码单元
43 
44 在每种编码形式中,代码点被映射到一个或多个代码单元。
45 
46 注意   有关代码点的概述,请参见上一节字符视图。
47 “代码单元”是各个编码形式中的单个单元。代码单元的大小等效于特定编码的位数测量单位: 
48 
49 UTF-8 中的代码单元由 8 位组成。 
50 UTF-16 中的代码单元由 16 位组成。 
51 UTF-32 中的代码单元由 32 位组成。 
52 GB18030 中的代码单元由 8 位组成。 
53 每个代码点中的代码单元数
54 
55 映射到代码点所需的代码单元数根据编码形式而有所不同: 
56 
57 UTF-8 
58 在 UTF-8 中,因为代码单元较小的缘故,每个代码点常常被映射到多个代码单元。代码点将被映射到一个、两个、三个或四个代码单元。 
59 
60 UTF-16 
61 UTF-16 的代码单元大小是 8 位代码单元的两倍。所以,标量值小于 U+10000 的代码点被编码到单个代码单元中。 
62 
63 对于标量值大于或等于 U+10000 的代码点,每个代码点需要两个代码单元。在 UTF-16 中,这些代码单元对有一个独特的术语:“Unicode 代理对”。 
64 
65 注意   下面对 Unicode 代理对的支持进行了讨论。
66 UTF-32 
67 UTF-32 中使用的 32 位代码单元足够大,每个代码点都可编码为单个代码单元。 
68 
69 GB18030 
70 在 GB18030 中,因为代码单元较小的缘故,每个代码点常常被映射到多个代码单元。代码点将被映射到一个、两个或四个代码单元。 
71 
72 对 Unicode 代理对的支持
73 
74 某些受 Unicode 支持的文字包含代码点的标量值大于或等于 U+10000 的字符。在 UTF-16 中,通过使用代理对来对这些代码点进行编码。
75 
76 正确处理 Unicode 代理对非常重要。例如,当您在使用 UTF-16 编码的应用程序中处理文本时,如果要添加、删除或选择字符以进行剪切、复制或粘贴操作,文本光标必须将每个代码点作为单个文本字符导航。