一、文件编码
Unicode 是首选编码。Unicode 是全球范围的字符编码标准。
小结: GBK 与unicode之间的转换是通过gbk unicode映射表。
UTF-8 与unicode之间的转换是通过转换规则公式
所以说,unicode是核心中介。Gbk要转换成utf-8的话,先转成unicode。然后unicode再转换成utf-8;反之亦然。
二、XML编码问题
★ 编码属性应当被指定为文档被保存时所使用的编码
★ encoding声明的编码属性
★ W3C定义了三条XML解析器如何正确读取XML文件的编码的规则:
1.如果文挡有BOM(字节顺序标记,一般来说,如果保存为unicode格式,则包含BOM,ANSI则无),
就定义了文件编码(另存为文件时,选择的编码格式)。
2.如果没有BOM,就查看XML encoding声明的编码属性。
3.如果上述两个都没有,就假定XML文挡采用UTF-8编码
★ Eclipse等编辑器会根据XML encoding声明的编码属性来保存文件。
★移除无效的XML字符
/** * 移除无效的XML字符
* 官方定义了XML的无效字符分为三段: 0x00 - 0x08 0x0b - 0x0c 0x0e - 0x1f
* @param value
* @return */
public static String removeInvalidXMLCharacter(String value) {
return value.replaceAll("[\\x00-\\x08\\x0b-\\x0c\\x0e-\\x1f]", "");
}
三、String编码问题
★ 对于 String s = "你好哦!";的理解。
1、如果源码文件是GBK编码, 操作系统(windows)默认的环境编码为GBK,那么编译时, JVM将 按照GBK编码将字节数组解析成字符,然后将字符转换为unicode格式的字节数组,作为内部存储。
如果源码文件是UTF-8编码, 我们需要通知编译器源码的格式,javac -encoding utf-8 ... , 编译时,JVM按照utf-8 解析成字符,然后转换为unicode格式的字节数组,
那么不论源码文件是什么格式,同样的字符串,最后得到的unicode字节数组是完全一致的,显示的时候,也是转成GBK来显示(跟OS环境有关)
2、System.out.println( new String(s.getBytes(),"UTF-8")); // 错误,因为getBytes()默认使用GBK编码, 而解析时使用UTF-8编码,肯定出错。
★如何正确的将GBK转UTF-8 ? (实际上是unicode转UTF-8)
注意:并不算new String( s.getBytes("GBK") , "UTF-8); //源码文件是GBK格式,或者这个字符串是从GBK文件中读取出来的, 转换为string 变成unicode格式
//字符串在内存中是unicode格式
String gbkStr = "你好哦!";
//利用getBytes将unicode字符串转成UTF-8格式的字节数组
byte[] utf8Bytes = gbkStr.getBytes("UTF-8");
//然后用utf-8 对这个字节数组解码成新的字符串
String utf8Str = new String(utf8Bytes, "UTF-8");
即:new String( s.getBytes("utf-8") , "utf-8");
★new String(s.getBytes("iso-8859-1") ,"GBK")
一般用来转换原来是GBK编码的,被转换成了iso-8859-1,现在恢复回GBK。
注意:并不是所有转换都是可逆的,iso-8859-1的字节数组是单字节的,所以能转换。
★读写时,可以指定编码
四、JAVA编码问题
★文件加载
java文件编码格式:默认与操作系统一致,但可修改。
编译成Class文件:class文件的编码固定为UTF-8
load class文件到JVM :Unicode
内存:Unicode
理解:不管文件的编码格式是什么,加载到JVM都是一样的。
★网络传输都是以字节为单位,所以所有的数据都必须能够被序列化为字节。在 Java 中数据被序列化必须继承 Serializable 接口。
★从网络中读取资源文件的时候,无论当前java文件编码为何值,得到的一个个字节只与读取的资源文件保存的编码有关。
★对于读取网络资源乱码问题,如果能够知道资源的编码格式,只需要在转成字符串的过程中使用这种编码就行。
所以,关键问题落在了判断资源文件编码方式是那种。
五、encodeURI与encodeURIComponent 与 escape
★对于不同浏览器编码有些不同,所以需要编码。两者都是使用UTF-8编码规则来编的
★区别 :
encodeURI用于整个URL ,对于url里面的预留符号等不进行编码;
encodeURIComponent用于参数段,编码更彻底:url里面的预留符号等会编码;
escape用于对字符串进行编码,不适用于URL。escape的0-255以外的unicode值进行编码时输出%u****格式,其它情况下escape,encodeURI,encodeURIComponent编码结果相同
★ escape/unescape、encodeURI/decodeURI、encodeURIComponent/decodeURIComponent 主要的区别还有不编码的字符个数。
1)escape不编码的字符有69个
*、+、-、.、/、@、_、0~9、a~z、A~Z而且escape对0~255以外的unicode值进行编码时输出%u****格式。
2)encodeURI不编码的字符有82个
!、#、$、&、'、(、)、*、+、,、-、.、/、:、;、=、?、@、_、~、0~9、a~z、A~Z
3)encodeURIComponent不编码的字符有71个
!、'、(、)、*、-、.、_、~、0~9、a~z、A~Z
★对URL中的中文参数需要两次编码的问题。
(1)如果服务器的编码是UTF-8,那么下面是不会出现乱码的。否则,出现乱码。
前端:var url1=encodeURI(url);
后台:String name=request.getParameter("name");
(2)不管服务器编码,都不会出现乱码
前端:url1=encodeURI(url);把url中的中文编为ASCII码。
url2=encodeURI(url1);对ASCII码进行编码
后台://这里tomcat自动解码。tomcat的配置文件没设置,那么默认是ISO-8859-1
String name1=request.getParameter("name");
String name2 = java.net.URLDecoder.decode(name1,"UTF-8");
不管是按 GBK 还是 UTF-8 还是 ISO-8859-1 都好,都能够正确的得到url1。因为ASCII码的编码用GBK、UTF-8、ISO-8859-1编码的结果是相同的。
★对于POST提交数据,浏览器会根据网页的ContentType("text/html; charset=GBK") 中指定的编码进行对表单中的数据进行编码。
服务端:request.setCharacterEncoding()设置编码,然后通过request.getParameter获得正确的数
六、JAVA中的乱码
★浏览器用utf-8解析:
(手动)==> 在浏览器中右键选择编码格式为utf-8
(智能)==> 在文件中写入如: <meta name="content-type" content="text/html; charset=UTF-8">
通过<meta>标签模拟response头,起到告诉浏览器用utf-8的编码解析
(智能)==> response.setContentType("text/html;charset=utf-8");
或 response.setHeader("content-type","text/html;charset=UTF-8");
或 response.getOutputStream().write("<meta http-equiv='content-type' content='text/html;charset=utf-8'>".getBytes());
目的是为了控制浏览器的行为,即控制浏览器用UTF-8进行解码
常用:
<meta name="content-type" content="text/html; charset=UTF-8">或<meta charset="utf-8">
<%@ pageEncoding="utf-8"%>
<?xml encoding="UTF-8"?>
★response.setCharacterEncoding("UTF-8"); 设置的是response存储数据的码表。 目的是用于response.getWriter()输出的字符流的编码。
如果是response.getOutputStream()是不需要此种解决方案的,因为这句话的意思是为了将response对象中的数据以UTF-8解码后的字节流发向浏览器
★response.setContentType("text/html;charset=utf-8");内部也调用了setCharacterEncoding方法,相当于setCharacterEncoding("UTF-8");和setHeader("content-type","text/html;charset=UTF-8");
★response.setCharacterEncoding可以覆盖之前的response.setContentType
★ 1.IE和WEB服务器默认通过ISO-8859-1进行编码,可以使用setCharacterEncoding是设置字符的编码
2.URL默认只支持ISO-8859-1
★ Get请求:参数QueryString内容默认解码方式问ISO8859-1,而且使用request.setCharacterEncoding("utf-8")也无法解决问题。
1.修改tomcat服务器的配置文件<Connector>节点 URIEncoding="utf-8"
2.如果没有设置URIEncoding,那么使用new String(username.getBytes("ISO-8859-1"),"UTF-8");
3. useBodyEncodingForURI=”true”:使用Header中ContentType中定义的Charset
★ url、cookie、ajax get请求,一般用URLEncoder,对于url参数需要两次编码
★ Post请求 request.setCharacterEncoding("UTF-8"); 只对Post请求有效
七、JAVA在Linux中生成的文件出现文件名乱码的问题
原因:sun.jnu.encoding和liunx系统编码不一致。
1. java启动的所有环境变量:
ps -ef|grep xxxx 获取pid
jinfo pid 查看所有环境变量,其中就有:
file.encoding = GBK
user.country = CN
sun.jnu.encoding = GB2312
user.timezone = Asia/Shanghai
2. 如果启动命令没有指定这些参数,那会受到
cd ~用户目录下的.bash_profile文件中配置的字符集编码等影响。
3. 查看系统的语言和字符命令:echo $LANG 或 locale
System.out.println("user.language = "+System.getProperty("user.language"));
System.out.println("user.country = "+System.getProperty("user.country"));
System.out.println("user.region = "+System.getProperty("user.region"));
//查看当前系统的字符编码方式
System.out.println("Charset.defaultCharset().name() = "+Charset.defaultCharset().name());
//查看当前系统的编码方式
System.out.println("file.encoding = "+System.getProperty("file.encoding"));
System.out.println("sun.jnu.encoding = "+System.getProperty("sun.jnu.encoding"));
八、静态文件html在tomcat中中文乱码
tomcat 中jsp不会乱码 但是html中文会乱码
原因有好几个:
没有设置页面编码 tomcat的配置不正确 文件保存的编码格式不是utf-8 等等 下面来讨论解决办法
1、html页面设置为 utf-8 在页面头部添加
<meta charset="utf-8">
2、tomcat的server.xml配置添加:URIEncoding="UTF-8"
<Connector port="8080" protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443" URIEncoding="UTF-8" />
<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" URIEncoding="UTF-8"/>
3、设置 tomcat中 catalina.bat (jvm的编码)
在catalina.bat 中set "JAVA_OPTS=%JAVA_OPTS% %JSSE_OPTS%"
下面 添加 : -Dfile.encoding=UTF8 -Dsun.jnu.encoding=UTF8
如下所示:
4、设置tomcat的 web.xml 设置编码:
<servlet>
<servlet-name>default</servlet-name>
<servlet-class>org.apache.catalina.servlets.DefaultServlet</servlet-class>
<init-param>
<param-name>debug</param-name>
<param-value>0</param-value>
</init-param>
<init-param>
<param-name>fileEncoding</param-name>
<param-value>UTF-8</param-value>
</init-param>
<init-param>
<param-name>listings</param-name>
<param-value>false</param-value>
</init-param>
<load-on-startup>1</load-on-startup>
</servlet>