txt文件中文内容 读进java 乱码 读取txt文件乱码

[C#]解决读写包含汉字的txt文件时乱码的问题

作者：袁晓辉

    当我们用System.IO.StreamReader读取包含汉字的txt文件时，经常会读出乱码（StreamWriater写文本文件也有类似的问 题），原因很简单，就是文件的编码（encoding）和StreamReader/Writer的encoding不对应。

    为了解决这个问题，我写了一个类，来取得一个文本文件的encoding，这样我们就可以创建对应的StreamReader和StreamWriter 来读写，保证不会出现乱码现象。其实原理很简单，文本编辑器（比如XP自带的记事本）在生成文本文件时，如果编码格式和系统默认的编码（中文系统下默认为 GB2312）不一致时，会在txt文件开头部分添加特定的“编码字节序标识（Encoding Bit Order Madk，简写为BOM）”，类似PE格式的"MZ"文件头。这样它在读取时就可以根据这个BOM来确定该文本文件生成时所使用的Encoding。这个 BOM我们用记事本等程序打开默认是看不到的，但是用stream按字节读取时是可以读到的。我的这个TxtFileEncoding类就是根据这个 BOM“文件头”来确定txt文件生成时用到的编码的。

    由于在GB2312和UTF7编码都没有BOM，所以需要指定一个默认的Encoding，在找不到合法的BOM时，将返回这个Encoding。有谁知道如何区分GB2312和UTF7编码txt文件的方法，也请告诉我。

//  2005-8-8 
   
// // // // // // 
   
using System; 
   
using System.Text; 
   
using System.IO; 
   
namespace Farproc.Text 
   
{ 
   
    /// 
 
 
    /// 用于取得一个文本文件的编码方式(Encoding)。 
    
    ///  
    
    public class
    { 
   
        public
        { 
   
            // 
    
            // TODO: 在此处添加构造函数逻辑 
    
            // 
    
        } 
   
        /// 
 
 
        /// 取得一个文本文件的编码方式。如果无法在文件头部找到有效的前导符，Encoding.Default将被返回。 
    
        ///  
    
        ///

文件名。       
        ///                 
        public static Encoding GetEncoding(string
        {       
            return
        }       
        /// 

        /// 取得一个文本文件流的编码方式。        
        ///         
        /// 
文本文件流。       
        ///                 
        public static
        {       
            return
        }       
        /// 

        /// 取得一个文本文件的编码方式。        
        ///         
        /// 
文件名。       
        /// 
默认编码方式。当该方法无法从文件的头部取得有效的前导符时，将返回该编码方式。       
        ///                 
        public static Encoding GetEncoding(string
        {       
            FileStream fs = new
            Encoding targetEncoding = GetEncoding(fs, defaultEncoding);       
            fs.Close();       
            return
        }       
        /// 

        /// 取得一个文本文件流的编码方式。        
        ///         
        /// 
文本文件流。       
        /// 
默认编码方式。当该方法无法从文件的头部取得有效的前导符时，将返回该编码方式。       
        ///                 
        public static
        {       
            Encoding targetEncoding = defaultEncoding;       
            if(stream != null
            {       
                //保存文件流的前4个字节        
                byte
                byte
                byte
                byte
                //保存当前Seek位置        
                long
                stream.Seek(0, SeekOrigin.Begin);       
                
                int
                byte1 = Convert.ToByte(nByte);       
                byte2 = Convert.ToByte(stream.ReadByte());       
                if(stream.Length >= 3)       
                {       
                    byte3 = Convert.ToByte(stream.ReadByte());       
                }       
                if(stream.Length >= 4)       
                {       
                    byte4 = Convert.ToByte(stream.ReadByte());       
                }       
                //根据文件流的前4个字节判断Encoding        
                //Unicode {0xFF, 0xFE};        
                //BE-Unicode {0xFE, 0xFF};        
                //UTF8 = {0xEF, 0xBB, 0xBF};        
                if(byte1 == 0xFE && byte2 == 0xFF)//UnicodeBe        
                {       
                    targetEncoding = Encoding.BigEndianUnicode;       
                }       
                if(byte1 == 0xFF && byte2 == 0xFE && byte3 != 0xFF)//Unicode        
                {       
                    targetEncoding = Encoding.Unicode;       
                }       
                if(byte1 == 0xEF && byte2 == 0xBB && byte3 == 0xBF)//UTF8        
                {       
                    targetEncoding = Encoding.UTF8;       
                }       
                //恢复Seek位置       
                stream.Seek(origPos, SeekOrigin.Begin);       
            }       
            return
        }       
    }       
}       
 
    由于只是static方法，所以不用new，直接通过类名调用方法，使用起来也很简单。



using System;        
using Farproc.Text;        
using System.Text;        
using System.IO;        
namespace ConsoleApplication1        
{        
    /// 



    /// Class1 的摘要说明。         
    ///          
    class
    {        
        /// 



        /// 应用程序的主入口点。         
        ///          
        [STAThread]        
        static void                 Main        (string[] args)        
        {        
            //         
            // TODO: 在此处添加代码以启动应用程序         
            //         
            string
            //生成一个big endian Unicode编码格式的文本文件         
            StreamWriter sw = new StreamWriter(fileName, false, Encoding.BigEndianUnicode);//你可以试试其他编码，比如Encoding.GetEncoding("GB2312")或UTF8         
            sw.Write("这是一个String");         
            sw.Close();        
                          
            //读取         
            Encoding fileEncoding = TxtFileEncoding.GetEncoding(fileName, Encoding.GetEncoding("GB2312"));//取得这txt文件的编码         
            Console.WriteLine("这个文本文件的编码为：" + fileEncoding.EncodingName);         
            StreamReader sr = new StreamReader(fileName, fileEncoding);//用该编码创建StreamReader         
                          
            //用下面的方法虽然可以让系统自动判断文本文件的编码格式，但是我们无法取得该文本文件的编码         
            //sr.CurrentEncoding永远为 Unicode(UTF-8)         
            //StreamReader sr = new StreamReader(fileName, true);         
            //Console.WriteLine("这个文本文件的编码为：" + sr.CurrentEncoding.EncodingName);         
            Console.WriteLine("这个文本文件的内容为：" + sr.ReadToEnd());         
            sr.Close();        
            Console.ReadLine();        
        }        
    }        
}        


    .NET下的string永远是Unicode的，所以只能判断txt文件的Encoding。对于byte[]，只有自己知道它的Encoding才能 转换为string或转换到其他Encoding的byte[]，一个例外是把整个txt文件通过stream读入byte[]后也可以根据它的前几个字 节判断Encoding，对于片断，我们就无能为力了:)