Java中文问题详解,底层编码解剖

愚人码头

　　预备知识： 　　1.字节和unicode 　　Java内核是unicode的，就连class文件也是，但是很多媒体，包括文件/流的保存方式是使用字节流的。 因此Java要对这些字节流经行转化。char是unicode的，而byte是字节.Java中byte/char互转的函数在sun.io的包中间有。其中ByteToCharConverter类是中调度，可以用来告诉你，你用的Convertor。其中两个很常用的静态函数是。 　　public static ByteToCharConverter getDefault() ; 　　public static ByteToCharConverter getConverter(String encoding); 如果你不指定converter，则系统会自动使用当前的Encoding，GB平台上用GBK，EN平台上用8859_1 　　我们来就一个简单的例子： 　　"你"的gb码是：0xC4E3 ，unicode是0x4F60 　　你用: 　　 　　encoding="gb2312"; 　　byte b[]={(byte)'\u00c4'，(byte)'\u00E3'}; 　　convertor=ByteToCharConverter.getConverter(encoding); 　　char [] c=converter.convertAll(b); 　　for(int i=0;i{ 　　***.out.println(Integer.toHexString(c[i])); 　　} 打印出来是0x4F60 　　但是如果使用8859_1的编码，打印出来是 　　0x00C4，0x00E3 　　例1 　　反过来： 　　encoding="gb2312"; 　　char c[]={'\u4F60'}; 　　convertor=ByteToCharConverter.getConverter(encoding); 　　byte [] b=converter.convertAll(c); 　　for(int i=0;i{ 　　***.out.println(Integer.toHexString(b[i])); 　　} 打印出来是：0xC4，0xE3 　　例2 　　如果用8859_1就是0x3F，?号，表示无法转化 　　很多中文问题就是从这两个最简单的类派生出来的。而却有很多类不直接支持把Encoding输入，这给我们带来诸多不便。很多程序难得用encoding了，直接用default的encoding，这就给我们移植带来了很多困难 　　2.UTF-8 　　UTF-8是和Unicode一一对应的，其实现很简单 　　7位的Unicode: 0 _ _ _ _ _ _ _ 　　11位的Unicode: 1 1 0 _ _ _ _ _ 1 0 _ _ _ _ _ _ 　　16位的Unicode: 1 1 1 0 _ _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _ 　　21位的Unicode: 1 1 1 1 0 _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _ 　　大多数情况是只使用到16位以下的Unicode: 　　你"的gb码是：0xC4E3 ，unicode是0x4F60 　　我们还是用上面的例子 　　例1：0xC4E3的二进制： 　　1 1 0 0 0 1 0 0 1 1 1 0 0 0 1 1 　　由于只有两位我们按照两位的编码来排，但是我们发现这行不通，因为第7位不是0因此，返回"?"