字符集与字符编码问题

字符集合字符编码的问题一直都在用，但是从来没有详细的了解，一下是从网络搜集到的一些资料。

 

http://drift-ice.iteye.com/blog/726265

 

http://www.iteye.com/topic/804737

 

 

http://www.iteye.com/topic/317895 写道

编码是编码字符集和字符编码方案的一个组合 ，它可以将字符集中的字符映射成字节序列。编码隐含着编码字符集和字符编码方案，从而也隐含着字符集。例如UTF-8是一种编码，它是Unicode编码字符集和UTF8编码方案的一个组合。GB2312也是一种编码，它的编码字符集就是编码的简体中文字符集，编码方案采用定长编码。实践中经常混用编码字符集和编码这两个概念，这是因为大多数编码字符集都只有一种编码方案，这样的编码字符集(或者说编码)包括GB2312, GBK, ASCII, ISO8859-1等。但是当编码字符集存在多种编码方案时，就有必要区分编码字符集和编码了，例如我们说Unicode时一般是指编码字符集，说UTF-8，UTF-16时才是指编码。

 http://drift-ice.iteye.com/blog/726265 写道

基础知识

字节和字符
字节（octet）：顾其英文名而思义，就是一个八位的存储单元，取值范围一定是0～255；
字符（character）：就是一个语言上的符号，"中"字就是一个字符。字符所占的大小由其编码方式解决，比如"中"在UTF-8中占3个字节（0xE4A8AD），而在GBK中，则占两个字节(0xD6D0)。

字符集和编码
字符集：字符的集合，像Unicode字符集，目标就是收纳了这个世界上所有语言的文字、符号等；
字符编码：注意，字符集只是规定了有哪些字符，而最终决定采用哪些字符，每一个字符用多个字节表示等问题，则是由编码来决定的。像Unicode字符集的编码方式有很多，诸如UTF-8、UFT-16、UTF-32等。
字符集和字符编码是分开的概念，但有时候称呼上会有些模糊，我们经常笼统地称这些Unicode字符集的编码为Unicode编码。

内码
内码：操作系统内部的字符编码。像早期的DOS采用的是ASCII，而现在的操作系统大把采用Unicode编码。

编码简史

在讲各种编码之前，有必要先讲一个编码这个令人头疼的家伙的历史，这样有助于大家理解今天的编码世界为什么会是这样一个局面。
计算机对多语言的支持，大致为分以下三个阶段。
阶段一：ASCII时代。计算机是DOS时代的计算内码是ASCII码，ASCII的表示范围就是0到127那几个符号，这意味着，DOS时代的计算机只能显示英文，而无法支持其他语言。没办法，由于英文系国家开创了并继续主导了计算机的世界，他们自然而然地认为全世界的文字用8位表示足矣。
阶段二：ANSI时代。由于上述原因，像我们这些非英文系的国家的为了显示自家的文字，不得不一开始就得面对字符编码的问题，不同国家不同地区都创建了自己的编码标准。像是中国大陆是GB2312及后来的GBK，台湾是BIG5，日本是JIS。ASCII字符集，以及这些由此派生并兼容的字符集称为ANSI字符集。
阶段三：Unicode时代。为了和谐而出现，相较于以上两个阶段，这个时代称为国际化时代，适应了跨平台，跨语言之间交换信息的需求。

 

java中汉字字符串再获取字节编码时的问题参见：http://maimode.iteye.com/admin/blogs/1341354

 

一下摘自：http://www.iteye.com/topic/311583

Java与Unicode：

 

Java的class文件采用utf8的编码方式，JVM运行时采用utf16。

 

Java的字符串是unicode编码的。

 

总之，Java采用了unicode字符集，使之易于国际化。

 

Java支持哪些字符集：

 

即Java能识别哪些字符集并对它进行正确地处理？

 

查看Charset 类，最新的JDK支持160种字符集。可以通过static方法availableCharsets拿到所有Java支持的字符集。

 

需要在哪些时候注意编码问题？

 

1. 从外部资源读取数据：

 

这跟外部资源采取的编码方式有关，我们需要使用外部资源采用的字符集来读取外部数据：

 

Java代码  

1. InputStream is = new FileInputStream("res/input2.data");  
2. InputStreamReader streamReader = new InputStreamReader(is, "GB18030");  

 

这里可以看到，我们采用了GB18030编码读取外部数据，通过查看streamReader的encoding可以印证：

 

Java代码  

1. assertEquals("GB18030", streamReader.getEncoding());  

 

正是由于上面我们为外部资源指定了正确的编码，当它转成char数组时才能正确地进行解码（GB18030 -> unicode）：

 

Java代码  

1. char[] chars = new char[is.available()];  
2. streamReader.read(chars, 0, is.available());  

 

但我们经常写的代码就像下面这样：

 

Java代码  

1. InputStream is = new FileInputStream("res/input2.data");  
2. InputStreamReader streamReader = new InputStreamReader(is);  

 

这时候InputStreamReader采用什么编码方式读取外部资源呢？Unicode？不是，这时候采用的编码方式是JVM的默认字符集，这个默认字符集在虚拟机启动时决定，通常根据语言环境和底层操作系统的 charset 来确定。可以通过以下方式得到JVM的默认字符集：

 

Java代码  

1. Charset.defaultCharset();  

 

为什么要这样？因为我们从外部资源读取数据，而外部资源的编码方式通常跟操作系统所使用的字符集一样，所以采用这种默认方式是可以理解的。

 

好吧，那么我通过我的IDE Ideas创建了一个文件，并以JVM默认的编码方式从这个文件读取数据，但读出来的数据竟然是乱码。为何？呵呵，其实是因为通过Ideas创建的文件是以utf-8编码的。要得到一个JVM默认编码的文件，通过手工创建一个txt文件试试吧。

 

2. 字符串和字节数组的相互转换

 

我们通常通过以下代码把字符串转换成字节数组：

 

Java代码  

1. "string".getBytes();  

 

但你是否注意过这个转换采用的编码呢？其实上面这句代码跟下面这句是等价的：

 

Java代码  

1. "string".getBytes(Charset.defaultCharset());  

 

也就是说它根据JVM的默认编码（而不是你可能以为的unicode）把字符串转换成一个字节数组。

 

反之，如何从字节数组创建一个字符串呢？

 

Java代码  

1. new String("string".getBytes());  

 

同样，这个方法使用平台的默认字符集解码字节的指定数组（这里的解码指从一种字符集到unicode）。

 

 

字符串编码迷思：

 

Java代码  

1. new String(input.getBytes("ISO-8859-1"), "GB18030")  

 

上面这段代码代表什么？有人会说： “把input字符串从ISO-8859-1编码方式转换成GB18030编码方式”。如果这种说法正确，那么又如何解释我们刚提到的java字符串都采用unicode编码呢？

 

这种说法不仅是欠妥的，而且是大错特错的，让我们一一来分析，其实事实是这样的：我们本应该用GB18030的编码来读取数据并解码成字符串，但结果却采用了ISO-8859-1的编码，导致生成一个错误的字符串。要恢复，就要先把字符串恢复成原始字节数组，然后通过正确的编码GB18030再次解码成字符串（即把以GB18030编码的数据转成unicode的字符串）。注意，字符串永远都是unicode编码的。

 

但编码转换并不是负负得正那么简单，这里我们之所以可以正确地转换回来，是因为 ISO8859-1 是单字节编码，所以每个字节被按照原样 转换为 String ，也就是说，虽然这是一个错误的转换，但编码没有改变，所以我们仍然有机会把编码转换回来！

 

总结：

 

所以，我们在处理java的编码问题时，要分清楚三个概念：Java采用的编码：unicode，JVM平台默认字符集和外部资源的编码。