什么是UNICODE

什么是UNICODE?

  UNICODE使任何语言的字符都可以为机器更容易的接受,UNICODE由 UC(UNICODE协会)管理并接受其技术上的修改。包括JAVA、LDAP、XML这样的技术标准中均要求得到UNICODE的支持。UNICODE 的字符被成为代码点(CODE POINTS),用U后面加上XXXX来表示,其中,X为16进制的字符。

对于英文来说,ascii码 0-127就足以代码所有字符,对于中文而言,则必须使用两个字节(byte)来代表一个字符,具第一个字节必须大于127(所以我们有许程序判断中文都是以ascii码大于127作为条件)。以上用两个字节来表示一个中文的方式,在习惯上称为双字节(即DBCS: Double-Byte Character Set),而相对之下,英文的字符码就称为单字节SBCS(Single-Byte Character Set)。

虽然双字节(DBCS)足以解决中英文字符混合使用情况,但对于不同字符系统而言,必须经过字符码转换,非常麻烦。例如:中英文混合情况,日文,韩文等等。为解决这个问题,国际标准组织于1984年4月成立ISO/IEC JTC1/SC2/WG2工作组。针对各国文字、符号进行统一性编码。1991年美国跨国公司成立Unicode Consortium。并于1991年10月与WG2达成协议。采用同一编码字集。目前Unicode是采用16位编码体系。其字符集内容与 ISO10646的BMP(Basic Multilingual Plane)相同。Unicode于1992年6月通过DIS(Draf International Standard)。目前版本V2.0于1996公布。内容包含符号6811个。汉字20902个。韩文拼音11172个。造字区6400个。保留 20249个。共计65534个。

随着国际互联网的迅速发展。要求进行数据交换的需求越来越大。不同的编码体系越来越成为信息交换的障碍。而且多种语言共存的文档不断增多。单靠代码页已很难解决这些问题。于是UNICODE应运而生。

UNICODE有双重含义。首先UNICODE是对国际标准 ISO/IEC10646编码的一种称谓(ISO/IEC10646是一个国际标准。亦称大字符集。它是ISO于1993年颁布的一项重要国际标准。其宗旨是全球所有文种统一编码)。另外它又是由美国的HP、Microsoft、IBM、Apple等大企业组成的联盟集团的名称。成立该集团的宗旨就是要推进多文种的统一编码。

UNICODE同现在流行的代码页最显著不同点在于:UNICODE是两字节的全编码。对于ASCII字符它也使用两字节表示。代码页是通过高字节的取值范围来确定是ASCII字符。还是汉字的高字节。如果发生数据损坏。某处内容破坏。则会引起其后汉字的混乱。UNICODE则一律使用两个字节表示一个字符。最明显的好处是它简化了汉字的处理过程。

UNICODE使用平面来描述编码空间。每个平面分为256行。256列。相对于两字节编码的高低两个字节。

UNICODE的第一个平面。称为Basic Multilingual Plane(基本多文种平面)。简称BMP。由于BMP仅用两个字节表示。所以倍受青睐。

Unicode的最初目标。是用1个16位的编码来为超过65000字符提供映射。但这还不够。它不能覆盖全部历史上的文字。也不能解决传输的问题(implantation head-ache's)。尤其在那些基于网络的应用中。因此。Unicode用一些基本的保留字符制定了三套编码方式。它们分别是UTF-8,UTF- 16和UTF-32。正如名字所示。在UTF-8中。字符是以8位序列来编码的。用一个或几个字节来表示一个字符。这种方式的最大好处。是UTF-8保留了ASCII字符的编码做为它的一部分。例如。在UTF-8和ASCII中。“A”的编码都是0x41.UTF-16和UTF-32分别是Unicode 的16位和32位编码方式。考虑到最初的目的。通常说的Unicode就是指UTF-16。

多年来。计算机普遍采用美国信息交换标准代码(American Standard Code for Information Interchange,简称ASCII码)来表示字符。这些字符可以是字母。数字。标点符号和控制符。用这种编码来表示英文在内的字符不成问题的。但要表示其它语言文字如。阿拉伯文。中文。日文。维文。哈文…必须进行扩充。在1987年。Xerox Palo Alto研究中心的Joe Becker和Lee Collins。以及Apple公司的Mark Davis试图研究一种适用于多文种处理的字符编码。这种编码很快就得到了许多大公司的支持。这些公司都派代表参加Unicode研究组。Unicode 的研究得到了较快的进展。由于Unicode集团的成员都是世界上的主要系统及软件制造商。所以Unicode很快就成为事实上的工业标准。

基于Unicode的系统允许使用65000个不同的字符。足以善盖世界所有语言的所有字母。外加数千种符号。

其中。General Scripts区单独收录了19种语言文字。包括ASCII,Latin1,Greek,Cyrillic,Armenian,Hedrew, Arabic,Devanagari,Bengali ,Gurmukhi,Gujarati,Oriya,Tamil,Telugu,Kannada,Malayalam,Thai,Lao, Tibetan,Georgian等语言文字之外。还包括汉语。日语和朝鲜语中的所有大量字符。

Unicode是一种定长的2B多文种字符集编码。它试图善盖现有的有关国家和地区的标准。包括GB2312,CNS11643,JIS 0208和KSC 5601等。Unicode可以表示混合文字资料。也可以保证以前的ISO 10646。

Unicode的特点是:

不管哪一国的字符码均以两个Byte表示,例如"A"在Unicode则是16进制 41和00的组合,即4100,高位41(转换为Ascii码即是65=A),Windows NT/2000以Unicode来表示字符集,例如你可以看到MS SQL Server中产生的SQL文件可以选择是以Unicode来保存还是以普通格式来保存,如果你以Unicode保存,则在95/98平台许多软件均无法正确读出其格式。

同时你还可以注意到95/98中API定义,许多名称结尾是有一个A的,例如

WriteProfileStringA

而在NT/2000操作系统中,提供了两套API,另外一个命令是 WriteProfileStringW,以W 结尾的API只适用于NT / 2000。(在NT中使用以W结尾的API函数效率比A结尾的要快,因为省去了Unicode和DBCS/SBCS的转换过程)

这样我们经常要用到的判断字符串长度的函数,在NT和95/98下执行结果不同,如下:(下面代码适合于VB, ASP)

95/98中:

len("abc中国") 返回 7 (因为每个中文作为两个Ascii码来看)

NT/2000中:

len("abc中国") 返回 5 (因为每个字符都作为一个Unicode来看) 

<think>好的,我现在需要向用户解释什么是Unicode字符串。首先,我应该回忆一下自己了解的Unicode知识,确保没有记错。Unicode是一个字符编码标准,用来统一表示不同语言的字符。而字符串在编程中通常是字符的序列,所以Unicode字符串应该就是用Unicode编码的字符串吧。 接下来,我得考虑用户的背景。用户可能对计算机编码不太熟悉,所以需要从基础讲起。先解释为什么需要Unicode,比如ASCII只能表示英文字符,而其他语言如中文、日文等需要更多的字符,导致出现了各种编码方式,如GBK、Shift-JIS等,但这些编码不兼容,容易乱码。 然后,Unicode的出现解决了这个问题,统一给每个字符分配唯一的码点。这时候可以提到码点的表示方式,比如U+后面跟十六进制数,例如“汉”字的码点是U+6C49。Unicode字符串就是由这些码点组成的字符串,能够包含各种语言的字符,包括符号和表情等。 还需要区分不同的编码方式,比如UTF-8、UTF-16、UTF-32,这些是Unicode的实现方式,而Unicode本身是标准。在编程中,比如Python3中的字符串默认就是Unicode,使用UTF-8编码,这样处理多语言文本更方便。 还要注意可能存在的误区,比如Unicode编码格式的区别,避免混淆。另外,可能需要提到实际应用中的好处,比如数据交换、国际化支持等,让用户理解为什么Unicode字符串重要。 检查有没有遗漏的关键点,比如Unicode的版本发展,可能用户不需要太深入,但可以简要提到。另外,是否需要举例说明?比如用Python展示Unicode字符串的样子,或者比较非Unicode的情况下的问题。 最后,确保语言通俗易懂,结构清晰,分点或分段解释,不使用过于专业的术语,必要时用比喻帮助理解。比如,把Unicode比作一种全球通用的字符字典,每个字符有唯一编号,这样不同系统都能正确显示。</think>Unicode字符串本质上是用**统一编码标准表示文本数据**的解决方案。我们分三个层次理解: 1. **痛点起源**(传统编码的混乱) - 早期ASCII码(0-127)只能表示英文字母和基础符号 - 中文需要GBK(2字节)、日文需要Shift-JIS等地区性编码标准 - 不同编码混用导致乱码(如用GBK打开BIG5编码文件) 2. **核心原理**(Unicode的设计思路) - 为全球所有文字系统建立统一的「身份证号」(码点) - 示例:`U+4E2D`表示"中",`U+1F600`表示😀 - 当前版本(15.0)覆盖149,813个字符,包括: ✓ 现代语言(汉字、拉丁字母、阿拉伯文等) ✓ 历史文字(楔形文字、西夏文) ✓ 符号(数学符号、表情符号) 3. **技术实现**(编码方案) | 编码类型 | 单位长度 | 特点 | 应用场景 | |------------|----------|-------------------------------|------------------| | UTF-8 | 1-4字节 | 兼容ASCII,空间效率高 | Web传输(90%网站使用)| | UTF-16 | 2/4字节 | Java/.NET默认编码 | 本地应用程序 | | UTF-32 | 4字节 | 定长处理方便 | 文本处理内核 | **编程实践示例**(Python3): ```python # 直接表示多语言文本 s = "中文 Español 😊" print(len(s)) # 输出9(字符数而非字节数) # 编码转换过程 bytes_data = s.encode('utf-8') # 转为字节序列 decoded_str = bytes_data.decode('utf-16') # 错误!编码方式不匹配 ``` **关键优势**: - 数据持久化:用UTF-8保存文件可确保百年后仍可解读 - 国际化支持:单个系统同时处理阿拉伯语右向文字和中文竖排文本 - 安全处理:避免因编码转换导致的缓冲区溢出漏洞 当前所有主流操作系统和编程语言均已实现Unicode原生支持,标志着人类文字数字化进入真正意义上的「书同文」阶段。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值