utf-8的中文是一个字符占几个字

本文深入探讨了字符编码的发展历程,从ASCII到Unicode的演变,以及UTF-8、UTF-16等编码方式的工作原理。详细解释了不同字符集编码下英文字母和中文汉字的字节数差异,揭示了全球字符编码统一的必要性和复杂性。

英文字母和中文汉字在不同字符集编码下的字节数
英文字母:
·字节数 : 1;编码:GB2312

字节数 : 1;编码:GBK

字节数 : 1;编码:GB18030

字节数 : 1;编码:ISO-8859-1

字节数 : 1;编码:UTF-8

字节数 : 4;编码:UTF-16

字节数 : 2;编码:UTF-16BE

字节数 : 2;编码:UTF-16LE

中文汉字:
字节数 : 2;编码:GB2312

字节数 : 2;编码:GBK

字节数 : 2;编码:GB18030

字节数 : 1;编码:ISO-8859-1

字节数 : 3;编码:UTF-8

字节数 : 4;编码:UTF-16

字节数 : 2;编码:UTF-16BE

字节数 : 2;编码:UTF-16LE

美国人首先对其英文字符进行了编码,也就是最早的ascii码,用一个字节的低7位来表示英文的128个字符,高1位统一为0;

后来欧洲人发现你这128位哪够用,比如法国人字母上面的还有注音符,这个怎么区分,于是把高1位编进来吧,这样欧洲普遍使用一个全字节进行编码,最多可表示256位。

但是即使位数少,不同国家地区用不同的字符编码,虽然0–127表示的符号是一样的,但是128–255这一段的解释完全乱套了,即使2进制完全一样,表示的字符完全不一样,比如135在法语,希伯来语,俄语编码中完全是不同的符号;

更麻烦的是,这编码传到中国后,中国人发现我们有10万多个汉字,你们欧美这256字塞牙缝都不够。于是就发明了GB2312这些汉字编码,典型的用2个字节来表示绝大部分的常用汉字,最多可以表示65536个汉字字符,这样就不难理解有些汉字你在新华字典里查得到,但是电脑上如果不处理一下你是显示不出来的了吧。

这下各用各的字符集编码,这世界咋统一?俄国人发封email给中国人,两边字符集编码不同,尼玛显示都是乱码啊。为了统一,于是就发明了unicode,将世界上所有的符号都纳入其中,每一个符号都给予一个独一无二的编码,现在unicode可以容纳100多万个符号,每个符号的编码都不一样,这下可统一了,所有语言都可以互通,一个网页页面里可以同时显示各国文字。

然而,unicode虽然统一了全世界字符的二进制编码,但没有规定如何存储啊。x86和amd体系结构的电脑小端序和大端序都分不清,别提计算机如何识别到底是unicode还是acsii了。如果Unicode统一规定,每个符号用三个或四个字节表示,那么每个英文字母前都必然有二到三个字节是0,文本文件的大小会因此大出二三倍,这对于存储来说是极大的浪费。这样导致一个后果:出现了Unicode的多种存储方式。

互联网的兴起,网页上要显示各种字符,必须统一。utf-8就是Unicode最重要的实现方式之一。另外还有utf-16、utf-32等。UTF-8不是固定字长编码的,而是一种变长的编码方式。它可以使用1~4个字节表示一个符号,根据不同的符号而变化字节长度。这是种比较巧妙的设计,如果一个字节的第一位是0,则这个字节单独就是一个字符;如果第一位是1,则连续有多少个1,就表示当前字符占用多少个字节。

注意unicode的字符编码和utf-8的存储编码表示是不同的,例如”严”字的Unicode码是4E25,UTF-8编码是E4B8A5,这个7里面解释了的,UTF-8编码不仅考虑了编码,还考虑了存储,E4B8A5是在存储识别编码的基础上塞进了4E25。

UTF-8 使用一至四个字节为每个字符编码。128 个 ASCII 字符(Unicode 范围由 U+0000 至 U+007F)只需一个字节,带有变音符号的拉丁文、希腊文、西里尔字母、亚美尼亚语、希伯来文、阿拉伯文、叙利亚文及马尔代夫语(Unicode 范围由 U+0080 至 U+07FF)需要二个字节,其他基本多文种平面(BMP)中的字符(CJK属于此类-Qieqie注)使用三个字节,其他 Unicode 辅助平面的字符使用四字节编码。

所以知道utf-8的中文是一个字符占几个字节了吧?
————————————————
版权声明:本文为优快云博主「KindSuper_liu」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.youkuaiyun.com/kindsuper_liu/article/details/80202150

UTF-8编码中一个字符字节用情况是根据字符所属的字符集范围而变化的,其设计使得编码长度是可变的,具体可以用1到4个字节[^1]。这种可变长度的编码方式确保了在表示不同语言字符时的高效性和灵活性。 ### 字节用情况的分类 1. **ASCII字符(1字节)** 对于ASCII字符集中的字符UTF-8编码与ASCII完全一致,每个字符用1个字节。例如,英文字母、数字和常见的符号都属于此类,其编码范围是`U+0000`到`U+007F`。 2. **欧洲字母字符(2字节)** 对于欧洲语言中的一些字符,如带有重音的字母(例如`à`、`ö`、`ñ`等),在UTF-8用2个字节。这些字符Unicode码点范围是`U+0080`到`U+07FF`。 3. **亚洲字符(3字节)** 大部分亚洲语言的字符,如中文、日文和韩文等,通常用3个字节。这些字符的码点范围是`U+0800`到`U+FFFF`[^1]。 4. **附加字符(4字节)** 一些较为复杂的字符,如表情符号(Emoji)或历史文字(如某些古代语言的字符),则需要4个字节进行编码。这些字符的码点范围是`U+10000`到`U+10FFFF`[^1]。 ### 编码规则 UTF-8的编码规则确保了字节流的自同步性,即通过检查字节的高位可以确定一个字符的起始位置。具体规则如下: - 如果一个字节的第一位是`0`,则该字节单独表示一个字符(ASCII字符)。 - 如果高位连续的`1`的数量表示字符用的字节数,例如`110xxxxx`表示该字符由两个字节组成,`1110xxxx`表示由三个字节组成,`11110xxx`表示由四个字节组成。 - 后续的字节必须以`10xxxxxx`的形式出现,以确保编码的唯一性[^2]。 ### 示例 以下是一个简单的Python代码示例,用于获取字符UTF-8编码字节数: ```python def get_utf8_byte_length(char): """ 返回一个字符UTF-8编码下的字节长度 """ return len(char.encode('utf-8')) # 示例字符 chars = ['A', 'à', '汉', '😀'] # 输出每个字符字节长度 for char in chars: print(f"字符 '{char}' 的UTF-8编码字节长度为: {get_utf8_byte_length(char)}") ``` 输出结果: ``` 字符 'A' 的UTF-8编码字节长度为: 1 字符 'à' 的UTF-8编码字节长度为: 2 字符 '汉' 的UTF-8编码字节长度为: 3 字符 '😀' 的UTF-8编码字节长度为: 4 ``` 通过上述规则和示例代码,可以清晰地了解UTF-8编码中不同字符字节用情况。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值