| |||||
让你的软件支持繁体中文 中国台湾、香港的汉字用的是BIG5编码,而大陆的汉字用的是GB编码(GB2312也好,GBK也好),简体中文软件直接拿到繁体中文环境下运行,问题就出来了。 怎么办呢? 我们的软件是一款用C#.NET+ASP.NET开发的,所谓B/S型的软件,客户端只须用浏览器访问我们的服务器就行了。很自然的就想到,把代码中的所有的简体字都转换成繁体字,问题不就解决了吗? 说干就干。从网上找来了一款转换工具将全部代码文件转换了一遍。编译后运行,发觉静态的文字或提示信息确实已经变成了繁体,但从数据库中拿出来的还是简体(乱码),转换后的各种配置文件也读取出错(因为程序仍然按GB编码的格式进行读取)。还有一个问题,就是源代码只能转换一次。因为第一次转换后GB变成了BIG5,如果再转,就是BIG5转BIG5,结果变得不可辨认。由于源文件非常多,修改维护起来非常麻烦。 看来这种方法不可行。 那么能不能给我们的软件加上自适应的功能,增加对繁体中文的支持呢? ASP.NET中,页面Page有个对象Response,该对象将 HTTP 响应数据发送到客户端,而Response有个获取或设置包装筛选器对象的属性Filter,用于在传输之前修改 HTTP 实体主体。当创建 Stream 对象并将 Response.Filter 属性设置为 Stream 对象时,所有由 Response.Write 发送的 HTTP 输出将通过筛选器。只要我们重载Stream类,在Stream类的Write()方法中将GB码转换成BIG5码,然后将Response.Filter = 重载Stream类,就可以达到在信息输出到客户端前先转换的效果。 //页面装载事件 private void Page_Load(object sender, System.EventArgs e) { // 在此处放置用户代码以初始化页面 Response.Filter = new CG2BFilter(Response.Filter);//设置筛选器 Response.Charset = “big5”; …… }
简体转为繁体类CG2BFilter public class CG2BFilter : Stream { …… //重载函数Write public override void Write(byte[] buffer, int offset, int count) { WriteGB2BIG(buffer, offset, count); }
//简体转为繁体 private void WriteGB2BIG(byte[] buffer, int offset, int count) { if( count == 0 ) { return; } //936是简体中文代码页编号 Encoding e = Encoding.GetEncoding(936); string str = e.GetString(buffer,offset,count); //有些简体字没有对应的Big5,所以需要先转换成繁体的GB,再进行转换 for( int i=0;i<str.Length;i++ ) { //_SGB是部分GB2312简体中文字库,_tGB则是对应的GB2312繁体字库 int j = _sGB.IndexOf(str[i]); if( j != -1 ) { str = str.Replace(_sGB[j],_tGB[j]); } } //950是BIG5码代码页编号 e = Encoding.GetEncoding(950); _sink.Write(e.GetBytes(str),0,e.GetByteCount(str)); } …… }
这样写,是建立在待转换的流全部都是GB编码的基础上的,而大多数情况下也没有什么问题,不过,如果一个页面存在表单控件且控件内有汉字内容随同输出时,那么该页面在运行过程中有回传等刷新动作的话,就可能出现乱码。究其原因,是因为在页面第一次打开时,控件值由简体转成了繁体,回传的时候,则传回服务器的这部分控件值也为繁体。接着再输出,问题就来了:控件值为繁体,而页面本身还是简体,也就是说,输出流中存在混合编码,这样还一刀切将它们认为全是GB编码来加以转换就不行了,要加以区别。 怎么区别呢?BIG5与GB有什么区别吗?很遗憾,并没有什么明显的区别,也就是说,给你一个汉字编码,很难判断它究竟是GB还是BIG5。一般倾向于认为低字节在0x40~0x7F范围的就是BIG5码,因为没有简体字的低字节在这个范围。不过要注意,GB编码也有繁体字,并且这些繁体字的低字节也有位于0x40~0x7F的。所以这招并非万灵丹。 将数值从高字节0x81~0xFF,低字节0x40~0xFF这样组合输出到页面,如下: string str = ""; Encoding gbe = Encoding.GetEncoding(936); byte[] buffer = {0,0}; for( byte y = 0x81;y<0xFF;y++ ) {//高字节 str += "<br>"; for( byte x = 0x40;x<0xFF;x++ ) {//低字节 buffer[0] = y; buffer[1] = x; //以红色输出汉字,并注明其高低字节值 str += " 0x" + y.ToString("X") + x.ToString("X") + "<font color=/"red/" size=4>" + gbe.GetString(buffer) + "</font>"; } } Response.Write(str);
然后在浏览器里分别用GB编码和BIG5编码观察,你会发现,这两种编码中,都存在着有些字节值并没有相应的汉字,而是一些奇怪的符号、问号甚至是空白。于是可以这样认为:如果一个汉字的字节值在某种编码中找不到汉字,则说明它不属于这种编码。经过认真比较归纳,两种编码都划定了一些范围,然后可以逐个考察输出流中的汉字,看它是否落在该范围,以此判定它属于何种编码。 虽然划定了一些范围,但GB和BIG5重叠的区域实在太多,有许多字用两种编码去套,好象都可以,逐个字转换,误差很大。后来发现了一个很重要的思想,就是:在混合汉字编码的流中,不同的汉字编码总是不相邻的,它们中间有西文字符隔开(因为网页中,控件值都包含在许多HTML标记之间),也就是说,如果有一个汉字确定是某种编码,则可以推断与它相邻的所有汉字都属于同一种编码。事实证明,这种思想使得转换的准确性得到大幅度的提高。 修正后的类CG2Bfilter: public class CG2BFilter : Stream { …… public override void Write(byte[] buffer, int offset, int count) { int p = offset; int q = p; int limit = offset + count; //这里定义了两个看似互相矛盾的布尔量:maybeBig,notBig,主要是让它们配合使用。maybeBig表明一段流中出现了有Big5编码特征的汉字,因此可能是大五码但不能肯定,而notBig表明一段流出现了不可能是Big5编码的汉字,则这段流肯定不是大五码。一段流只有在maybeBig为真,且notBig为假时才可能认为它是大五码。 bool maybeBig = false; bool notBig = false;
bool isChinese = false;
while( p < limit ) { if( buffer[p] >= 0x81 && buffer[p] <= 0xFE ) {//汉字 if( !isChinese ) {//此前不是汉字,先输出 WriteAscii(buffer,q,p-1-q+1);// 待处理的流是西文字符 isChinese = true; q = p; }
p++; if( p >= limit ) { break; }
if( buffer[p] >= 0x40 && buffer[p] <= 0x7E || buffer[p-1] >= 0xA1 && buffer[p-1] <= 0xA3 && buffer[p] >= 0x40 && buffer[p] <= 0xA0 || buffer[p-1] >= 0xA4 && buffer[p-1] <= 0xA9 || ( buffer[p-1] >= 0xAA && buffer[p-1] <= 0xAF || buffer[p-1] >= 0xF8 && buffer[p-1] <= 0xFD ) && buffer[p] >= 0xA1 && buffer[p] <= 0xFE ) {//很可能是BIG5,由此可以推断,这相邻的汉字串都可能是BIG5 maybeBig = true; }
if( buffer[p] >= 0x7F && buffer[p] <= 0xA0 || buffer[p-1] >= 0x81 && buffer[p-1] <= 0xA0 || buffer[p-1] == 0xC6 && buffer[p] >= 0x7F && buffer[p] <= 0x0FE || buffer[p-1] >= 0xC7 && buffer[p-1] <= 0xC8 || buffer[p-1] == 0xF9 && buffer[p] >= 0xDC || buffer[p-1] >= 0xFA ) {//肯定不是BIG,因为在此区间,BIG为空 notBig = true; maybeBig = false; } } else {//非汉字 if( isChinese ) {//此前是汉字,先输出 if( maybeBig && !notBig) { WriteBIG(buffer,q,p-1-q+1);//待处理的流是BIG5 } else {//不肯定是繁体 WriteGB2BIG(buffer,q,p-1-q+1);// 待处理的流是GB }
isChinese = false; maybeBig = false; notBig = false; q = p; } } p++; } //将while语句最后一轮循环未处理的部分在这里处理 if( isChinese ) { if( maybeBig && !notBig ) { WriteBIG(buffer,q,p-1-q+1); } else { WriteGB2BIG(buffer,q,p-1-q+1); } } else { WriteAscii(buffer,q,p-1-q+1); } }
//处理对象为GB private void WriteGB2BIG(byte[] buffer, int offset, int count){……} //处理对象为BIG5 private void WriteBIG(byte[] buffer, int offset, int count){……} //处理对象为ASCII private void WriteAscii(byte[] buffer, int offset, int count){……} …… }
应用修正过的类后,浏览器用BIG5编码浏览运行我们的软件,效果令人非常满意,几乎看不到什么乱码,已经达到了实用的效果。不过繁简切换是一个相当复杂的问题,并不是仅仅是简单地将简体字转换成繁体字就行了,有时还涉及到语义的问题。比如,简体中文中,不论“发展”的“发”还是“头发”的“发”都是同一个字,而在繁体中,它们是不同的两个字。这部分已经超出了笔者现有的水平,不在考虑之列了。 |
让你的软件支持繁体中文
最新推荐文章于 2022-04-21 17:17:41 发布