文本处理 quan2ban ,

最新推荐文章于 2024-09-10 16:27:16 发布

又是花落时

最新推荐文章于 2024-09-10 16:27:16 发布

阅读量184

点赞数

CC 4.0 BY-SA版权

分类专栏： python 简单程序

本文链接：https://blog.youkuaiyun.com/u013996948/article/details/88123889

python 简单程序专栏收录该内容

5 篇文章

订阅专栏

本文介绍了一个实用的小工具，用于处理Unicode字符，包括判断字符类型（汉字、数字、英文等），以及进行全角与半角字符转换。通过提供的Python代码，读者可以了解如何实现这些功能，并应用于实际的文本处理任务中。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

下面这个小工具包含了判断unicode是否是汉字，数字，英文，或者其他字符。全角符号转半角符号。 unicode字符串归一化等工作。

#!/usr/bin/env python

# -*- coding:GBK -*- 


"""汉字处理的工具:

判断unicode是否是汉字，数字，英文，或者其他字符。

全角符号转半角符号。"""


def is_chinese(uchar):

        """判断一个unicode是否是汉字"""

        if uchar >= u'/u4e00' and uchar<=u'/u9fa5':

                return True

        else:

                return False


def is_number(uchar):

        """判断一个unicode是否是数字"""

        if uchar >= u'/u0030' and uchar<=u'/u0039':

                return True

        else:

                return False


def is_alphabet(uchar):

        """判断一个unicode是否是英文字母"""

        if (uchar >= u'/u0041' and uchar<=u'/u005a') or (uchar >= u'/u0061' and uchar<=u'/u007a'):

                return True

        else:

                return False


def is_other(uchar):

        """判断是否非汉字，数字和英文字符"""

        if not (is_chinese(uchar) or is_number(uchar) or is_alphabet(uchar)):

                return True

        else:

                return False


def B2Q(uchar):

        """半角转全角"""

        inside_code=ord(uchar)

        if inside_code<0x0020 or inside_code>0x7e:      #不是半角字符就返回原来的字符

                return uchar

        if inside_code==0x0020: #除了空格其他的全角半角的公式为:半角=全角-0xfee0

                inside_code=0x3000

        else:

                inside_code+=0xfee0

        return unichr(inside_code)


def Q2B(uchar):

        """全角转半角"""

        inside_code=ord(uchar)

        if inside_code==0x3000:

                inside_code=0x0020

        else:

                inside_code-=0xfee0

        if inside_code<0x0020 or inside_code>0x7e:      #转完之后不是半角字符返回原来的字符

                return uchar

        return unichr(inside_code)


def stringQ2B(ustring):

        """把字符串全角转半角"""

        return "".join([Q2B(uchar) for uchar in ustring])


def uniform(ustring):

        """格式化字符串，完成全角转半角，大写转小写的工作"""

        return stringQ2B(ustring).lower()


def string2List(ustring):

        """将ustring按照中文，字母，数字分开"""

        retList=[]

        utmp=[]

        for uchar in ustring:

                if is_other(uchar):

                        if len(utmp)==0:

                                continue

                        else:

                                retList.append("".join(utmp))

                                utmp=[]

                else:

                        utmp.append(uchar)

        if len(utmp)!=0:

                retList.append("".join(utmp))

        return retList


if __name__=="__main__":

        #test Q2B and B2Q

        for i in range(0x0020,0x007F):

                print Q2B(B2Q(unichr(i))),B2Q(unichr(i))


        #test uniform

        ustring=u'中国 人名ａ高频Ａ'

        ustring=uniform(ustring)

        ret=string2List(ustring)

        print ret