正则表达式在NLP的基本应用

• 匹配字符串

通过使用re.search(regex,string)这个方法，可以检查这个string字符串是否匹配正则表达式regex。如果匹配到，这个表达式会返回一个match对象，如果没有匹配到则返回None。

1.获取包含关键字的句子

import re
text_string = '文本最重要的来源无疑是网络。我们要把网络中的文本获取形成一个文本数据库。利用一个爬虫抓取到网络中的信息。爬取的策略有广度爬取和深度爬取。根据用户的需求，爬虫可以有主题爬虫和通用爬虫之分。'
regex = '文本'
p_string = text_string.split('。')
for line in p_string:
    if re.search(regex,line) is not None:
        print(line)

输出结果为：

文本最重要的来源无疑是网络
我们要把网络中的文本获取形成一个文本数据库

2.匹配任意一个字符

"."代替任何单个字符（换行除外）

import re
text_string = '文本最重要的来源无疑是网络。我们要把网络中的文本获取形成一个文本数据库。利用一个爬虫抓取到网络中的信息。爬取的策略有广度爬取和深度爬取。根据用户的需求，爬虫可以有主题爬虫和通用爬虫之分。'
regex = '用户.'  # "."代替任何单个字符（换行除外）
p_string = text_string.split('。')
for line in p_string:
    if re.search(regex,line) is not None:
        print(line)

输出结果为：

根据用户的需求，爬虫可以有主题爬虫和通用爬虫之分

3.匹配起始和结尾字符串

"^a"代表的是匹配所有以字母a开头的字符串，"a$"代表的是所有以字母a结尾的字符串

import re
text_string = '文本最重要的来源无疑是网络。我们要把网络中的文本获取形成一个文本数据库。利用一个爬虫抓取到网络中的信息。爬取的策略有广度爬取和深度爬取。根据用户的需求，爬虫可以有主题爬虫和通用爬虫之分。'
regex = '信息$'  # "^a"代表的是匹配所有以字母a开头的字符串，"a$"代表的是所有以字母a结尾的字符串
p_string = text_string.split('。')
for line in p_string:
    if re.search(regex,line) is not None:
        print(line)

输出结果为：

利用一个爬虫抓取到网络中的信息

4.使用中括号匹配多个字符

"[bcr]at"代表的是匹配"bat""cat"以及"rat"

import re
text_string = ['[重要的]今年第七号台风23日登陆广东东部沿海地区','上海发布车库销售监管通知：违规者暂停网签资格','[紧要的]中国对印连发强硬信息，印度急切需要结束对峙']
regex = '^\[[重紧]..\]'  # "[bcr]at"代表的是匹配"bat""cat"以及"rat"
for line in text_string:
    if re.search(regex,line) is not None:
        print(line)
    else:
        print('not match')

• 使用转义符

假如要匹配文本中的字符"\"，那么使用编程语言表示的正则表达式里将需要4个反斜杠"\\\\"：前两个和后两个分别用于在编程语言里转义成反斜杠，转换成两个反斜杠后再在正则表达式里转义成一个反斜杠。

import re
if re.search("\\\\","I have one nee\dle") is not None:
    print("match it")
else:
    print("not match")

Python里可以使用r"\\"表示，匹配一个数字的"\\d"可以写成r"\d"。

import re
if re.search(r"\\","I have one nee\dle") is not None:
    print("match it")
else:
    print("not match")

• 抽取文本中的数字

1.通过正则表达式匹配年份

import re
strings = ['War of 1812','There are 5280 feet to a mile','Happy New Year 2016!']
year_strings = []
for string in strings:
    if re.search('[1-2][0-9]{3}',string):  # {3}代表的是重复之前的[0-9]三次，是[0-9][0-9][0-9]的简化写法
        year_strings.append(string)
print(year_strings)

输出结果为：

['War of 1812', 'Happy New Year 2016!']

2.抽取所有年份

import re
years_string = '2016 was a good year, but 2017 will be better!'
years = re.findall('[2][0-9]{3}',years_string)
print(years)

输出结果为：

['2016', '2017']

参考资料：https://github.com/nlpinaction/learning-nlp