原文:
towardsdatascience.com/craft-a-customized-word-cloud-trivia-game-with-python-cff7df28501d
快速成功数据科学
游戏之夜词云(作者制作)
你厌倦了游戏之夜的老套桌游了吗?如果你懂一点 Python,你可以轻松制作一个带有词云的定制知识问答游戏。
词云是一种用于显示文本数据的视觉表示,用于在网站上显示称为标签的关键字元数据。在词云中,字体大小或颜色显示了每个标签或单词的重要性。
这里有三个示例词云测验;你能猜出两部电影和一首歌(答案在本篇文章的末尾):
一部电影词云(作者制作)
另一部电影词云(作者制作)
一首流行歌曲词云(作者制作)
你可以使用这种技术为电影、音乐、小说、历史事件等生成定制测验。它们也适用于更严肃的应用,如培训练习。最好的是,它们可以根据你想要的任何主题进行定制。
在这个快速成功数据科学项目中,我们将制作电影知识问答游戏的测验卡和答题卡。作为这个过程的一部分,我们将直接从维基百科电影页面抓取数据。使用这个基本模板,你应该能够将程序适应到其他用途。
安装库
除了 Python 之外,你还需要以下库:
-
NumPy: 用于创建数组。
-
Matplotlib: 用于绘图。
-
pillow: 用于处理词云图像。
-
requests: 用于发起 HTTP 请求。
-
beautifulsoup4: 用于从 HTML 文件中提取数据。
你可以在之前的链接中找到pip的安装说明。
如果你使用 Anaconda,请创建并激活 conda 环境,然后在命令行中输入以下内容:
conda install numpy matplotlib pillow requests beautifulsoup4
然后是:
pip install wordcloud
代码
以下代码是在 JupyterLab 中编写的,可以从这个Gist下载。
导入库和添加链接及停用词
以下代码导入第三方库,创建电影名称及其维基百科页面链接的字典,并创建一个停用词集合。停用词是简短的非上下文单词(如“so”、“if”和“the”),我们不希望它们使我们的词云杂乱。
import matplotlib.pyplot as plt
from matplotlib import patches
import requests
from bs4 import BeautifulSoup
from wordcloud import WordCloud, STOPWORDS
# Create a dictionary of movie Wikipedia pages:
urls = {'avengers infinity war': 'https://w.wiki/3hxu',
'avengers end game': 'https://w.wiki/3hHY',
'deathly hallows 1': 'https://w.wiki/9PuP',
'deathly hallows 2': 'https://w.wiki/8u8Y'}
# Capture stopwords for later removal:
stopwords = set(STOPWORDS)
# stopwords.update(['us', 'one'] # Add additional stopwords if needed.
# colormap = 'Dark2' # Option to change default color scheme.
要获取 URL,我导航到相应的维基百科页面,然后点击工具菜单,接着点击获取缩短的 URL。这样做可以保持行长度不会变得过长和难以处理。
还要注意,你可以向从词云库获得的预填充列表中添加停用词。只需取消注释上一个单元格中的stopwords.update()行,并将新单词添加到列表中。你只需要在发现某些词云中遗漏了无用的单词时这样做。
最后,如果你想更改词云的颜色方案,取消注释最后一行并提供颜色映射。你可以在这个网站找到示例颜色映射。
定义一个从维基百科提取文本的函数
以下代码定义了一个函数,用于加载维基百科页面 URL,提取“Plot”标题下的电影简介,并将文本作为字符串返回。我们将使用此文本来构建词云。
def extract_plot_text(url):
"""Extract text from 'Plot' section of Wikipedia film page."""
response = requests.get(url, timeout=10) # 10 second timeout.
soup = BeautifulSoup(response.content, 'html.parser')
plot_header = soup.find('span', {'id': 'Plot'})
if plot_header:
plot_text = ''
next_element = plot_header.find_next()
while next_element and next_element.name != "h2":
if next_element.name == "p":
plot_text += next_element.get_text() + "n"
next_element = next_element.find_next()
return plot_text.strip()
该函数使用 requests 库获取 URL,并使用 BeautifulSoup 解析输出。我们使用 BeautifulSoup 查找具有“Plot”ID的span元素。如果找到图表标题,我们初始化一个字符串(plot_text)来保存文本。
接下来,我们开始遍历结果,查找被标记为p的段落并将它们连接到字符串中。然后我们使用strip()字符串方法在返回字符串之前移除前导和尾随空白字符。
定义一个制作词云的函数
接下来,我们定义一个函数,该函数使用词云库从提取的文本中制作词云。
def make_wordcloud(text):
"""Return a word cloud object for a corpus."""
return WordCloud(max_words=50,
width=800,
height=500,
relative_scaling=0.2,
mask=None,
background_color='white',
stopwords=stopwords,
margin=5,
random_state=1).generate(text)
这里的一些关键参数包括max_words,它决定了云中的单词数量,stopwords,它过滤掉我们的停用词集合,以及random_state,它设置随机种子数,以便我们可以重现词云。要查看所有可用参数的列表和描述,请访问这个网站。
如果你选择使用非默认的颜色映射,如前所述,在调用WordCloud()时需要添加以下参数:
colormap=colormap
定义一个绘制图形轮廓的函数
现在我们定义一个函数,该函数使用 Matplotlib patches在每一个词云周围绘制矩形轮廓。
def add_outline_to_figure(fig):
"""Add a black outline to the given figure."""
rect = patches.Rectangle((0, 0), 1, 1,
transform=fig.transFigure,
fill=False,
color='black',
linewidth=2,
zorder=1000)
fig.add_artist(rect)
此函数直接在现有图形上工作,因此不返回任何内容。
定义一个生成测验的函数
最终的函数将所有内容整合在一起,制作词云卡片和答案键。卡片以 PNG 文件保存,答案键以文本文件保存。
def make_quiz(url_dict):
"""Generate final figures and return answer key."""
answers = []
for i, (key, value) in enumerate(url_dict.items()):
answers.append((i + 1, key))
plot = extract_plot_text(value)
wc = make_wordcloud(plot)
# Convert cloud into NumPy array to use with matplotlib:
colors = wc.to_array()
# Make the word cloud figure:
fig = plt.figure()
plt.title(f'Quiz #{i + 1}')
plt.imshow(colors, interpolation="bilinear")
plt.axis("off")
plt.tight_layout()
# Add outline with dimensions of the figure:
add_outline_to_figure(fig)
# Save and show figure:
fig.savefig(f'{key}.png', dpi=600)
plt.show()
return answers
注意,我们在每张卡片上添加了一个标题,例如,“测验 1”,这样我们就可以将其与答案键匹配。
运行程序
以下代码首先调用前面的函数,然后将答案键保存为文本文件。
# Generate the figures and answer key:
answer_key = make_quiz(urls)
# Save the answers as a text file:
with open('answer_key.txt', 'w') as f:
for item in answer_key:
print(f"Quiz {item[0]}: {item[1]}", file=f)
这里是一个答案键的示例:
答案键(作者制作)
下面是词云卡片:
《复仇者联盟:无限战争》词云(作者制作)
《复仇者联盟:终局之战》词云(作者制作)
《哈利·波特与死亡圣器(上)》词云(作者制作)
《哈利·波特与死亡圣器(下)》词云(作者制作)
摘要
词云提供了一种快速生成可定制测验的方法,用于游戏或训练练习。使用 Python,你可以轻松创建一个管道,从互联网上抓取数据并用于填充词云。
答案
-
《如何训练你的龙》
-
《波斯王子》
-
唐纳德·法根的 “IGY”
谢谢!
感谢阅读,请关注我,未来还有更多“快速成功数据科学”项目。
696

被折叠的 条评论
为什么被折叠?



