如此强大的可视化工具,安装方式却很简单,使用下面的命令:
pip install yellowbrick
如果需要升级最新版本的则可以使用下面的命令:
pip install –u yellowbrick
安装完成后,我们就可以进行使用了。该模块提供了几个常用的可用于实验使用的数据集,如下所示:
进入到对应数据集文件夹下面,都会有三个文件,对于bikeshare如下:
其中:bikeshare.csv为数据集文件,如:
Meta.json为字段元信息文件,如:
README.md为介绍说明文件,如:
基于共享单车数据集,简单的数据分析工作实现如下:
def testFunc5(savepath=‘Results/bikeshare_Rank2D.png’):
‘’’
共享单车数据集预测
‘’’
data=pd.read_csv(‘bikeshare/bikeshare.csv’)
X=data[[“season”, “month”, “hour”, “holiday”, “weekday”, “workingday”,
“weather”, “temp”, “feelslike”, “humidity”, “windspeed”
]]
y=data[“riders”]
visualizer=Rank2D(algorithm=“pearson”)
visualizer.fit_transform(X)
visualizer.poof(outpath=savepath)
def testFunc6(savepath=‘Results/bikeshare_temperate_feelslike_relation.png’):
‘’’
进一步考察相关性
‘’’
data=pd.read_csv(‘bikeshare/bikeshare.csv’)
X=data[[“season”, “month”, “hour”, “holiday”, “weekday”, “workingday”,
“weather”, “temp”, “feelslike”, “humidity”, “windspeed”]]
y=data[“riders”]
visualizer=JointPlotVisualizer(feature=‘temp’, target=‘feelslike’)
visualizer.fit(X[‘temp’], X[‘feelslike’])
visualizer.poof(outpath=savepath)
def testFunc7(savepath=‘Results/bikeshare_LinearRegression_ResidualsPlot.png’):
‘’’
基于共享单车数据使用线性回归模型预测
‘’’
data = pd.read_csv(‘bikeshare/bikeshare.csv’)
X=data[[“season”, “month”, “hour”, “holiday”, “weekday”, “workingday”,
“weather”, “temp”, “feelslike”, “humidity”, “windspeed”]]
y=data[“riders”]
X_train,X_test,y_train,y_test=train_test_split(X,y,test_size=0.3)
visualizer=ResidualsPlot(LinearRegression())
visualizer.fit(X_train, y_train)
visualizer.score(X_test, y_test)
visualizer.poof(outpath=savepath)
def testFunc8(savepath=‘Results/bikeshare_RidgeCV_AlphaSelection.png’):
‘’’
基于共享单车数据使用AlphaSelection
‘’’
data=pd.read_csv(‘bikeshare/bikeshare.csv’)
X=data[[“season”, “month”, “hour”, “holiday”, “weekday”, “workingday”,
“weather”, “temp”, “feelslike”, “humidity”, “windspeed”]]
y=data[“riders”]
alphas=np.logspace(-10, 1, 200)
visualizer=AlphaSelection(RidgeCV(alphas=alphas))
visualizer.fit(X, y)
visualizer.poof(outpath=savepath)
def testFunc9(savepath=‘Results/bikeshare_Ridge_PredictionError.png’):
‘’’
基于共享单车数据绘制预测错误图
‘’’
data=pd.read_csv(‘bikeshare/bikeshare.csv’)
X=data[[“season”, “month”, “hour”, “holiday”, “weekday”, “workingday”,
“weather”, “temp”, “feelslike”, “humidity”, “windspeed”]]
y=data[“riders”]
X_train,X_test,y_train,y_test=train_test_split(X,y,test_size=0.3)
visualizer=PredictionError(Ridge(alpha=3.181))
visualizer.fit(X_train, y_train)
visualizer.score(X_test, y_test)
visualizer.poof(outpath=savepath)
bikeshare_Rank2D.png特征相关性计算
bikeshare_LinearRegression_ResidualsPlot.png使用线性回归模型预测
bikeshare_RidgeCV_AlphaSelection.png使用AlphaSelection特征选择
bikeshare_Ridge_PredictionError.png绘制预测错误图
除了可以直接对数据进行分析展示之外,Yellowbrick同样可以对文本数据进行处理分析,下面我们基于爱好数据集进行简单的使用说明,具体代码实现如下所示:
def hobbiesFreqDistVisualizer():
‘’’
文本可视化
Token 频率分布:绘制语料库中令牌的频率
t-SNE 语料库可视化:绘制更接近发现聚类的类似文档
‘’’
corpus=load_corpus(“data/hobbies”)
vectorizer = CountVectorizer()
docs = vectorizer.fit_transform(corpus.data)
features = vectorizer.get_feature_names()
visualizer = FreqDistVisualizer(features=features)
visualizer.fit(docs)
visualizer.poof(outpath=‘text_hobbies_FreqDistVisualizer.png’)
#去停用词
vectorizer = CountVectorizer(stop_words=‘english’)
docs = vectorizer.fit_transform(corpus.data)
features = vectorizer.get_feature_names()
visualizer = FreqDistVisualizer(features=features)
visualizer.fit(docs)
visualizer.poof(outpath=‘text_hobbies_FreqDistVisualizer_stop_words.png’)
def hobbiesFreqDistVisualizer2():
‘’’
探索 烹饪和游戏 两种爱好的频度分布
(报错:没有label,应该为corpus.target)
‘’’
corpus=load_corpus(“data/hobbies”)
#烹饪爱好频度分布统计图
hobbies=defaultdict(list)
for text,label in zip(corpus.data,corpus.target):
hobbies[label].append(text)
vectorizer = CountVectorizer(stop_words=‘english’)
docs = vectorizer.fit_transform(text for text in hobbies[‘cooking’])
features = vectorizer.get_feature_names()
visualizer = FreqDistVisualizer(features=features)
visualizer.fit(docs)
visualizer.poof(outpath=‘text_hobbies_cooking_FreqDistVisualizer.png’)
#游戏爱好频度分布统计图
hobbies=defaultdict(list)
for text,label in zip(corpus.data, corpus.target):
hobbies[label].append(text)
vectorizer = CountVectorizer(stop_words=‘english’)
docs = vectorizer.fit_transform(text for text in hobbies[‘gaming’])
features = vectorizer.get_feature_names()
visualizer = FreqDistVisualizer(features=features)
visualizer.fit(docs)
visualizer.poof(outpath=‘text_hobbies_gaming_FreqDistVisualizer.png’)
def hobbiesTSNEVisualizer():
‘’’
t-SNE语料库可视化
T分布随机邻域嵌入,t-SNE。Scikit-Learn将此分解方法实现为sklearn.manifold.TSNE转换器。
通过使用来自原始维度和分解维度的不同分布将高维文档向量分解为二维。 通过分解为2维或3维,
可以使用散点图来显示文档。
‘’’
(1)Python所有方向的学习路线(新版)
这是我花了几天的时间去把Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
最近我才对这些路线做了一下新的更新,知识体系更全面了。
(2)Python学习视频
包含了Python入门、爬虫、数据分析和web开发的学习视频,总共100多个,虽然没有那么全面,但是对于入门来说是没问题的,学完这些之后,你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。
(3)100多个练手项目
我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了,只是里面的项目比较多,水平也是参差不齐,大家可以挑自己能做的项目去练练。