关于天池赛中零基础入门推荐系统 - 新闻推荐Task01赛题理解+Baseline

---

前言

在高速的网络、便捷的支付方式下，消费方式得到改进，网上购物也越来越流行。当你打开购物APP时，你是否有对它的推荐过程产生过疑惑，明明上一次只是随便搜了一下零食，而这一次打开，为你推荐了满屏零食，不得已，你又剁手了，真是又爱又恨呀。
同样地，当我们打开新闻APP看过文章时，接下来APP将会为你推荐一堆跟你历史浏览文章题材及其相似的文章,你是否也有对它的推荐过程产生过疑惑。
那么，接下来本篇文章将依据Datawhale的针对天池赛中零基础入门推荐系统 - 新闻推荐Task01，来分享我对此次赛题及Baseline的一些理解，也希望能够为你解答一些疑惑。

| 打卡记录NO.1

一、推荐系统是如何推荐的？

举例子：新闻APP中的新闻推荐

在用户与新闻文章进行交互之后，根据用户的历史足迹中的特征来生成用户画像，再通过用户画像来预测用户未来点击的新闻文章。

二、用户画像是如何预测用户行为的？

用户画像成为模型训练的训练样本，接着由训练样本来训练得出预测模型，最终进行算法推荐，即一般算法推荐会分成召回、排序和后排等几步。其中对分析报表进行分析，调整推荐的策略，最后再进行算法推荐中。

剖析：

1. 根据用户画像，从新闻文章池中挑选出符合的候选集，并进行初始排序。
2. 在模型排序阶段给每个文章打分，即计算出用户在未来点击某些新闻文章的概率。
3. 为用户挑选出分数相对较高的新闻文章。
4. 将得分高的新闻文章进行多样性排序。
5. 将分数最大的新闻文章推荐给用户，进而形成高效的推荐流程。

三、使用步骤

1.引入库

代码如下：

# import packages
import time, math, os
from tqdm import tqdm
import gc
import pickle
import random
from datetime import datetime
from operator import itemgetter
import numpy as np
import pandas as pd
import warnings
from collections import defaultdict
warnings.filterwarnings('ignore')

2.创建两个文件夹：

其中，data_path为保存原数据的存储路径；save_path为保存最终的数据

data_path = './data_raw/'
save_path = './tmp_results/'

3.压缩数据：

python pandas处理大数据节省内存的方法：

1. 数值类型的列进行降级处理
2. 字符串类型的列转化为类别类型（category）
3. 字符串类型的列的类别数超过总行数的一半时，建议使用object类型

代码如下：

# 节约内存的一个标配函数
def reduce_mem(df): ##遍历DataFrame的所有列并修改它们的数据类型以减少内存使用
    starttime = time.time()              #####关于time.time()用法见附录1
    numerics = ['int16', 'int32', 'int64', 'float16', 'float32', 'float64']
    start_mem = df.memory_usage().sum() / 1024**2  ##记录原数据的内存大小
    ##print('Memory usage of dataframe is {:.2f} MB'.format(start_mem))
    for col in df.columns:                    	##遍历DataFrame的所有列
        col_type = df[col].dtypes   	##读取DataFrame的所有列的数据类型
        if col_type in numerics