【机器学习】KNN算法入门：从零到电影推荐实战

最新推荐文章于 2025-08-19 13:45:29 发布

原创最新推荐文章于 2025-08-19 13:45:29 发布 · 1.4k 阅读

24 ·

CC 4.0 BY-SA版权

文章标签：

#机器学习 #算法 #人工智能 #KNN算法 #LLM #pytorch #开发语言

0基础实现机器学习入门到精通专栏收录该内容

38 篇文章

订阅专栏

Langchain系列文章目录

01-玩转LangChain：从模型调用到Prompt模板与输出解析的完整指南
 02-玩转 LangChain Memory 模块：四种记忆类型详解及应用场景全覆盖
 03-全面掌握 LangChain：从核心链条构建到动态任务分配的实战指南
 04-玩转 LangChain：从文档加载到高效问答系统构建的全程实战
 05-玩转 LangChain：深度评估问答系统的三种高效方法（示例生成、手动评估与LLM辅助评估）
06-从 0 到 1 掌握 LangChain Agents：自定义工具 + LLM 打造智能工作流！
07-【深度解析】从GPT-1到GPT-4：ChatGPT背后的核心原理全揭秘

PyTorch系列文章目录

Python系列文章目录

机器学习系列文章目录

01-什么是机器学习？从零基础到自动驾驶案例全解析
 02-从过拟合到强化学习：机器学习核心知识全解析
 03-从零精通机器学习：线性回归入门
 04-逻辑回归 vs. 线性回归：一文搞懂两者的区别与应用
 05-决策树算法全解析：从零基础到Titanic实战，一文搞定机器学习经典模型
 06-集成学习与随机森林：从理论到实践的全面解析
 07-支持向量机（SVM）：从入门到精通的机器学习利器
08-【机器学习】KNN算法入门：从零到电影推荐实战

前言

在如今的数字化时代，推荐系统无处不在：Netflix为你推荐电影，Spotify推送音乐，淘宝建议商品。这些智能推荐背后，常常隐藏着一种简单却强大的算法——K-近邻（KNN）算法。作为机器学习中最直观的算法之一，KNN不仅易于理解，还广泛应用于分类、回归和推荐系统中。

本文将带你从零开始认识KNN算法，深入剖析其原理、距离度量方法及优缺点，并通过一个电影推荐的实际案例，展示KNN在推荐系统中的应用。无论你是机器学习小白，还是想探索推荐系统奥秘的开发者，这篇文章都将为你提供清晰的知识框架和实操指导。让我们一起揭开KNN的神秘面纱吧！

一、KNN算法基础

1.1 什么是KNN算法

1.1.1 KNN的核心思想

K-近邻（K-Nearest Neighbors，简称KNN）算法的本质可以用一句俗语概括：“近朱者赤，近墨者黑”。它假设一个样本的类别或值由它周围的邻居决定。想象你在陌生的城市找朋友，你会问离你最近的几个人，他们的回答很可能代表了附近的情况——KNN就是这么简单、直观。

1.1.2 KNN的工作流程

KNN的工作分为三个步骤：

计算距离：测量待预测样本与训练集中所有样本的距离。
选择邻居：找出距离最近的K个样本。
做出预测：通过多数投票（分类）或平均值（回归）决定结果。

比如，预测一部电影是否受欢迎，可以看用户评分中离它最近的K部电影的评价。

1.2 KNN的特点

1.2.1 懒惰学习

KNN没有传统意义上的训练过程，它直接记住训练数据，预测时才计算。这种“懒惰学习”让它实现简单，但也带来了一些挑战，比如大数据时的计算开销。

1.2.2 应用场景

KNN不仅能做分类（比如判断邮件是否为垃圾邮件），还能做回归（比如预测房价），甚至在推荐系统中大放异彩。

二、KNN算法的原理

2.1 距离度量

KNN的核心是找到“最近的邻居”，而“近”是由距离决定的。以下是几种常见的距离度量方法：

2.1.1 欧氏距离

欧氏距离是最直观的距离，相当于两点间的直线距离。公式为：

$\ d = \sqrt{(x_1 - y_1)^2 + (x_2 - y_2)^2} ]$

比如，比较两部电影的评分向量，欧氏距离可以衡量它们的相似性。

2.1.2 曼哈顿距离

曼哈顿距离像是在城市街区走路，只能沿坐标轴移动。公式为：

$d = |x_1 - y_1| + |x_2 - y_2| ]$

它适用于特征差异较大的场景。

2.1.3 余弦相似度

余弦相似度不直接计算距离，而是通过向量夹角衡量相似性，常用于推荐系统。公式为：

$\text{cosine similarity} = \frac{\sum (x_i \cdot y_i)}{\sqrt{\sum x_i^2} \cdot \sqrt{\sum y_i^2}} ]$

距离越小（夹角越小），样本越相似。

2.2 K值的选择

2.2.1 K值的作用

K值决定了参考多少个邻居。K太小，容易被噪声干扰；K太大，可能会忽略局部特性。

2.2.2 如何确定K值

通常通过交叉验证选择K值。一个经验法则是取K为训练样本数的平方根（(\sqrt{n})），然后根据验证集效果调整。

2.3 预测规则

2.3.1 多数投票

在分类任务中，K个邻居中哪个类别最多，预测结果就是这个类别。

2.3.2 加权预测

为了更精确，可以给邻居加权重，距离近的邻居影响更大。权重通常与距离成反比。

三、KNN在推荐系统中的应用

3.1 推荐系统的基本原理

推荐系统通过分析用户行为或物品特征，为用户推荐感兴趣的内容。KNN在其中扮演了重要角色，尤其是在协同过滤中。

3.1.1 协同过滤

协同过滤基于“相似的人喜欢相似的东西”。比如，你和朋友口味相似，他喜欢的电影你可能也喜欢。

3.1.2 用户与物品视角

用户视角：找与目标用户相似的其他用户，推荐他们喜欢的内容。
物品视角：找与用户喜欢物品相似的其他物品进行推荐。

3.2 KNN在电影推荐中的实现

3.2.1 数据准备

我们以MovieLens数据集为例，它包含用户对电影的评分。目标是根据用户评分，推荐相似的电影。

3.2.2 KNN模型构建

这里使用物品-based KNN，步骤如下：

构建评分矩阵：行是用户，列是电影，值为评分。
计算电影相似性：用余弦相似度衡量电影间的距离。
推荐电影：为用户喜欢的电影找到K个最相似电影。

以下是Python代码示例：

import pandas as pd
from sklearn.neighbors import NearestNeighbors

# 加载数据
ratings = pd.read_csv('ratings.csv')
movies = pd.read_csv('movies.csv')

# 构建用户-电影评分矩阵
matrix = ratings.pivot(index='userId', columns='movieId', values='rating').fillna(0)

# 初始化KNN模型
knn = NearestNeighbors(metric='cosine', algorithm='brute')
knn.fit(matrix.T)  # 转置矩阵，按电影计算相似性

# 为电影ID=1推荐相似电影
movie_id = 1
distances, indices = knn.kneighbors(matrix.T.loc[movie_id].values.reshape(1, -1), n_neighbors=5)

# 输出推荐结果
print(f"与电影 {movies[movies['movieId'] == movie_id]['title'].values[0]} 最相似的5部电影：")
for idx in indices[0]:
    print(movies[movies['movieId'] == matrix.T.index[idx]]['title'].values[0])