机器学习手记-入门级概念

本文介绍了机器学习的基本概念,包括其发展动力、模式以及典型应用。机器学习能从历史数据中找规律,用于未来决策,减少对数据分析师的依赖。主要应用包括关联规则分析、聚类、朴素贝叶斯分类、决策树、CTR预估和协同过滤。此外,还探讨了机器学习的离线和在线学习模式,以及有监督、无监督和强化学习等算法分类。

什么是机器学习

利用计算机从历史数据中找出规律,并把这些规律用到未来不确定场景的决策

  • 传统的数据分析行业依赖于数据分析师本身的经验和知识水平,通过机器学习则可以摆脱对数据分析师的依赖,由机器代替人工进行分析。

机器学习发展的原动力

  • 从历史数据中找到规律,把这些规律用到未来,自动做出决定
  • 用数据代替专家
  • 经济驱动,数据变现

机器学习的模式

  • 离线机器学习

    利用历史数据建立模型。例如每天夜里利用昨天的销售数据建立模型给明天使用。

  • 在线机器学习

    利用实时数据,快速建立模型并应用。例如电商实时推荐系统。

机器学习的典型应用

关联规则

购物篮分析,把常常一起出现在消费者购买清单上的物品作关联分析,发现购买规律。进而调整销售规则,比如捆绑销售。

聚类规则

将用户细分,进而达到精准营销

朴素贝叶斯

过滤垃圾邮件

决策树

信用卡欺诈

CTR预估

互联网广告

协同过滤

推荐系统

常用算法和分类

算法分类(1)

  • 有监督学习

训练数据已经被提前打好标签,典型的如分类算法和回归算法

  • 无监督学习

由算法自己完成数据聚类,典型算法如聚类算法

  • 半监督学习

强化学习,如同小孩子学走路,练的越多走得越稳

算法分类2

  • 分类与回归
  • 聚类
  • 标注

算法分类3

  • 生成模型

    根据概率判断,例如该样本60%可能性是A类,比较模棱两可。

  • 判别模型

    非1即2,例如该样本是A类,比较武断。

数据分析和机器学习

-数据分析机器学习
数据特点交易数据行为数据
数据量级少量海量
分析方式采样分析全量分析
解决问题报告过去的事情预测未来的事情
分析方法用户驱动,交互式分析数据驱动,自动进行知识发现
参与者分析师数据+算法
结果分析师能力决定结果数据质量决定结果
目标用户公司高层个体

机器学习解决问题的关键

训练模型

  • 定义模型

  • 定义损失函数

  • 优化算法
    这里写图片描述

模型评估

  • 交叉验证
  • 效果评估
    这里写图片描述
内容概要:本文详细介绍了一个基于Java和Vue的联邦学习隐私保护推荐系统的设计与实现。系统采用联邦学习架构,使用户数据在本地完成模型训练,仅上传加密后的模型参数或梯度,通过中心服务器进行联邦平均聚合,从而实现数据隐私保护与协同建模的双重目标。项目涵盖完整的系统架构设计,包括本地模型训练、中心参数聚合、安全通信、前后端解耦、推荐算法插件化等模块,并结合差分隐私与同态加密等技术强化安全性。同时,系统通过Vue前端实现用户行为采集与个性化推荐展示,Java后端支撑高并发服务与日志处理,形成“本地训练—参数上传—全局聚合—模型下发—个性化微调”的完整闭环。文中还提供了关键模块的代码示例,如特征提取、模型聚合、加密上传等,增强了项目的可实施性与工程参考价值。 适合人群:具备一定Java和Vue开发基础,熟悉Spring Boot、RESTful API、分布式系统或机器学习相关技术,从事推荐系统、隐私计算或全栈开发方向的研发人员。 使用场景及目标:①学习联邦学习在推荐系统中的工程落地方法;②掌握隐私保护机制(如加密传输、差分隐私)与模型聚合技术的集成;③构建高安全、可扩展的分布式推荐系统原型;④实现前后端协同的个性化推荐闭环系统。 阅读建议:建议结合代码示例深入理解联邦学习流程,重点关注本地训练与全局聚合的协同逻辑,同时可基于项目架构进行算法替换与功能扩展,适用于科研验证与工业级系统原型开发。
源码来自:https://pan.quark.cn/s/a4b39357ea24 遗传算法 - 简书 遗传算法的理论是根据达尔文进化论而设计出来的算法: 人类是朝着好的方向(最优解)进化,进化过程中,会自动选择优良基因,淘汰劣等基因。 遗传算法(英语:genetic algorithm (GA) )是计算数学中用于解决最佳化的搜索算法,是进化算法的一种。 进化算法最初是借鉴了进化生物学中的一些现象而发展起来的,这些现象包括遗传、突变、自然选择、杂交等。 搜索算法的共同特征为: 首先组成一组候选解 依据某些适应性条件测算这些候选解的适应度 根据适应度保留某些候选解,放弃其他候选解 对保留的候选解进行某些操作,生成新的候选解 遗传算法流程 遗传算法的一般步骤 my_fitness函数 评估每条染色体所对应个体的适应度 升序排列适应度评估值,选出 前 parent_number 个 个体作为 待选 parent 种群(适应度函数的值越小越好) 从 待选 parent 种群 中随机选择 2 个个体作为父方和母方。 抽取父母双方的染色体,进行交叉,产生 2 个子代。 (交叉概率) 对子代(parent + 生成的 child)的染色体进行变异。 (变异概率) 重复3,4,5步骤,直到新种群(parentnumber + childnumber)的产生。 循环以上步骤直至找到满意的解。 名词解释 交叉概率:两个个体进行交配的概率。 例如,交配概率为0.8,则80%的“夫妻”会生育后代。 变异概率:所有的基因中发生变异的占总体的比例。 GA函数 适应度函数 适应度函数由解决的问题决定。 举一个平方和的例子。 简单的平方和问题 求函数的最小值,其中每个变量的取值区间都是 [-1, ...
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值