图解|高性能服务器设计之缓存系统一致性

图解|高性能服务器设计之缓存系统一致性 我个人认为,如果你想靠着背面试题来获得心仪的offer,用癞蛤蟆想吃天鹅肉形容完全不过分。想必大家能感受到面试越来越难,想找到心仪的工作也是越来越难,高薪工作羡慕不来,却又对自己目前的薪资不太满意,工作几年甚至连一个应届生的薪资都比不上,终究是错付了,错付了自己没有去提升技术。这些面试题分享给大家的目的,其实是希望大家通过大厂面试题分析自己的技术栈,给自己梳理一个更加明确的学习方向,当你准备好去面试大厂,你心里有底,大概知道面试官会问多广,多深,避免面试的时候一问三不知。 阅读详情

缓存系统交互

缓存系统设计是后端开发人员的必备技能,也是实现高并发的重要武器。

对于读多写少的场景,我们通常使用内存型数据库作为缓存,关系型数据库作为主存储,从而形成两层相互依赖的存储体系。

共识:我们将使用Redis和MySQL作为缓存和主存的实体,展开今天的话题。

缓存系统需要处理读取场景和更新场景:

  • 读取时只要之前MySQL和Redis中的数据是一致的,后续只要没有更新操作就不会有什么问题,借助于内存读取速度来提高并发能力,这也是我们设计缓存系统的初衷。

  • 单纯读取的情况并不多,即使是读多写少的业务模型,也还是会有更新操作,由于操作MySQL和Redis并非天然的原子操作,因此需要我们特殊处理。

​读取过程示意:

读取过程: 读请求优先从缓存中获取数据,拿到后即可返回,完成交互; 如缓存无数据,则从主存储拿数据,并且将数据更新回写到缓存中,为后续的读取请求做铺垫。

更新过程之所以会出现数据不一致问题,有内外两大原因:

  • 内部原因:Redis和MySQL的更新不是天然的原子操作,非事务性的组合拳。

  • 外部原因:实际中的读写请求是并发且无序的,可预测性很差,完全不可控。

数据不一致的感知

我们来看个实际中的例子,进一步了解缓存系统的数据不一致问题。

平时上下班挤地铁的时候,我们经常会听网易云,比如我喜欢听民谣,所有会关注官方发布的一些民谣歌曲榜单,如图:

​这是个非常典型的读多写少的场景,因为歌单是网易云的运营同学配置的,作为用户我们是无法修改的歌单的内容的。

所以假如我是网易云的后端同学,我肯定会把歌单的信息存储在Redis中,缓存下来提高性能,大概可以是这个样子:

​假如因为版权问题,运营删除了一首歌,此时更新了MySQL,但是如果Redis中的数据并没有及时被更新,那么就会有一部分用户在歌单中看到本已被删除的歌曲,点击时可能无法播放等。

画外音:这就是缓存和主存储的数据不一致的现象,当然具体网易云是咋实现的,咱也不清楚,上述的场景纯属作者脑补来说明不一致问题的直观实例。

【文章福利】另外小编还整理了一些C++后端开发面试题,教学视频,后端学习路线图免费分享,需要的可以自行添加:学习交流群720209036 自取

小编强力推荐C++后端开发免费学习地址:C/C++Linux服务器开发高级架构师/C++后台开发架构师​icon-default.png?t=M4ADhttps://link.zhihu.com/?target=https%3A//ke.qq.com/course/417774%3FflowToken%3D1013189

理性看待不一致问题

数据一致性可以说是分布式系统中必然存在的问题,数据一致性可以分为:

  • 强一致性:时时刻刻保持一致。

  • 最终一致性:允许短暂的不一致,但是最后还是一致的。

要实现缓存和主存储的强一致性,需要借助于复杂的分布式一致性协议等,倒不如不用缓存,毕竟缓存的优势还是读多写少的场景。

画外音:缓存并不是什么万金油,对于写多读少的场景,或许并不是适合用缓存,劝大家不要唯缓存论。

在工程上大部分场景下最终一致性就足够了,因此我们将问题转化为:

在保证数据最终一致性的前提下,如何把数据不一致带来的影响降低到业务可接受的范围内。

更新还是删除是个问题

当MySQL被更新时,我们如何处理Redis中的老数据呢?

江湖上有两种常见的做法,我们一起来看看:

  • 删除操作:直接将key淘汰掉,是否再次被加载由后续读请求决定,本次只负责删除,只管杀不管埋。

  • 更新操作:直接update发生变化的key,相当于帮后面的请求做了加载的操作,管杀管埋。

可以明确一点删除操作直接操作就行,但是更新操作可能涉及的处理步骤更多,也就是update比delete更复杂。

还有一点,我们需要尽量保证Redis中的数据都是热数据,update每次都会使得数据驻留在Redis中,或许这是没有必要的,因为这些可能是冷数据,至于要加载哪些数据,还是交给后面的请求比较合适。

综上,我们更倾向于将delete操作作为通用的选择,因此文章后续都是基于删除缓存的策略来展开的。

如何解决不一致问题

Redis和MySQL的数据不一致产生的根源是:业务进行更新/写入操作。

先操作Redis 还是 先操作MySQL是个问题,操作时序不同产生的影响也不同。

尺有所短,寸有所长,说到底是一种权衡,哪一种组合产生的负面影响对业务最小,就倾向于哪种方案。

缓存系统的数据不一致问题,是个经典的问题,因此肯定有很多解决问题的套路,所以让我们带着分析和思考去看看,各个方案的利弊。

思路一:设置缓存过期时间

当向Redis写入一条数据时,同时设置过期时间x秒,业务不同过期时间不同。

过期时间到达时Redis就会删掉这条数据,后续读请求Redis出现Cache Miss,进而读取MySQL,然后把数据写到Redis。

如果发生更新操作时,只操作MySQL,那么Redis中的数据更新就只是依赖于过期时间来保底。

换句话说:如果某个key的数据目前在缓存中,当数据发生更新时,只写MySQL并不写Redis,在更新数据后且缓存过期前的这段时间内,读取的数据是不一致的。

画外音:这种方案是最简单的,如果业务对短时间不一致问题并不在意,设置过期时间的方案就足够了,没有必要搞太复杂。

思路二:先淘汰缓存&再更新主存

为了防止其他线程读到缓存中的旧数据,干脆淘汰掉,然后把数据更新到主存储,后续的请求再次读取时触发Cache Miss,从而读取MySQL再将新数据更新到Redis。

  • 在T1时刻:Redis和MySQL对于age的值都是18,二者一致;

  • 在T2时刻:有更新请求需要设置age=20,此时Redis中就没有age这个数据了;在完成Redis淘汰后,进行MySQL数据更新age=20;

这个方案听着还不错的样子,但是读写请求都是并发的,先后顺序完全无法预测,甚至后发出的请求先处理完成,也是很常见的。

因此就造成一个明显的漏洞:在淘汰Redis的数据完成后,更新MySQL完成之前,这个时间段内如果有新的读请求过来,发现Cache Miss了,就会把旧数据重新写到Redis中,再次造成不一致,并且毫无察觉后续读的都是旧数据。

画外音:这个方案其实不能说完全没有用,但是至少不完美吧,还可以再想想别的方案。

思路三:先更新主存&再淘汰缓存

先更新MySQL,成功之后淘汰缓存,后续读取请求时触发Cache Miss再将新数据回写Redis。

​这种模式在更新MySQL和淘汰Redis这段时间内,请求读取的还是Redis的旧数据,不过等MySQL更新完成,就可以立刻恢复一致,影响相对比较小。

但是,假如T0时刻读取的数据在缓存没有,那么触发Cache Miss后会产生回写,假如这个回写动作是在T4时刻完成,那么写入的还是老数据,如图:

​这种情况确实有问题,但是真是好巧不巧:

  • 事件A:更新MySQL前出现一个读请求,且缓存中无数据出现cache miss

  • 事件B:T3时刻回写Redis的操作才完成,在此之前T2时刻清除了缓存

那么发生问题的概率就是P(A)*P(B),从实际考虑这种综合事件发生的概率非常低,因为写操作远慢于读操作。

也就是实际场景中上图中更新MySQL&淘汰缓存的操作耗时更久,可以把之前回写到Redis老数据给清除掉。

画外音:先更新MySQL再淘汰Redis的方案,虽然存在小概率不一致问题,但是总体来说工程上是可用的,比如非要说写完MySQL挂了,Redis就没淘汰,这种情况只能说确实有问题。

思路四:延时双删策略

前面提到的思路二和思路三都只有一次Redis淘汰操作,这里要说的延时双删本质上是思路二和思路三的结合:

说实话个人觉得,这个方案有点堆操作的感觉,而且设置延时的目的是为了避免思路三的小概率问题,延时设置多久不好确定,二来延时降低了并发性能,同时前置的删除缓存操作起到的作用并不大。

这个方案倒是透露出一种思想:多删几次,可能一致性更有保证,那确实如此。

画外音:这个方案也不是说不行,其实有点麻烦,并且在复杂高并发场景中反而影响性能,要是一般的场景或许也能用起来。

思路五:异步更新缓存

既然直接操作MySQL和Redis都多少存在一些问题,那么能不能引入中间层来解决问题呢?

把MySQL的更新操作完成后不直接操作Redis,而是把这个操作命令(消息)扔到一个中间层,然后由Redis自己来消费更新数据,这是一种解耦的异步方案。

​单纯为了更新缓存引入中间件确实有些复杂,但是像MySQL提供了binlog的同步机制,此时Redis就作为Slave进行主从同步,实现数据的更新,成本也还可以接受。

画外音:引入中间层思想真是万金油啊!

总结一下

本文主要介绍了以下几个关键内容:

  • 缓存系统适用的场景:读多写少。

  • 缓存系统的读写基本交互过程,读很简单,写有点复杂。

  • 缓存系统写时的不一致问题有内外两个因素:外部读写的并发无序性和内部操作非原子性。

  • 使用缓存系统,我们就需要接受最终一致性的前提,否则不建议用缓存。

  • 解决缓存数据不一致的思路有很多,或多或少都有不足,具体用哪种,需要根据实际业务场景,没有哪种方案是普遍适用的。

原文链接:图解|高性能服务器设计之缓存系统一致性

RISC-V内存子系统设计:高速缓存与总线架构图解说明 深入解析RISC-V架构下的内存子系统设计,重点剖析高速缓存机制与总线连接方式,帮助理解risc-v处理器在高性能场景中的数据流动与存储优化策略。 阅读详情

相关推荐

如何使用缓存优化系统性能?

平时使用拦截器(例如 Fiddler)或浏览器 Debug 时,我们经常会发现一些接口返回 304 状态码 + Not Modified 字符串,如下图中的极客时间 Web 首页。如果我们对前端缓存技术不了解,就很容易对此感到困惑。浏览器常用的一种缓存就是这种基于 304 响应状态实现的本地缓存了,通常这种缓存被称为协商缓存。协商缓存,顾名思义就是与服务端协商之后,通过协商结果来判断是否使用本地缓存。一般协商缓存可以基于请求头部中的 If-Modified-Since 字段与返回头部中的 Last。

技术与业务融合思维 916

redis 系统不可用了,怎么办? 如何设计一个高可用的缓存系统, 项目中的三级缓存?

内存缓存用于快速读取和写入数据,磁盘缓存用于持久化数据,数据库缓存用于备份数据和提供数据一致性。1. 使用主从复制:通过设置Redis的主从复制机制,可以实现数据的备份和故障转移,提高系统的可用性。4. 事务处理:在更新数据时,使用事务处理机制,保证多个操作的原子性,避免数据不一致的情况发生。1. 缓存更新策略:在数据更新时,需要及时更新缓存数据,保持缓存数据和数据库数据的一致性。2. 缓存失效策略:设置缓存的失效时间,定期刷新缓存数据,避免数据过期导致的一致性问题。

EchoYa!的博客 470

Kafka 高性能架构设计深度剖析(附实战图解)

本文深度剖析Kafka高性能架构设计,通过实战图解展示其核心原理。从顺序写入、批量处理到页缓存与零拷贝技术,详细解析Kafka如何实现单机百万级消息吞吐。特别针对设计架构优化,提供生产者与消费者关键参数配置建议,帮助开发者充分发挥Kafka的性能潜力。

weixin_30566063的博客 360

如何设计一个高可用的缓存系统

如何设计一个高可用的缓存系统

ego_rainki 528

ACE协议深度对比:ARM多核缓存一致性到底怎么实现的?

本文深入解析了ARM AMBA总线协议中的ACE协议,及其在维护多核处理器缓存一致性中的核心作用。文章对比了ACE、ACE-Lite与ACE5协议的关键差异,重点剖析了Snoop过滤机制与DVM事务如何显著提升系统性能与能效,并以手机SoC为例,阐述了协议升级对DDR带宽利用率和用户体验的实际影响。

weixin_29231725的博客 155

第二十三章 Nest集成日志框架Winston

Winston是一个非常流行的Node.js日志框架,而Nest.js是一个基于Node.js的后端框架。修改 winston.module.ts 内容如下 添加 forRoot 方法,接收 winston 的 createLogger 方法的参数,返回动态模块的 providers、exports。这里用到了 printf 的 format 函数,它可以自定义打印的日志格式 且使用了chalk 加上了颜色,并且打印了 dayjs 格式化的时间。可以看到控制台打印了自定义的 logger 的自定义。

枫ゞ的博客 1071

详解分布式系统的缓存设计

作者:vivo互联网服务器团队-Zhang Peng​一、缓存简介1.1 什么是缓存缓存就是数据交换的缓冲区。缓存的本质是一个内存 Hash。缓存是一种利用空间换时间的设计,其目标就是更快、更近:极大的提高。将数据写入/读取速度更快的存储(设备);将数据缓存到离应用最近的位置;将数据缓存到离用户最近的位置。缓存是用于存储数据的硬件或软件的组成部分,以使得后续更快访问相应的...

架构文摘 1459

南邮-软件设计实验(C++版)

南邮软件设计 A档 一、分数统计 课题内容:   设计一个分数统计程序。包括学生信息的输入输出以及排序。通过该课题全面熟悉数组、字符串、文件的使用,掌握程序设计的基本方法及友好界面的设计。 课题要求: (1)输入某班级学生的姓名、分数; (2)对(1)的分数进行降幂排列并输出; (3)具有输入输出界面。 示例代码: #include<bits/stdc++.h> using...

Dainelcw 1万+

缓存一致性的常见方案

缓存一致性的常见方案

Insect_boy的博客 1131

Android Audio常见问题分析方法

分析audio dump,确定写给BT的data是否正常,MTK平台Android原生架构分析threadloop write节点,高通平台分析QXDM 1586节点,从dump确定问题大概位置。分析systrace 确定性能。AudioFocus状态(用于播放或者音量异常的情况)。AudioTrack是否正常创建bt连接是否正常通路异常,setMode,setSpeakerphoneOn等都会影响设备选择,sco调用流程是否正常。

一条老狗的博客 2391

基于STM32设计的便携式心电信号监测系统_474

本课题设计并实现了一种基于STM32单片机的便携式心电信号监测系统。系统以STM32F103C8T6为核心控制单元,结合PulseSensor心率传感器,实现对人体心率信号的采集与处理。通过单片机内部ADC模块对传感器输出的模拟电压信号进行采样,并对采集数据进行分析处理,从而计算得到实时心率值。

168

2024年最新图解|高性能服务器设计之缓存系统一致性,Java面试复习重点

在这个部分总结了2019年到目前为止Java常见面试问题,取其面试核心编写成这份文档笔记,从中分析面试官的心理,摸清面试官的“套路”,可以说搞定90%以上的Java中高级面试没一点难度。本节总结的内容涵盖了:消息队列、Redis缓存、分库分表、读写分离、设计高并发系统、分布式系统、高可用系统、SpringCloud微服务架构等一系列互联网主流高级技术的知识点。(上述只是一个整体目录大纲,每个点里面都有如下所示的详细内容,从面试问题——分析面试官心理——剖析面试题——完美解答的一个过程)

2401_84584535的博客 450

34、婴儿监视器应用开发指南

本文详细介绍了基于 ESP32 和 Edge Impulse 开发婴儿监视器应用的全过程,涵盖音频处理、机器学习推理、ESP RainMaker 平台集成以及内存监控等功能。通过实现 AppAudio、AppRmaker 和 AppMem 三个核心类,完成了婴儿哭声的实时检测与远程通知,并通过合理的内存管理优化,有效节省了 ESP32 的内部 RAM 资源。文章还提供了完整的代码示例和配置说明,适用于物联网和嵌入式 AI 应用开发爱好者参考学习。

python9snake的博客 95

redis缓存过期更新mysql_Redis缓存系列--(六)缓存和数据库一致性更新原则

缓存和数据库一致性更新原则缓存是一种高性能的内存的存储介质,它通过key-value的形式来存储一些数据;而数据库是一种持久化的存储复杂关系的存储介质。使用缓存和数据库结合的模式就使得软件系统的性能得到了更好的提升(更好的存储介质,更贴近请求的存储距离,比如本地缓存),并且给系统提供了更简便的数据抽象。缓存和数据库一致性更新的本质就是要保证用户访问缓存和数据库中的数据都是一样的!。数据一致性的必要...

weixin_39633054的博客 1137

【00】虹软2023届校招专场 ,计算机类笔试攻略(笔试考试时间、考察范围、笔试难度 等说明)

虹软科技2023校招笔试攻略:三大岗位类别(算法、算法优化、开发)分别于7月24日进行。题型包括选择题、编程题和问答题,其中算法类题目降低难度,编程题改为LeetCode模式。重点考察数学基础、机器学习、编程能力(C/C++/Python)、数据结构和算法优化等。建议根据投递岗位选择问答题,算法优化类注重系统知识和SIMD优化,开发类侧重多线程等实际应用能力。笔试结果将作为校招offer的重要参考。

程序员,他们想的是什么?他们想的永远都是技术,他们崇尚的也永远都是技术。 277

Graphviz安装及使用:决策树可视化

Python大数据分析与机器学习学习笔记 Graphviz安装及使用:决策树可视化

算法工程师 1万+

深入理解分布式系统中的缓存架构

阅读文本大概需要10分钟。本文主要介绍大型分布式系统中缓存的相关理论,常见的缓存组件以及应用场景。1 缓存概述!缓存主要分为以下四类!基本介绍CDN(Content De...

天行健,君子以自强不息;地势坤,君子以厚德载物。 444

华为OD机试双机位C卷-部门人力分配 (Py/Java/C/C++/Js/Go)

华为OD机试(机考)双机位C卷 【部门人力分配】,提供C语言、Java、C++、Python、Go、JavaScript源码实现,并提供完整思路讲解,以及在线OJ模拟做题。华为OD机试 - 部门人力分配。

qq_45776114的博客 1878

理解分布式系统中的缓存架构

本文主要介绍大型分布式系统中缓存的相关理论,常见的缓存组件以及应用场景。 1 缓存概述 2 缓存的分类 缓存主要分为以下四类 2.1 CDN缓存 基本介绍 CDN(Content Delivery Network 内容分发网络)的基本原理是广泛采用各种缓存服务器,将这些缓存服务器分布到用户访问相对集中的地区或网络中,在用户访问网站时,利用全局负载技术将用户的访问指向距离最近的工作正常的缓存服务...

猎户星座 212

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

分层缓存之最终分布式缓存

分层缓存 一、缓存概念 1、概念 用于存储数据的硬件或软件的组成部分,以使得后续更快访问相应的数据,缓存中的数据肯呢个是提前计算好的结果、数据的副本等。 2、作用 缓存是分布式系统中的重要组建,主要解决高并发、大数据场景下热点数据访问的性能问题,提供高性能的数据快速访问。 3、原理 a、将数据写入读写速度最快的存储设备。 b、将数据缓存到离应用最近的地方。 c、将数据缓存到离客户最近的地方。 二、...

weixin_41700804的博客 850

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

微服务架构中的多级缓存设计还有人不懂?

今天我们来聊聊缓存这个话题,看看在微服务环境下如何设计有效的多级缓存架构。首先,咱们先讲解微服务架构的多级缓存设计。

m0_57042151的博客 96

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

一文深入了解:分布式系统中的缓存架构

“ 本文主要介绍大型分布式系统中缓存的相关理论,常见的缓存组件以及应用场景。缓存概述缓存概述缓存的分类缓存主要分为四类,如下图:缓存的分类 CDN 缓存CDN(Content Del...

大数据星球-浪尖 554
上一篇: 关于2022年12代C/C++Linux服务器开发高级架构师课程体系分析
下一篇: 11年程序员给本科、研究生应届生以及准备从事后台开发同学的建议,学习进阶之路
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值