应用程序扩展性实现的十宗罪

本文概述了可扩展性实现过程中的十个关键问题,并提供了针对这些问题的优化建议,包括磁盘I/O、数据库存储、全文搜索、缓存不足、技术负债、对象关系映射、同步与耦合、单数据库副本、监测缺失和功能标识不足等方面。

http://www.youkuaiyun.com/article/2013-06-13/2815758-10-Deadly-Sins-Against-Scalability



摘要:这年头,作为软件设计架构师如果系统不具备高可扩展性对外交流时都不好意思。但是如何实现可扩展性?应用程序搭建过程中是否存在某些禁区?可扩展性方面的专家Sean Hull为我们悉数了可扩展性实现的十宗罪。

在道德领域有七宗罪的说法,现在实现可扩展性时也存在着十宗罪。可扩展性方面专家Sean Hull曾发表 文章指出实现 可扩展性的五大毒药,最近他又指出了实现 可扩展性的五大致命错误


一、缓慢的磁盘I/O - RAID 5 -多用户的EBS。RAID 10可以提供良好的数据保护,同时具备良好 的读写性能。RAID 5设计意味着性能差,失败后修复时间长。在AWS上考虑使用预设的IOPS解决IO瓶颈问题。

二、使用数据库存储作业队列。数据库看起来很适合存储作业队列,但是轻负载的锁定以及日常的扫描 工作都会影响性能。使用类似RabbitMQ和SQS的专业软件可以消除这个瓶颈。

三、使用全文搜索。搜索似乎是数据库另一个完美的特性。但是大规模的搜索性能并不高,最好使用类 似Solr和Sphinx的专业技术。

四、在各层之间缓存不足。在应用程序和数据库之间使用memcache,在用户和Web服务器之间加载类似 于Varnish的页面缓存。为你的HTML选择合适的缓存。

五、太多的技术负债。重写问题代码,而不是持续完善写得不好的代码,因为从长期来看,这并不划算

六、对象关系映射。创建很难优化和调整的复杂查询。

七、同步,串行,耦合或锁定进程。锁就像停止标志,环岛才能保持道路畅通。行锁优先于表锁,采用异步复制,保持集群的最终一致性。

八、一个数据库副本。单一的数据库是一个瓶颈点。创建平行的数据库,让驱动程序在它们之间做选择

九、缺乏监测。使用众多监控软件包之一,检测系统正在运行着什么。

十、缺少功能标识。能够通过一个标识关闭某些功能特性,峰值来袭时可以轻松的关闭功能降低负载。

原文链接: The 10 Deadly Sins Against Scalability(文/周小璐,审校/仲浩)

欢迎关注 @优快云云计算微博,了解更多云信息。


内容概要:本文详细介绍了一个基于Java和Vue的联邦学习隐私保护推荐系统的设计与实现。系统采用联邦学习架构,使用户数据在本地完成模型训练,仅上传加密后的模型参数或梯度,通过中心服务器进行联邦平均聚合,从而实现数据隐私保护与协同建模的双重目标。项目涵盖完整的系统架构设计,包括本地模型训练、中心参数聚合、安全通信、前后端解耦、推荐算法插件化等模块,并结合差分隐私与同态加密等技术强化安全性。同时,系统通过Vue前端实现用户行为采集与个性化推荐展示,Java后端支撑高并发服务与日志处理,形成“本地训练—参数上传—全局聚合—模型下发—个性化微调”的完整闭环。文中还提供了关键模块的代码示例,如特征提取、模型聚合、加密上传等,增强了项目的可实施性与工程参考价值。 适合人群:具备一定Java和Vue开发基础,熟悉Spring Boot、RESTful API、分布式系统或机器学习相关技术,从事推荐系统、隐私计算或全栈开发方向的研发人员。 使用场景及目标:①学习联邦学习在推荐系统中的工程落地方法;②掌握隐私保护机制(如加密传输、差分隐私)与模型聚合技术的集成;③构建高安全、可扩展的分布式推荐系统原型;④实现前后端协同的个性化推荐闭环系统。 阅读建议:建议结合代码示例深入理解联邦学习流程,重点关注本地训练与全局聚合的协同逻辑,同时可基于项目架构进行算法替换与功能扩展,适用于科研验证与工业级系统原型开发。
源码来自:https://pan.quark.cn/s/a4b39357ea24 遗传算法 - 简书 遗传算法的理论是根据达尔文进化论而设计出来的算法: 人类是朝着好的方向(最优解)进化,进化过程中,会自动选择优良基因,淘汰劣等基因。 遗传算法(英语:genetic algorithm (GA) )是计算数学中用于解决最佳化的搜索算法,是进化算法的一种。 进化算法最初是借鉴了进化生物学中的一些现象而发展起来的,这些现象包括遗传、突变、自然选择、杂交等。 搜索算法的共同特征为: 首先组成一组候选解 依据某些适应性条件测算这些候选解的适应度 根据适应度保留某些候选解,放弃其他候选解 对保留的候选解进行某些操作,生成新的候选解 遗传算法流程 遗传算法的一般步骤 my_fitness函数 评估每条染色体所对应个体的适应度 升序排列适应度评估值,选出 前 parent_number 个 个体作为 待选 parent 种群(适应度函数的值越小越好) 从 待选 parent 种群 中随机选择 2 个个体作为父方和母方。 抽取父母双方的染色体,进行交叉,产生 2 个子代。 (交叉概率) 对子代(parent + 生成的 child)的染色体进行变异。 (变异概率) 重复3,4,5步骤,直到新种群(parentnumber + childnumber)的产生。 循环以上步骤直至找到满意的解。 名词解释 交叉概率:两个个体进行交配的概率。 例如,交配概率为0.8,则80%的“夫妻”会生育后代。 变异概率:所有的基因中发生变异的占总体的比例。 GA函数 适应度函数 适应度函数由解决的问题决定。 举一个平方和的例子。 简单的平方和问题 求函数的最小值,其中每个变量的取值区间都是 [-1, ...
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值