普元DevOps5.2版本新特性发布

640?wx_fmt=jpeg

转载本文需注明出处:微信公众号EAWorld,违者必究。


作者自白


伴随新版本的发布,我们团队也对这次迭代做了些回顾,有值得分享的新特性与设计,也有一些需加强的能力,借此与大家分享。


主题大纲:


一、新特性部分

1、安全提升,更细粒度的流程与权限控制

2、企业级中间件支持,更匹配普元现有客户需求

3、全新看板,更精益的度量并指导优化

4、UI大升级,提供To C的互联网体验

5、监控增强,围绕应用视角的运行监测

6、流水线与工单结合,向一体化工作台演进


二、待提升部分

1、自动化测试体系的完善

2、预警能力的建设

3、流水线任务的持续丰富


新特性


DevOps产品,从定位上来看,仍旧保持初衷不变,要建立一条从业务需求到最终线上运营的IT生产线。


640?wx_fmt=jpeg


之前的版本其实已经形成了从项目管理->组件设计->代码管理->持续集成->自动部署->度量优化的能力,所以在5.2版本需求范围定义时,更多的是从流水线丰富、实施模板、API扩展、安全可靠几个方面着手的,在此分享以下6个特性


特性一:安全提升,更细粒度的流程与权限控制


DevOps平台相对特殊的定位(跨部门、跨环境、长周期)使得平台在安全上需要更加去关注,这个版本从以下三个方面进行了加强。


640?wx_fmt=jpeg


1、围绕功能码的菜单、操作(API)、环境的三类授权


第一个方面:仍旧是从RBAC着手,考虑到DevOps至少是有两层权限的:


640?wx_fmt=jpeg


并且在第二层权限中,会随着项目类型的不同,拥有的菜单集、功能集范围也不相同。所以需要在两级都提供面向菜单、功能码、环境的细粒度权限配置能力,才能保证满足各类客户要求。


640?wx_fmt=jpeg


640?wx_fmt=jpeg


2. 充分考虑安全隔离、单向通信的部署架构


第二个方面则是部署架构的安全,参考下图:


640?wx_fmt=jpeg


比如一般企业,开发测试区和生产区都是完全隔离的,介质共享传递更多是拷贝或者堡垒机完成,在DevOps平台上,要注意的就是如何能在最小开放的情况下,完成上述不同环境的完整流水线。


一般来讲我们在客户那边是通过部署多套任务引擎来解决这类问题的,devops门户只与各环境中的任务引擎打交道(相当于拿任务引擎作为agent入口),而不去和各个环境中的其他任何机器交互。


但到了有些客户那边,多部署引擎是允许的,但是必须只是单向通信。考虑到devops一般都会集成不少中间件或开源工具,比如为了实时看到部署的执行状态,需要通过回调接口形成与任务引擎的双向通信,这个就会受到限制,所以又需要其他的部署架构或技术方案来解决,这里就不一一赘述。


3. 其他安全示意


第三个方面,更多的是一些琐碎的安全控制(因为安全这个领域,本来就是琐碎的,要持续修补的,最明显的就是杀毒软件的病毒库)。所以我们平台还做了如下的一些事情,像密码强度、定时备份、审计日志明细化等:


640?wx_fmt=jpeg


640?wx_fmt=jpeg


特性二:企业级中间件支持,更匹配普元现有客户需求


第二个特性则是后续的每个版本都会做的,针对不同中间件的集成能力,任务化封装。


毕竟我们主要关注的还是企业市场,企业市场里不可能完全抛弃传统的应用服务器、数据库等。


640?wx_fmt=jpeg


所以在这个版本里,增加了像ear、数据脚本等CI的能力,同时也补充了weblogic、websphere、oracle存储过程,以及普元自有产品上的发布回退等能力。


不仅仅CICD,产品里还做了传统中间件本身的安装部署运维等能力。


640?wx_fmt=jpeg


特性三:全新看板,更精益的度量并指导优化


第三个特性是重构了原有项目Issue看板的能力,之前我们更多的是纯粹的集成,比如集成jira、禅道都完全是API导向,在DevOps产品里并没有一套自己的清晰模型,这就使得每次使用标准的变更,都需要对产品进行深度代码定制,非常不友好。


在这个版本里,我们新抽象了模型,抽象的要点包括:


如何保证看板适应不同客户、项目的要求?


640?wx_fmt=jpeg


将不同的几种项目Issue模型进行抽象,包括看板泳道、issue流转flow、issue的一些状态数据集等。


640?wx_fmt=jpeg



所以上面这张图无论是泳道、还是具体的story、bug、task的流转与关联,都可以通过模板来进行客户化配置。


看板这块还解决了需求与后续代码、介质的信息断层问题 :


640?wx_fmt=jpeg


现在可以通过需求追溯代码提交历史,自动统计一个需求所花的代码行等,并与后续的工件形成关联,为度量提供更多原始数据。


特性四:UI大升级,提供To C的互联网体验


第四个特性则是UI的升级,这里要感谢两位前端同事在短短一个多月,将整个技术栈从NUI(一套基于jquery的UI)彻底升级为基于Vue.js的全新门户。


同时前端提供的很好的动态表单能力,使得以后扩展一个流水线上的任务(包括任务对应的表单、控件、验证、级联等),只要通过配置就可直接展示。


640?wx_fmt=jpeg


640?wx_fmt=jpeg


现在增加一个流水线上的任务,前端要做的就是提交图片资源、部分表单控件之间的特殊事件联动处理、再重新打包就足够了。


特性五:监控增强,围绕应用视角的运行监测


第五个特性则是发布后的监控能力,借助我们的微服务、容器云等其他平台,此版本可以看到如下一些监控视图:


640?wx_fmt=jpeg


这是针对应用产生日志的滚屏展示与检索。


640?wx_fmt=jpeg


这是对于应用运维的timeline图,以及每次运维操作的具体执行信息。


640?wx_fmt=jpeg


还有像上图这种,与我们其他平台集成的系统调用拓扑、业务请求链路、进程资源信息、长sql语句等。


特性六:流水线与工单结合,向一体化工作台演进


第六个特性则是一直犹豫要不要做的工单能力,因为在以前的项目实施中,很多企业客户是要求与其ITIL进行集成。但是在最近的几个实施项目里,大家都希望把devops向真正的一体化工作台演进,所以在这个版本中提供了独立的流程任务与工单管理能力。


640?wx_fmt=jpeg


举个例子,如上图,通过设置流水线上某个环境的审批人(支持多人,比如一般生产环境都要有发布评审与执行审批),最终在执行过程中,会产生相关的工单并通知到干系人,由相关人进行线上审批,触发流水线的继续执行。


目前平台提供的工单包括:项目立项单、代码merge单、环境部署前审批单、环境部署后确认单、人工任务单(用于更细粒度的一些确认事宜)等,且此模块可支持快速纳入新流程与工单类型。


待提升部分


640?wx_fmt=jpeg


自动化测试:虽然现在平台做过了jmeter、以及我们公司的自动化测试产品(UTP)的集成,但是在一些具体细节上打磨的不够,需要好好考虑测试能力集成的正确模式。


预警能力:平台现在的度量更多是给出结果统计,并没有建立完善的指标预警策略,这块需要形成对应能力(当然,具体指标值是要经过长期运营才能定,我们也只能给出我们公司的参考值)。


流水线任务的持续丰富:每个版本都要持续做的,流水线上任务的丰富,现在虽然各类构建、部署任务都很多了,但是一些细节还不够,就比如应用数据备份、滚动升级过程的流量切换,这些都是要去补充的。


本文分享的相对简单,没有做技术实现的深入,需要了解产品具体能力、功能实现细节的,可通过其他渠道与我们团队建立长期沟通机制。


精选提问:


问1:看板这块还是集成JIRA来做么?


现在产品默认带是Jira,刚才也提到了,本次把issue和workflow模型都抽取出来了,形成自己的一套,这样在集成其他的项目管理工具时,就变得相对容易了。在客户那边也已经集成过zentao了,其他几个暂时还没有。


问2:没看到 codereview 部分的细节。请问这个系统中,有 codereview 的位置吗?codereview 对培养工程师编码能力还是非常必要的。


答:codereview确实是很重要的一环,gerrit我们集成过,但没有放在产品中,原因是gerrit的主要是人工+自动的评价模式,流程相对固化。但人工其实通过gitlab flow的merge request等手段已经可以解决,自动通过hook我们也提供了,所以就没有带在里面,而且gerrit的权限管理我们在集成时遇到了一些小问题。所以总得来说,codereview我们同gitlab的一些flow模式支持了,但没有做到gerrit那样的强流程模式。


问3:任务引擎有什么作用么?在网络隔离的时候,安全性是如何保证的?


答:任务引擎是我们的流程引擎+jenkins,网络隔离时,通过开唯一交互端口,并且限进出口流向来控制的,在一个客户那边还使用过专用跳板机。


问4:请问应用服务监控是如何实现的?: 

(1)持续集成耗时监控:持续集成各节点耗时,超过阀值告警

(2)服务耗时监控:监控超过指定时间的接口耗时

(3)任务监控:包括单元测试、持续集成等,包括定时任务是否正常发起,发起是否执行成功,主机资源使用情况等

(4)iimp同步监控:监控和iimp交互的数据

(5)可用性探测:通过可用性探测获取服务可用性指标,包括可用时长,不可用时长等


答:这些都要一个个谈了,不太清楚你的现状。持续集成耗时是通过jenkins集成+回调来实现的,jenkins有pipeline的超时设置能力;服务耗时监控是通过我们的微服务平台能力来做的,类Hystrix;任务监控就杂了,主机资源通过zabbix,定时任务目前没有

可用性探测是发布时提供健康探测入口,定时探测,可用不可用是基于定时探测数据来计算,没有那么精确;网络监控和数据同步没有做;接口耗时,histrix就可以,如果是长链路,我们目前是通过skywalking的(APM)。



推荐阅读

DevOps 5.0版本的150天历程

万达网络科技的DevOps平台架构解析

DevOps驱动的人保微服务平台建设之路




640?wx_fmt=jpeg关于作者顾伟,现任普元信息主任架构师,长期致力于IT技术研究、产品设计与开发、架构咨询等工作,擅长Web、OSGI、CI/CD、服务治理、云计算等领域技术;对DevOps、自动化运维、微服务架构有着浓厚的兴趣。


640?wx_fmt=jpeg关于EAWorld:微服务,DevOps,数据治理,移动架构原创技术分享



标题SpringBoot智能在线预约挂号系统研究AI更换标题第1章引言介绍智能在线预约挂号系统的研究背景、意义、国内外研究现状及论文创新点。1.1研究背景与意义阐述智能在线预约挂号系统对提升医疗服务效率的重要性。1.2国内外研究现状分析国内外智能在线预约挂号系统的研究与应用情况。1.3研究方法及创新点概述本文采用的技术路线、研究方法及主要创新点。第2章相关理论总结智能在线预约挂号系统相关理论,包括系统架构、开发技术等。2.1系统架构设计理论介绍系统架构设计的基本原则和常用方法。2.2SpringBoot开发框架理论阐述SpringBoot框架的特点、优势及其在系统开发中的应用。2.3数据库设计与管理理论介绍数据库设计原则、数据模型及数据库管理系统。2.4网络安全与数据保护理论讨论网络安全威胁、数据保护技术及其在系统中的应用。第3章SpringBoot智能在线预约挂号系统设计详细介绍系统的设计方案,包括功能模块划分、数据库设计等。3.1系统功能模块设计划分系统功能模块,如用户管理、挂号管理、医生排班等。3.2数据库设计与实现设计数据库表结构,确定字段类型、主键及外键关系。3.3用户界面设计设计用户友好的界面,提升用户体验。3.4系统安全设计阐述系统安全策略,包括用户认证、数据加密等。第4章系统实现与测试介绍系统的实现过程,包括编码、测试及优化等。4.1系统编码实现采用SpringBoot框架进行系统编码实现。4.2系统测试方法介绍系统测试的方法、步骤及测试用例设计。4.3系统性能测试与分析对系统进行性能测试,分析测试结果并提出优化建议。4.4系统优化与改进根据测试结果对系统进行优化和改进,提升系统性能。第5章研究结果呈现系统实现后的效果,包括功能实现、性能提升等。5.1系统功能实现效果展示系统各功能模块的实现效果,如挂号成功界面等。5.2系统性能提升效果对比优化前后的系统性能
在金融行业中,对信用风险的判断是核心环节之一,其结果对机构的信贷政策和风险控制策略有直接影响。本文将围绕如何借助机器学习方法,尤其是Sklearn工具包,建立用于判断信用状况的预测系统。文中将涵盖逻辑回归、支持向量机等常见方法,并通过实际操作流程进行说明。 一、机器学习基本概念 机器学习属于人工智能的子领域,其基本理念是通过数据自动学习规律,而非依赖人工设定规则。在信贷分析中,该技术可用于挖掘历史数据中的潜在规律,进而对未来的信用表现进行预测。 二、Sklearn工具包概述 Sklearn(Scikit-learn)是Python语言中广泛使用的机器学习模块,提供多种数据处理和建模功能。它简化了数据清洗、特征提取、模型构建、验证与优化等流程,是数据科学项目中的常用工具。 三、逻辑回归模型 逻辑回归是一种常用于分类任务的线性模型,特别适用于二类问题。在信用评估中,该模型可用于判断借款人是否可能违约。其通过逻辑函数将输出映射为0到1之间的概率值,从而表示违约的可能性。 四、支持向量机模型 支持向量机是一种用于监督学习的算法,适用于数据维度高、样本量小的情况。在信用分析中,该方法能够通过寻找最佳分割面,区分违约与非违约客户。通过选用不同核函数,可应对复杂的非线性关系,提升预测精度。 五、数据预处理步骤 在建模前,需对原始数据进行清理与转换,包括处理缺失值、识别异常点、标准化数值、筛选有效特征等。对于信用评分,常见的输入变量包括收入水平、负债比例、信用历史记录、职业稳定性等。预处理有助于减少噪声干扰,增强模型的适应性。 六、模型构建与验证 借助Sklearn,可以将数据集划分为训练集和测试集,并通过交叉验证调整参数以提升模型性能。常用评估指标包括准确率、召回率、F1值以及AUC-ROC曲线。在处理不平衡数据时,更应关注模型的召回率与特异性。 七、集成学习方法 为提升模型预测能力,可采用集成策略,如结合多个模型的预测结果。这有助于降低单一模型的偏差与方差,增强整体预测的稳定性与准确性。 综上,基于机器学习的信用评估系统可通过Sklearn中的多种算法,结合合理的数据处理与模型优化,实现对借款人信用状况的精准判断。在实际应用中,需持续调整模型以适应市场变化,保障预测结果的长期有效性。 资源来源于网络分享,仅用于学习交流使用,请勿用于商业,如有侵权请联系我删除!
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值