用润乾集算报表提升性能之关联计算

本文通过实例介绍了集算报表在处理关联计算类报表时的优势,利用集算器的高效hash关联方案,实现了超过一倍的性能提升。特别适用于多源、异构数据源的关联计算,提高了报表制作效率。

         报表开发过程中经常要在报表中完成数据关联计算,有的为了降低报表制作复杂度将关联关系放到可视的报表模板中完成;有的则必须在报表中完成关联,如多数据源、异构数据源的情况。而在报表中做关联往往导致报表效率不高,计算过慢,引发性能问题。润乾集算报表提供了特殊的数据关联方式,可以提升报表性能。这里通过一个常见的多源关联分片报表实例来看一下集算报表的实现过程:

报表说明

         根据销售情况等信息表按照时间、地区、销售人员、产品等维度汇总销售额,报表样式如下:


编写计算脚本

         首先使用集算器编写脚本,完成数据关联,并为报表返回关联后结果集:

         A1:连接数据源;

         A2-A5:执行sql分别取订单、产品等表数据;

         A6-A8:使用switch将多表数据完成关联,关联结果存入A2格中;

         A9:根据已关联结果创建新序表,结果集通过A10为报表返回。

编制报表

         在集算报表设计器中新建报表模板后,数据集选择“集算器”,在数据集编辑窗口指定上述编辑好的dfx文件,完成数据集创建。

         设置报表模板表达式:

         不同于在报表中关联,集算报表在报表模板中直接根据集算脚本返回的一个结果集完成分组报表的制作,从而获得了更高的性能,下面为报表中关联的实现方式:

报表中关联实现

         数据集

         ds1: SELECT 客户.地区,客户.城市,订单明细.数量,订单明细.折扣,订单明细.单价,订单.雇员ID,订单.订购日期,订单明细.产品ID FROM 订单明细,订单,客户 WHERE 客户.客户ID = 订单.客户ID  AND  订单.订单ID = 订单明细.订单ID and 订单.订购日期 is not null。

         ds2: SELECT 类别.类别ID,类别.类别名称 FROM 类别。

         ds3: SELECT * from 雇员。

         ds4: SELECT 产品.类别ID,产品.产品ID FROM 产品。

 

报表模板


对比效果

         本例中测试的源表数据量为40多万条,的基于同样的取数sql,下表展示了使用集算报表测试1在报表中关联 2使用集算脚本关联后将结果传递给报表进行报表展现的运行时间对比:

         可以看到集算报表在处理关联计算类报表的优势,由于在报表完成关联时只能使用遍历算法(针对单条主记录去寻找关联的子记录),因此效率不高。而集算器采用了更高效的hash关联方案(可事先将所有子记录按对应码hash到主记录上,代码中的switch函数即使用了hash关联技术,单算关联时间能快出5-10倍),因而使用集算器关联后获得超过一倍的性能提升。

         此外,集算器也非常适合处理异构数据源数据关联,如常见的多数据库、文件和数据库混合的情况。

         下附运行日志和测试机配置。

【附1】运行日志

报表中关联

[2014-09-15 11:32:59] : [INFO ]  - 开始运算报表,首先取数......

[2014-09-15 11:32:59] : [DEBUG]  - 下面开始打出sql

[2014-09-15 11:32:59] : [DEBUG]  - ds1=SELECT 客户.地区,客户.城市,订单明细.数量,订单明细.折扣,订单明细.单价,订单.雇员ID,订单.订购日期,订单明细.产品ID FROM 订单明细,订单,客户 WHERE 客户.客户ID = 订单.客户ID  AND  订单.订单ID = 订单明细.订单ID and 订单.订购日期 is not null

[2014-09-15 11:33:35] : [DEBUG]  - 下面开始打出sql

[2014-09-15 11:33:35] : [DEBUG]  - ds2=SELECT 类别.类别ID,类别.类别名称 FROM 类别

[2014-09-15 11:33:35] : [DEBUG]  - 下面开始打出sql

[2014-09-15 11:33:35] : [DEBUG]  - ds3=SELECT * from 雇员

[2014-09-15 11:33:35] : [DEBUG]  - 下面开始打出sql

[2014-09-15 11:33:35] : [DEBUG]  - ds4=SELECT 产品.类别ID,产品.产品ID FROM 产品

[2014-09-15 11:33:35] : [INFO ]  - 取数结束,开始运算

[2014-09-15 11:34:58] : [INFO ]  - 计算结束:

dfx中关联

[2014-09-15 11:56:33] : [INFO ]  - 开始运算报表,首先取数......

[2014-09-15 11:57:11] : [INFO ]  - 取数结束,开始运算

[2014-09-15 11:57:26] : [INFO ]  - 计算结束:

【附 2】测试机配置

测试机型:Dell Inspiron 3420

CPU:Intel Core i5-3210M @2.50GHz *4

RAM:4G

HDD:西数WDC(500G 5400转/分)

操作系统:Win7(X64) SP1

JDK:1.6

数据库:oracle11g R2

集算报表版本:5.0


标题SpringBoot智能在线预约挂号系统研究AI更换标题第1章引言介绍智能在线预约挂号系统的研究背景、意义、国内外研究现状及论文创新点。1.1研究背景与意义阐述智能在线预约挂号系统对提升医疗服务效率的重要性。1.2国内外研究现状分析国内外智能在线预约挂号系统的研究与应用情况。1.3研究方法及创新点概述本文采用的技术路线、研究方法及主要创新点。第2章相关理论总结智能在线预约挂号系统相关理论,包括系统架构、开发技术等。2.1系统架构设计理论介绍系统架构设计的基本原则和常用方法。2.2SpringBoot开发框架理论阐述SpringBoot框架的特点、优势及其在系统开发中的应用。2.3数据库设计与管理理论介绍数据库设计原则、数据模型及数据库管理系统。2.4网络安全与数据保护理论讨论网络安全威胁、数据保护技术及其在系统中的应用。第3章SpringBoot智能在线预约挂号系统设计详细介绍系统的设计方案,包括功能模块划分、数据库设计等。3.1系统功能模块设计划分系统功能模块,如用户管理、挂号管理、医生排班等。3.2数据库设计与实现设计数据库表结构,确定字段类型、主键及外键关系。3.3用户界面设计设计用户友好的界面,提升用户体验。3.4系统安全设计阐述系统安全策略,包括用户认证、数据加密等。第4章系统实现与测试介绍系统的实现过程,包括编码、测试及优化等。4.1系统编码实现采用SpringBoot框架进行系统编码实现。4.2系统测试方法介绍系统测试的方法、步骤及测试用例设计。4.3系统性能测试与分析对系统进行性能测试,分析测试结果并提出优化建议。4.4系统优化与改进根据测试结果对系统进行优化和改进,提升系统性能。第5章研究结果呈现系统实现后的效果,包括功能实现、性能提升等。5.1系统功能实现效果展示系统各功能模块的实现效果,如挂号成功界面等。5.2系统性能提升效果对比优化前后的系统性能
在金融行业中,对信用风险的判断是核心环节之一,其结果对机构的信贷政策和风险控制策略有直接影响。本文将围绕如何借助机器学习方法,尤其是Sklearn工具包,建立用于判断信用状况的预测系统。文中将涵盖逻辑回归、支持向量机等常见方法,并通过实际操作流程进行说明。 一、机器学习基本概念 机器学习属于人工智能的子领域,其基本理念是通过数据自动学习规律,而非依赖人工设定规则。在信贷分析中,该技术可用于挖掘历史数据中的潜在规律,进而对未来的信用表现进行预测。 二、Sklearn工具包概述 Sklearn(Scikit-learn)是Python语言中广泛使用的机器学习模块,提供多种数据处理和建模功能。它简化了数据清洗、特征提取、模型构建、验证与优化等流程,是数据科学项目中的常用工具。 三、逻辑回归模型 逻辑回归是一种常用于分类任务的线性模型,特别适用于二类问题。在信用评估中,该模型可用于判断借款人是否可能违约。其通过逻辑函数将输出映射为0到1之间的概率值,从而表示违约的可能性。 四、支持向量机模型 支持向量机是一种用于监督学习的法,适用于数据维度高、样本量小的情况。在信用分析中,该方法能够通过寻找最佳分割面,区分违约与非违约客户。通过选用不同核函数,可应对复杂的非线性关系,提升预测精度。 五、数据预处理步骤 在建模前,需对原始数据进行清理与转换,包括处理缺失值、识别异常点、标准化数值、筛选有效特征等。对于信用评分,常见的输入变量包括收入水平、负债比例、信用历史记录、职业稳定性等。预处理有助于减少噪声扰,增强模型的适应性。 六、模型构建与验证 借助Sklearn,可以将数据划分为训练和测试,并通过交叉验证调整参数以提升模型性能。常用评估指标包括准确率、召回率、F1值以及AUC-ROC曲线。在处理不平衡数据时,更应关注模型的召回率与特异性。 七、成学习方法 为提升模型预测能力,可采用成策略,如结合多个模型的预测结果。这有助于降低单一模型的偏差与方差,增强整体预测的稳定性与准确性。 综上,基于机器学习的信用评估系统可通过Sklearn中的多种法,结合合理的数据处理与模型优化,实现对借款人信用状况的精准判断。在实际应用中,需持续调整模型以适应市场变化,保障预测结果的长期有效性。 资源来源于网络分享,仅用于学习交流使用,请勿用于商业,如有侵权请联系我删除!
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值