宅急送快运股份有限公司
BOS系统 软硬件集成方案
 
目 录
 
 
公司恪守 “安全、准确、亲切、视服务为生命”的经营训诫,自1994年成立以来,公司以跨越式发展速度,在全国建立了庞大的“快运网络”,以优质服务赢得了国内上千家著名企业以及广大民众的信赖;以“诚信,和协,高效,追求卓越”的企业精神,矢志成为民族快运行业的一面旗帜,挑起中国快运追赶世界水平的重任。
公司在全国有 4000多个经营网点,网络覆盖全国2000多个城市和地区;分别在华北、华东、华南、华中、东北、西北、西南设有7个物流基地,40个运转中心,75000平米的配送中心,同时拥有42个航空口岸,360条航线,近1500个航班,620条物流班车线。依托成熟的快运平台,宅急送每年进出港货物逾亿件,真正做到了物畅其流,货通天下。
为了更好的服务企业以及广大民众,宅急送和用友软件合作重新规划和设计了 BOS系统, BOS系统为宅急送的核心业务系统,主要提供基于空运、陆运(汽车(直达,零单外包),铁路)等物流与快递业务服务。
本次项目主要目的是为用友与宅急送合作开发的 BOS系统提供软硬件运行平台。作为整体解决方案集成商,宅急送要求集成商深入了解BOS系统软件设计及架构及用友NC开发平台,为新BOS系统的部署提供整体项目集成方案。
宅急送BOS业务系统为集中部署,所有规划的核心数据库服务器、应用服务器、备份服务器都放于BOS内网中,所有访问用户都通过×××网络访问位于DMZ区的WEB服务器,用户通过WEB服务器进行进行业务访问。根据宅急送业务现状,预估未来3年的访问用户如下:
访问用户主要包括:
n         总部管理部门
现有约200个操作用户,预计3年内会有300个操作用户。
n         各网点代理服务机构
主要包含宅急送全国3000个服务机构,约7000个终端操作用户,预计3年内会有4000个服务机构,约10000个终端操作用户。
n         大客户单位
主要包含宅急送的大客户,预计3年内约500个操作用户。
(目前大客户单位连到独立系统,暂时不直接访问BOS系统,可先不考虑对BOS系统的性能)
基于上述估算,目前宅急送BOS系统总共有7200人访问,预计未来3年访问用户共约 10300 人。
主要业务量为:
业务单据产生。预计3年内会有50万的业务单据。业务通知单(60个字段,含地址和单位名称,电话,人员,时间)。
2 .一张工作单平均会产生15次出入库,3年内预计会有750万的出入库单据。
   最终用户签字确认单据扫描件的存储不在BOS系统内考虑,有独立的系统。
3.BOS 系统与CRM联系紧密,自动下单跟自动分单,回写或新增到CRM系统的地址和客户信息。
现有数据量为:
1. 目前宅急送的业务系统数据库部署在HP RX8640 (Itanium2 1.6 16P32C、128G内存、硬盘:146G*2) 单机上,应用Windows 2003 Datacenter Edition操作系统和MS SQL2005安腾版数据库软件。平日CPU压力已经达到80%,并单独部署有BOS业务查询服务器:HP RX8640(Itanium2 1.6 8P16C、96G内存、硬盘:146G*2) Windows 2003 Datacenter ,查询服务器数据定期(每天1-2次)与BOS系统单向同步数据。
注:HP RX8640 (Itanium2 1.6 16P32C、128G内存、硬盘:146G*2)的TPC-c推算值为:1023200tpmC
2. 早上06:30-7:30和下午17:00-18:00为业务高峰,系统24小时不间断运行。
3. BOS 系统目前加上数据和索引总共有500G数据,在线保存(3月份-7月份)的业务操作,查询系统可保持1年的在线查询数据。
内外网服务的功能详细如下:
 
 
 
 
   宅急送未来3年内预估BOS系统使用的总人数为:
序号
用户类别
用户访问数
1
宅急送总部管理部门
300
2
各网点代理机构
10000
合计
10300
 
根据业务总业务访问人数估算,因为业务特点人数最多的“ 各网点代理机构 ”平均会有80%在线访问,实际并发操作按在线量8%计算, 10300 ×80%×8%≈660,即预估实际并发量在700之内。
根据以上数据分析,宅急送BOS系统性能设计目标为:
三年内系统软硬件部署需可支撑并发700人的访问,且软硬件部署架构具有很好的扩展性,能够支持未来业务大幅度增长而带来的更多并发访问人数。
为保障联机业务处理性能要求,可推算得出数据库主机所需的处理能力,据此得出相应的机型和配置。应用服务器主机性能配置建议与数据库服务器相同。
本次开发项目业务应用,根据TPC-C模型计算数据库服务器的访问量。
TPC-C 模型: TPM = TASK x S x F / C;
其中:
TASK: 为每日业务统计峰值交易量。
S: 为实际操作相对于一次标准查询交易的复杂程度比例,BOS系统业务的一笔业务发生和一次标准查询交易相比复杂很多,根据经验值S取值为20。
C: 为主机CPU处理余量。实际应用经验表明,一台主机服务器的CPU利用率高于80%则表明CPU的利用率过高会产生系统瓶颈,而利用率处于60%时,是处于利用率最佳状态。因此,在推算主机性能指标时,考虑CPU的冗余,设定C = 75%。
F: 为系统未来3-5年的业务量发展冗余预留,BOS系统预留30%的冗余量,即F = 130%。
综上所述,为保障联机业务处理性能要求,可推算得出主机所需的处理能力,据此得出相应的机型和配置。
业务量的估算列表如下:
1 目前宅急送每天产生15万的工作单据,加上业务通知单等其他单据,每天会有30万的
业务单据产生。预计3年内会有50万的业务单据。业务通知单(60个字段,含地址和单位名称,电话,人员,时间)。
2 .一张工作单平均会产生15次出入库,3年内预计会有750万的出入库单据。
   (最终用户签字确认单据扫描件的存储不在BOS系统内考虑,有独立的系统。)
 
根据以上业务情况,宅急送业务每天访问数据库次数计算方式如下:
业务单据任务:500000(单位:次/天)
出入库任务:7500000(单位:次/天)
访问数据库总数:500000+7500000=8000000(单位:次/天)
业务每天24小时不间断运行,其中早上06:30-7:30和下午17:00-18:00为业务操作最高峰时间计算,总共约2小时的峰值运转约50%的业务操作,峰值情况下在平均每分钟访问数据库次数为:
8000000*50%/ (120)≈ 33333(单位:次/分)
所以峰值访问量TPM=33333 x 20 x 130%/60% =1444430 tpmC
因为查询数据服务器通过“数据复制软件”实时从BOS数据库同步数据,根据经验可能占用5%-10%的系统资源,取最高值即1444430 *1.1
最终BOS系统的访问量=1588873 tpmC ,即与IBM P6 570 4.2Ghz 8P16c 128G配置相当的服务器可以满足峰值性能要求。
系统数据库服务器要满足以上计算结果的硬件配置。根据经验值可以保证:
n         保证7×24小时不间断稳定运行
n         日常平均CPU占用率小于40%,忙时小于75%
在线存储容量需求:
根据目前BOS系统业务量,目前BOS系统加上数据和索引总共有500G数据,在线保存5个月的数据,预计3年内在线数据总量最多为1T,计算日志、系统占用等其他空间,BOS系统的在线存储需求为3T
脱机存储容量需求:
根据要求,结构化数据每天备份一次差量,每周做一次全备。只保存当前2次全备,并保存1年的在线存储数据,预计未来3年脱机存储需求约为10T
通过集群方案保证系统间任意一台服务器出现硬件宕机或者软件死锁都不会导致服务中断,保证BOS系统不间断运行。定期的通过磁带机的脱机存储,数据可以在阵列损坏的情况下得以完全恢复。
数据库服务器采用ORACLE的RAC组件构建数据库集群,WEB应用服务器采用IBM WebSphere App Server网络版,并采用集群架构。基于集群的架构,所有服务器中如果一台主机宕机,另外一台主机仍然正常工作。并且服务器及网络部署中,所有关键部位都为冗余设计,如存储、服务器电源都可以采用双电源方案,网卡可以通过AFT技术实现冗余切换。
 
 
 
 
 
 
 
 
 
 
根据宅急送BOS系统的需求设计,采用集中式部署,中心数据服务器和内外网应用服务器都采用集群方式部署,配置磁带库进行数据备份,集群系统可以保证系统的稳定和数据的安全。公司所有用户都通过浏览器方式(WEB SERVER)基于B/S架构访问公司应用服务器及数据服务器,操作使用该系统。公司内外网分离,内部网络部署数据库服务器和应用服务器。
图:宅急送BOS系统网络部署图
建议本次开发项目的所有数据库主机应用Unix平台,从而提供系统的可靠性和稳定性的同时对用户的投资予以最大保护。建议所有应用服务器主机采用Linux平台,业务系统中间件软件采用IBM WebSphere App Server中间件。根据宅急送公司BOS系统的性能与可靠性要求,需满足7*24小时无故障的运行,建议通过F5的负载均衡设备实现应用系统的集群(或者通过IBM WebSphere App Server自带集群分发器实现应用请求负载)。核心数据库系统采用ORACLE与RAC组件的方式,能大大提高数据的高可靠性和高负载能力,数据库服务器还高速通过8G光纤以LANFREE方式接入SAN存储。具体部署如下
在本项目中采用企业架构的设计方法论。针对宅急送公司设计的业务系统架构如下图所示:
·         网络架构:通过F5系统实现对外链路负载及对内的应用负载。
·         应用架构:应用架构用于实现对业务架构的支持,包括应用服务器集群及查询应用服务器集群的2套WAS集群。
·         数据库架构:在不同的行业,数据库都越来越变得重要。本方案采用业务数据库与查询业务数据分离方式,在内网建设2套RAC集群Oracle数据库。
·         服务器架构:在本方案中核心服务器为2台数据库服务器集群方式为应用提供服务。为保证业务的查询性能利用现有2台HP小型机搭建查询数据库集群。2套数据库集群通过Goldengate方式软件同步2套数据库中数据。
·         存储区域网络:本项目为BOS系统搭建一套核心的SAN网络,利用2台SAN交换机连接4台数据库服务器与磁盘阵列。核心数据库系统使用EMC CX480存储,查询数据库使用现有HP EVA4400存储设备。
网络架构、应用架构、数据库架构、服务器架构和存储区域网络是从上到下的关系,上层架构决定了下一层架构的需求,下一层架构用于实现上一层架构的目标。
     本项目规划设计要求采用先进的设计方法论指导项目的设计和实施。宅急送硬件集成方案的主要任务是支持公司新的BOS系统,必须与业务发展战略和业务目标紧密挂钩,因此在制定宅急送集成方案总体规划时,会对BOS业务需求、现有IT基础架构现状、支持业务能力以及IT技术和服务提供商的业务发展趋势等因素做综合的考虑,以保障现有IT投资,促进未来IT环境的扩展,平衡功能、性能和成本,保证本次搭建的业务平台能够长期有效的支持业务的发展。
 
 
方案一:

编号
项目名称
配置需求
数量
1
数据库服务器
IBM P6 570 4.2GHz 8P(16c), 可扩展到 16p(32c),128G 内存, 300G *2 硬盘, 2 块 8G FC 卡 ,AIX6.1 64 位 ,PowerHA,3 人次 5 天厂商专业操作系统课程培训
2
2
应用服务器
IBM x3850 4CPU ( 6 核),主频 Xeon2.99 GH , 48GB 内存,硬盘空间 2´300GB 做 RAID1 。   
3
3
查询应用服务器
IBM x3850 4CPU ( 6 核),主频 Xeon2.66 GH , 48GB 内存,硬盘空间 2´300GB 做 RAID1 。    
2
4
备份服务器
IBM x3650 2CPU ( 4 核),主频 Xeon - 2.93 GH , 8GB 内存,硬盘空间 2´300GB 做 RAID1,8G FC 卡 1 块。
1
5
F5负载均衡设备
支持 IBM WebSphere App Serve 负载和 INTERNET 多链路负载和接入 ( 含 F5-BIG-LTM-1600-4G-R 、 F5-ADD-BIG-LC 、含 RamCache )
2
6
ORACLE数据库
ORACLE Enterprise Edition 11.1.0.6 以上 64 位版本 , 需 RAC 组件
两台主机每台主机 1CPU DB+ 1CPU RAC
2
7
GoldenGate
两台主机 1CPU 价格
2
8
应用中间件(WAS
IBM WebSphere App Server 6.1 网络(集群)版 FOR WINDOWS 64 位需要部署 2 套,一套用在生产系统应用服务器用,另一套用在查询应用服务器。目前每套只按一台主机 1CPU 报价,实际配置需商务协商后确认最终授权数量
2
9
应用、备份服务器操作系统
Red Hat Enterprise Linux AS, Version 5 with Update 1 for x64( 详细版本号: Linux nctest135 2.6.9-42.ELsmp #1 SMP Wed Jul 12 23:32:02 EDT 2006 x86_64 x86_64 x86_64 GNU/Linux)
5
10
查询服务器操作系统
HP UNIX 11i v3
2
11
查询服务器HBA
HP UNIX  下用的 HBA 卡
4
 
 
方案二:

编号
项目名称
配置需求
数量
1
数据库服务器
HP Superdome 24P(48C),128G 内存, 300G *2 硬盘, 2 块 8G FC 卡, HPUX 最新版本 64 位 , 集群软件 ,3 人次 5 天厂商专业操作系统课程培训
2
2
应用服务器
HP DL580(4cpu) 4CPU ( Xeon2.67 G ) ,48GB 内存,硬盘 2*300GB ( RAID 1 )
3
3
查询应用服务器
HP DL580(4cpu) 4CPU ( Xeon2.67 G ) ,48GB 内存,硬盘 2*300GB ( RAID 1 )
2
4
备份服务器
HP DL580(4cpu) 4CPU ( Xeon2.67 G ) ,8GB 内存,硬盘 2*300GB ( RAID 1 )
1
5
F5负载均衡设备
支持 IBM WebSphere App Serve 负载和 INTERNET 多链路负载和接入 ( 含 F5-BIG-LTM-1600-4G-R 、 F5-ADD-BIG-LC 、含 RamCache )
2
6
ORACLE数据库
ORACLE Enterprise Edition 11.1.0.6 以上 64 位版本 , 需 RAC 组件
两台主机每台主机 1CPU DB+ 1CPU RAC
2
7
GoldenGate
两台主机 1CPU 价格
2
8
应用中间件(WAS
IBM WebSphere App Server 6.1 网络(集群)版 FOR WINDOWS 64 位需要部署 2 套,一套用在生产系统应用服务器用,另一套用在查询应用服务器。目前每套只按一台主机 1CPU 报价,实际配置需商务协商后确认最终授权数量
2
9
应用、备份服务器操作系统
Red Hat Enterprise Linux AS, Version 5 with Update 1 for x64( 详细版本号: Linux nctest135 2.6.9-42.ELsmp #1 SMP Wed Jul 12 23:32:02 EDT 2006 x86_64 x86_64 x86_64 GNU/Linux)
5
10
查询服务器操作系统
HP UNIX 11i v3
2
11
查询服务器HBA
HP UNIX  下用的 HBA 卡
4
 
 
 
 
 
 
集成商确保提供产品完全符合设计、工程、材料和工艺上的要求,不存在问题的缺陷。所供货物完全是新的、未使用过的。
集成商确保所供货物,在正常使用和保养情况下,在其使用寿命期内,能够完全满足技术规范所规定的性能、可靠性和扩展性。
集成商确保按照售后服务条款及时响应对货物的维修和有缺陷的货物的更换的要求。

序号
工作内容
责任方
1
提出运行BOS系统需要的相关硬件及系统软件的要求
用友
2
根据用友提供的硬件及系统软件的要求开始招标
宅急送
3
集成商中标后,负责供货,并在宅急送机房加电测试硬件
集成商
4
数据库服务器:
按照用友的要求,
安装操作系统;
划分磁盘阵列;
安装ORACLE RAC;
集成商
5
应用服务器:
安装操作系统
集成商
6
F5设备及相应的链路、应用负载均衡安装调试
集成商
7
F5设备涉及的DNS设置、安装、调试
集成商
8
服务器相关的网络配置
集成商
9
在应用服务器上安装BOS系统,WAS中间件,部署BOS
用友
10
在数据库服务器上初始化数据库,保障BOS系统运行, 同时负责历史数据的迁移
用友
11
BOS系统1月1日上线,并行一个月后(并行时间待定)
宅急送、用友、集成商
12
将原来的两台HPRX服务器重新初始化,安装HPunix操作系统,安装ORACLE RAC;实施GoldGATE,实现正式环境和备查环境的同步
集成商
13
系统稳定运行3个月,集成项目验收
宅急送、用友、集成商
14
运维阶段,本着谁实施谁维护的原则