作者:中央电视台 徐哲
4K/HDR节目观感相较高清的优势已不言而喻,更细腻的画质、更流畅的画面、更绚丽的色彩、更大范围的动态亮度、更丰富的音源,带来更极致的观看体验。伴随中央广播电视总台4K超高清频道的开播,4K节目制作大量增加,当前4K后期制作任务较重,因此对存储系统的可靠性要求非常高,在后期制作过程中涉及使用多种工具软件,这些工具软件需在Windows、Linux、Mac不同平台下运行,因此系统平台要求具备很高的兼容性,制作IP化是大势所趋,需要专业核心存储支持CIFS和NFS等网络文件服务协议、专业视频存储支持不同平台客户端的接入。所有的用户端协同工作时,无论是专业核心存储还是专业视频存储,特别是专业视频存储需要满足多路4K及其他多种格式素材进行实时编辑与频繁I/O操作,对存储的并发和带宽都有很高的要求。
一、4K后期存储系统的需求
伴随4K超高清频道的开播,4K节目制作需求量和制作规模迅速增长,4K后期制作模式也在根据节目复杂程度不断调整、适配。对于复杂的项目,多站点协同制作,存储空间需求大,制作周期较长,频繁的数据交互,管理难度增加。因此,对整个后期存储系统的各项性能指标将提出更高要求,需要能够灵活调整,满足应对各种制作情况。
1、存储容量
存储器作为后期制作系统的核心设备之一,存储着所有素材、工程、技术参数、乃至备份文件等数据,其中素材占比重最大。不同码率的素材文件,对存储器空间的需求直接产生不同影响。在当前实际工作中,台内4K超高清制作岛后期编辑工作站所使用的4K素材源不仅限于演播室服务器收录,根据节目需求会涉及多厂家/平台工作站输出以及4K摄像机与特种设备摄录的各种编解码格式文件(如图1)。
例如:以20台后期编辑工作站为规模组建的4K超高清制作岛,日常以制作综艺节目、大型晚会、纪录片、自制节目等类型为主,每台每天成品产量半小时,素材文件格式采用MXF OP-1a/XAVC-I Intra Class 300,素材片比设定6:1,最长在线保存30天,素材存储空间需求已达到225GB/h × 20 × 0.5 × 7 × 30 ≈ 472.5TB。
专业视频存储及核心存储的有效容量在满足素材存储之上,还需考虑到后期制作中素材文件格式转换、工作流程与设备特性产生的数据、生成/渲染/交互/管理产生的冗余、以及容灾备份等各种空间需求。
2、服务器带宽与数据传输效率
存储器带宽需要满足全网整个制作系统同时的数据I/O与管理控制所需极限带宽,数据传输效率不仅需要考虑多终端并发读写情况,还要考虑多终端对同一素材读取时的传输效率。随着计算机技术发展,4K后期编辑工作站设备性能已可以支持4~6轨文件实时同步播放。
例如,20台4K后期工作站规模的存储系统计算,带宽峰值需要满足各站点同时4轨MXF OP-1a/XAVC-I IntraClass 300文件实时回放,即存储服务器总带宽不得低于500Mbps×20×4,即5GB/s。
3、兼容性
兼容性不仅体现在系统操作平台与物理接口的兼容,还包括管理/开发平台、LDAP认证、多传输协议的支持性等等。当前4K后期工作站平台基本以Windows、MacOS、Linux三种操作系统为主,后台服务器部分采用Linux操作系统,各操作系统对文件服务器兼容性不同、访问效率不同,兼容性上还需要同时考虑存储器面对单类操作系统或同时对多类操作系统的支持性、管理一致性。
4、数据安全与保护
主要指传输安全与存储安全,数据在正常传输、生成中的完整性、准确性及排他性,以及对病毒和恶意侵害的预防、管控等,以及存储系统自身软/硬件的可靠性(设备存储数据安全)和保存在存储设备上数据的逻辑安全(应用安全)。
5、扩展与升级
从业务发展的角度来看,存储系统的容量、接口、带宽、管理等等,需要具备一定扩展、升级能力。
6、成本
存储器作为长时间运转设备,不仅要考虑到采购时的投入,还要考虑后期维护、管理等一系列的成本。
二、网络存储系统
当前市场上,存储器根据服务器类型分为:封闭系统的存储(封闭系统主要指大型机)和开放系统的存储(开放系统指基于Windows、Unix、Linux等操作系统的服务器)。开放系统存储器架构类型参见图2。
专业后期网络存储结构选择的主要类型是DAS、NAS和SAN。文件管理系统在哪里是NAS和SAN架构的本质区别,SAN的文件管理系统在通用的PC服务器上,通过外部的应用软件提供服务;而NAS是通过提供网络共享协议的专用硬件或类服务器设备实现,文件系统在设备内部,SAN和专业NAS都做到可以使用同一个文件管理系统(如图3)。
SAN实际是一种独立于TCP/IP网络之外的专为存储建立的网络,数据传输速度快、扩展性强一直是其优势,但FC-SAN结构存储系统的成本、双网(甚至是三网)结构复杂、维护难度高等一直成为其弊端。虽然SAN发展提供了一种与现有LAN连接的简易方法及协议的iSCSI方案,可通过同一物理通道支持广泛使用的SCSI和IP协议,但基于iSCSI技术解决方案的IP-SAN性能却无法和光纤信道相比较,而具备了IP和SAN的双重弱点。
NAS作为采用通用IP网络技术的一种数据专用存储架构,使用专用操作系统、文件系统,对外提供标准的CIFS/NFS等协议,通过以太网交换机将存储设备与应用设备相连,建立存储网络,实现集中管理数据,从而释放带宽、提高性能、安全管理、成本降低。NAS根据实现类型细化成网关式、统一式和横向扩展式(Scale-out)三种类型。
在日常的应用中,将工作站/服务器本地存储通过操作系统本身的共享功能,输出给其他用户使用,我们定义为最简单的网关式存储,其管理功能、性能、安全性都存在很大限制。专业的网关式采用类似方案,通过专用的NAS头,提供服务器,内嵌简化的专用操作系统,管理功能、缓存等,一切功能优化服务器于IP访问优化,多为单节点工作模式。网关式NAS存储的可管理性和安全性稍差,较老版本不支持大文件系统和全局命名空间,客户端需要连接多个共享点。双机模式时,两个节点日常为独立工作,各自管理自有文件系统,用户连接不同NAS存储节点IP地址,只有当一个节点故障后,文件系统才能漂移到另一个节点,问题的症结在于NAS内部的文件系统是单一文件系统,不具备多NAS控制器并发访问。
统一式的存储平台在原有网关式NAS发展而成,提供了同时对NAS与SAN的统一管理界面,可以合并两种环境下数据的同时访问,SAN仅提供基于block的存储空间,上层还需通过SAN文件系统进行管理。从单一类型向融合存储转型是存储发展的必然阶段,在IP存储层面,存储厂商逐渐打破了原有的功能限制,支持多NAS节点并发,NAS下层的文件系统以SAN的形式管理,支持全局命名空间和大容量卷。如表1、表2所示新的存储系统可支持扩展到16~24节点。
统一式和网关式NAS存储的高可用性设计,可以有效提高系统的稳定性,使系统更加可靠,主机结构采用双机热备的方式,两台机器同时运行,中间经过心跳线互相判断对方的运行状态,同时对外提供服务,如果有一台出现问题,所有应用会自动切换成另一台NAS主机,保证业务运行的高可用性。同时在NAS存储网络链路上也采用高可用性的结构,将多条链路虚拟成一个高可用、高带宽的逻辑链路,如果出现问题,如发生数据堵塞、链路访问失败,可以进行链路漂移,转到另一个可用的端口上去,提高链路的可用性。
统一存储产品除存储容量需要较高的扩展性外,NAS主机数量、主机前后端的端口数量也是考量产品扩展能力的重要指标。由于设计的不同,大部分采用后端为FC/SAS连接,使用集群文件系统,与传统的SAN存储网络相似,每一个NAS主机相当于SAN网络的FC客户端,优秀的集群文件系统对于NAS主机的扩展能力支持较高,通过NAS主机的扩展达到整体IOPS的扩展。在NAS主机数量一定的前提下,后端的FC端口数量是NAS存储容量的主要扩展方式,FC的环路越多,在接入更多的磁盘时,后端可提供访问带宽越高,而不仅是单纯的容量扩展,有效保证NAS主机节点端口为前端提供高带宽。
横向扩展式架构是以节点为单位,也称为专业集群NAS、专业集群存储,通常由多个节点组成一个集群系统,每个节点本身包含系统、存储空间、处理能力和I/O带宽,当一个节点被添加进存储系统时,系统中的三种资源同时都得到升级,视频制作行业多采用此类产品。专业集群NAS存储系统架构及主要技术规格分别如图4、表3所示。
专业集群NAS存储系统各存储节点之间存在安全保障机制,通常采用N+1/N+2冗余,允许1~2个节点故障,文件系统支持全局统一命名空间,几乎可达到无限的存储容量,全局统一命名空间是分布式文件系统,所有节点的存储空间形成统一的文件系统,整个系统具备强大的扩展能力。集群NAS存储前端提供IP网络用于对外服务,后端采用高速Infiniban/10Gb/25Gb/40Gb/100Gb网络,用于节点间的数据交互。
专业集群NAS采用专用的集群文件系统,为IP应用优化,32位操作系统可以在全局命名空间下创建多个最高16TB的单卷,64位文件系统可以创建PB级的单卷,目前SATA磁盘单盘容量大,32位文件系统进行卷创建时受到一定的限制,64位文件系统进行单卷创建是可以充分考虑性能、RAID安全及数据校验盘的部署,整体提高磁盘的可用空间,存储系统性能随节点增加线性增长,最高可达400GB/s带宽,单客户端带宽最高2.5GB/s,可创建最大100PB的单一文件系统。针对当前4K后期制作特点,采取专业集群NAS存储架构可以满足对存储器高性能、高带宽和大容量的需求。
三、专业NAS网络存储的测试示例
当前专业NAS网络存储的可选择性较大,以下是我们在超高清制作岛建设时实际搭建的后期存储系统中的两次测试及结果。
1、测试目的
通过标准后期制作环境和软件模拟数据打压的方式,测试方案设计的分布式NAS架构网络存储器带宽是否达到并满足4K后期制作需求。
2、测试内容
(1)存储器一测试
测试结果如表4。
(2)存储器二测试
测试结果如表5。
四、小结
广电系统IP化进程已成为电视制作未来发展的大趋势,针对网络化已设计出IP-SAN、NAS、融合存储等多种架构存储器。伴随4K技术的不断进步,电子设备摩尔定律的发展,电视制作工艺方式与制作流程的不断调整改进,数据频繁交互,将产生更多非结构化数据,专业集群NAS作为视频制作的网络系统存储架构,融合SAN文件系统用于共享,同时发挥不同架构存储技术的各自优势,在将来一段时期内会是4K后期网络存储系统发展的一个优质选择。
微信订阅号:科技微览