- 博客(31)
- 资源 (2)
- 问答 (1)
- 收藏
- 关注
原创 WORM技术与勒索病毒防护:基于Hitachi Content Platform Anywhere Enterprise的数据保护策略
Hitachi Content Platform Anywhere Enterprise通过其创新的WORM技术解决方案,为企业数据安全构建了双重防护体系。该系统将数据不可篡改性与实时威胁检测相结合,形成从预防到恢复的完整安全闭环。基于智能行为分析的勒索病毒防护机制能够在秒级识别并阻断异常文件操作,而多版本保留和强制访问控制则确保核心业务数据始终可恢复。该平台提供细粒度的合规策略配置,支持自定义保留期限和版本控制,同时通过完善的审计日志实现全流程追踪。
2025-09-09 10:23:45
842
原创 对象存储中的 S3 Tables:VSP One Object 的技术预览与湖仓一体化路径
摘要:Hitachi Vantara在VSP OneObject v3.1中推出S3Tables技术预览版,基于Apache Iceberg表格式标准,实现对象存储的"湖仓一体化"能力。该功能通过Catalog机制统一元数据管理,支持多引擎访问和ACID事务,兼容AWS S3Tables API并保持开源生态优势。
2025-09-08 12:29:46
281
原创 VSP One Object 对象存储中的PII管理:从合规到智能治理
在对象存储环境中,个人可识别信息(PII)的识别与治理已成为企业合规与风险控制的核心议题。Hitachi Vantara 在 Virtual Storage Platform One Object 中推出的 PII Service,提供从扫描、分析到自动化治理的一站式能力。管理员可通过配置数据源与存储桶,手动或定期检测文件中的敏感信息,并基于文件类型、PII 实体等条件制定策略,实现自动迁移或定期处置。系统支持多类敏感数据识别,如邮箱、信用卡号、IP 地址及美国特有的 SSN、护照号等,并覆盖 PDF、Of
2025-09-08 11:24:14
276
原创 高效监控与运维:Hitachi VSP One Object 的监控体系解析
该方案旨在提升系统透明度,加速故障排查,优化性能,并保障业务连续性,最终为运维团队提供强大的工具集,以管理和维护大规模、高性能的对象存储服务。它赋予了运维团队前所未有的洞察力和控制力,使其能够自信地管理大规模、高性能的对象存储基础设施,确保其稳定、高效、安全地运行,最终为企业的数据驱动战略提供坚实基础。该平台不仅提供被动的指标查看,更支持主动的告警和深入的数据钻取,实现了从“监控”到“可观测”的演进,让系统内部状态变得清晰可见。当微服务重启时,其关联的指标也会随之重置,确保数据的准确性。
2025-09-08 11:02:20
463
原创 Hammerspace 如何实现统一命名空间、简化数据管理、全局数据可见性和可访问性以及自动化数据编排
无论数据实际存储在何处,用户和应用程序都可以通过统一的视图访问数据,如同所有数据都集中在一个本地 NAS 上一样 [5, 6]。例如,可以将经常访问的数据存储在高性能的闪存存储中,而将不常访问的数据存储在成本更低的云存储中。数据位置透明性: 对用户和应用程序来说,数据的物理位置是透明的 [5, 6]。总之,Hammerspace 通过其独特的架构和功能,提供了一个统一、高效和自动化的数据管理平台,帮助用户简化数据管理、提高数据可见性和可访问性,并释放数据的全部潜力。
2024-12-02 16:54:18
643
原创 Hammerspace 整合不同类型存储的方法
Hammerspace 能够整合不同类型的存储,包括块存储、文件存储、对象存储、云存储和磁带存储,并将其统一到一个全局命名空间中。统一数据访问: Hammerspace 支持多种标准文件访问协议,包括 NFS、SMB 和 S3,允许用户和应用程序使用他们熟悉的协议访问数据,而无需安装特殊的客户端软件 [3, 4]。实现云存储和对象存储的无缝访问: Rclone 充当 Hammerspace 和云存储/对象存储之间的桥梁,使用户可以通过文件系统接口访问云存储和对象存储中的数据 [1]。
2024-12-02 16:53:44
533
原创 Hammerspace 如何实现无中断的数据迁移
Hammerspace 通过其独特的架构和功能,实现了无中断的数据迁移,使用户和应用程序在享受高性能数据访问的同时,可以透明地进行数据迁移,而不会对业务造成任何影响。[1] 中提到,Hammerspace 的数据迁移是“实时数据迁移”,可以无中断地将数据从一个点移动到另一个点或多个点。在数据迁移过程中,只有元数据信息会被更新,指向新的数据存储位置,而实际数据仍然可以通过旧的访问路径访问。这种并行数据访问机制确保了在数据迁移过程中,用户和应用程序仍然可以高速访问数据,而不会受到任何性能影响。
2024-12-02 16:53:10
290
原创 数据移动器(Mover)和声明式控制(Hammerspace Objectives)如何协同实现无中断数据迁移
Hammerspace 通过数据移动器 (Mover) 和声明式控制 (Hammerspace Objectives) 的协同工作,实现了无中断的数据迁移。数据移动器 (Mover) 和声明式控制 (Hammerspace Objectives) 的协同工作 确实是 Hammerspace 实现无中断数据迁移的核心。[3, 14, 15]透明: 数据迁移过程对用户和应用程序是透明的,他们无需了解数据的物理位置或迁移过程。当数据迁移完成后,Anvil 节点会更新文件系统的元数据,将数据路径指向新的存储位置。
2024-12-02 16:52:33
299
原创 Hammerspace Objectives:声明式数据管理控制机制
通过 Hammerspace Objectives,管理员可以轻松地定义和实施各种数据管理策略,以满足不同的业务需求,并确保数据的安全、性能和可用性。声明式控制: 与传统的命令式控制机制不同,Hammerspace Objectives 采用声明式控制,管理员只需描述期望的数据状态,而无需指定具体的步骤。数据分层: 可以创建一个 Objective,将经常访问的文件存储在高性能的 NVMe 存储上,并将较少访问的文件存储在成本更低的 HDD 存储上。
2024-12-02 16:51:51
175
原创 Hammerspace 是否自带数据迁移工具?
Hammerspace 拥有名为 “实时数据迁移(Live Data Mobility)” 的功能,它能够以无中断的方式在不同的存储系统之间迁移数据 [1-3]。数据同地同存同管 (Data-in-Place): Hammerspace 可以快速获取现有存储系统中的文件系统元数据,而无需将数据迁移到其他存储位置 [11-13]。总而言之,Hammerspace 提供了强大的内置数据迁移工具,使用户能够以无中断、透明和自动化的方式在不同的存储系统之间迁移数据。
2024-12-02 16:51:15
274
原创 Hammerspace Mover 的主要功能
Hammerspace Mover 是 Hammerspace 数据迁移功能的核心组件,它负责执行实际的数据迁移操作。Mover 与其他 Hammerspace 组件协同工作,根据 Hammerspace Objectives 定义的策略,以无中断、透明和自动化的方式在不同的存储系统之间迁移数据。Hammerspace Mover 是 Hammerspace 数据服务节点 (DSX) 上的一个组件,负责执行实际的数据迁移操作。Mover 的操作受 Hammerspace Objectives 的控制。
2024-12-02 16:50:38
306
原创 Hammerspace Objectives 的主要功能
通过声明式控制、基于条件的规则引擎和自动化数据编排,Objectives 简化了数据管理,提高了数据可见性,增强了数据安全性,并优化了数据性能。定义期望的数据状态: Objectives 采用声明式语言编写,管理员只需描述期望的数据状态,而无需指定具体的迁移步骤。无缝体验: 用户无需了解数据的物理位置或 Objectives 的执行过程,即可享受无缝的数据访问体验。减轻管理员负担: 自动化数据编排减轻了管理员的负担,并确保数据始终符合预定义的策略。
2024-12-02 16:49:58
342
原创 Hammerspace 数据迁移进度和状态监控
通过观察文件浏览器中文件和文件夹的对齐状态变化,管理员可以实时监控数据迁移的进度。管理员可以通过仪表板快速查看当前正在进行的数据迁移任务数量、总体迁移进度以及每个任务的详细信息,例如源卷和目标卷、已迁移数据量、迁移速率和预计完成时间等。管理员可以通过各种工具和视图获取有关数据迁移过程的详细信息,包括源卷和目标卷、状态、吞吐量以及开始和完成时间等信息。Hammerspace 提供的这些监控工具和视图使管理员能够全面了解数据迁移过程,并及时发现和解决任何潜在问题,确保数据迁移顺利完成。
2024-12-02 16:49:23
265
原创 Hammerspace 的数据分层
基于成本的分层: Hammerspace 可以根据存储成本将数据分层到不同的云区域或云服务。例如,将经常访问的“热”数据放置在高性能闪存存储中,而将很少访问的“冷”数据放置在更经济的硬盘或对象存储中。云存储分层: Hammerspace 可以将数据分层到不同的云存储层,例如将冷数据归档到 AWS S3 Glacier 或 Azure Archive,以降低存储成本 [3, 4]。基于位置的分层: Hammerspace 可以根据数据的位置需求将数据分层到不同的地理位置。
2024-12-02 16:48:48
413
原创 Hammerspace 的数据保护方式
虽然资料中没有明确提到“多副本数据保护”的字眼,但多个资料都提到了 “快照 (Snapshots)” 功能,这是一种常见的多副本数据保护机制。综上所述,Hammerspace 支持纠删码数据保护和多副本数据保护,为用户提供了多种数据保护选择,以满足不同的业务需求和数据安全策略。此外,资料 [7] 提到了 “灾难恢复 (DR)” 功能,这也暗示了 Hammerspace 支持某种形式的多副本数据保护。根据您提供的资料,Hammerspace 支持纠删码数据保护,也支持多副本数据保护。
2024-12-02 16:48:16
276
原创 Hammerspace 是否需要专有软件或代理?
然而,资料中强调 Hammerspace 使用标准协议,并且不需要在客户端安装专有软件 [1]。这表明 Hammerspace 可能没有专用的 POSIX 客户端,而是依赖于操作系统提供的标准 POSIX 兼容性。用户和应用程序可以通过行业标准协议(如 NFS、pNFS、SMB、S3)以及用于容器的 CSI 挂载和访问 Hammerspace [1]。它利用了现有操作系统(如 Windows、Linux 和 Mac)中内置的标准网络接口和内核级代码,以确保与现有 IT 基础架构的最大兼容性 [1]。
2024-12-02 16:47:41
151
原创 Hammerspace 在 AI/DL 性能优化方面的应用
Hammerspace 通过其并行全局文件系统、自动化数据编排、Tier 0 存储、GPUDirect Storage 支持和其他性能优化功能,为 AI/DL 工作负载提供了高性能、可扩展和灵活的数据管理平台。例如,可以将经常访问的“热”数据放置在高性能的 NVMe 闪存存储 (Tier 0) 中,而将很少访问的“冷”数据放置在更经济的硬盘或云对象存储中。此外,Tier 0 存储中的数据仍然可以受到 Hammerspace 数据保护和数据编排策略的保护,例如镜像和异步复制。
2024-12-02 16:47:05
599
原创 pNFS 如何优化和提升性能
Hammerspace 采用 pNFS v4.2 构建了一个高性能的并行全局文件系统,可以跨越多个站点、云平台和各种存储类型,并通过自动化数据编排和智能数据放置策略,为 AI/DL 工作负载提供最佳的性能和效率。由于客户端可以智能地缓存布局信息并消除 getattr 和其他状态信息的冗余通信,pNFS v4.2 绕过了元数据服务器,从而建立了与存储的直接 I/O 连接。传统 NAS 架构中,元数据和数据通过相同的服务器和网络路径传输,这会在高负载情况下造成瓶颈,导致延迟增加并降低性能。
2024-12-02 16:46:23
769
原创 Hammerspace 简介
**自动化数据分层:** Hammerspace 自动执行存储层之间的数据移动,并且由于所有层都是单个命名空间的一部分,因此无论文件驻留在哪个层上,即使它们在层之间移动,文件对用户和应用程序仍然可见。* **人工智能 (AI):** Hammerspace 可以以最大性能检索多个原本不兼容的存储位置的数据,并将其馈送到即使是最大的 GPU 集群,而无需企业迁移数据副本或购买与供应商绑定的存储库。* **高性能:** Hammerspace 提供 HPC 级性能以实现高速数据处理。
2024-12-02 16:45:26
640
原创 S3FS安装和挂载对象存储桶 - Hitachi Content Platform (HCP)
在文件passwd-s3fs中填写桶的用户名密码信息并保存。#确保桶可访问 ping s3fsbucket.t1.hcp-demo.hcpdemo.com。2、S3FS的全局认证信息文件.passwd-s3fs位置是:/etc/passwd-s3fs。#确保租户可访问 ping t1.hcp-demo.hcpdemo.com。1、确保S3FS所在机器到对象存储桶、到租户域名可访问。在此文件中配置,只能保证当前登录用户可以挂载S3FS。1、从运维人员处得到对象存储桶信息。一、得到对象存储桶信息。
2024-02-27 16:50:55
1711
原创 s3cmd安装、配置、测试访问、数据同步对象存储Hitachi Content Platform (HCP)
需要先安装python。我的环境是centos7,其它环境,请根据实际情况安装。成功列出桶hcmans 和 n1。成功列出桶n1中的对象。github开源参考。
2024-02-27 16:38:58
1222
原创 HCP(Hitachi Content Platform (HCP)) S3 API开发最佳实践-访问对象存储
原因:一定要使用单例模式。如果不使用,每次请求都创建一个client,每个client默认会创建50个长连接,会很快导致HCP服务端连接耗尽。得到下面的输出结果,相同hashcode时,单例成功。1)在对象存储HCP和客户端之间如果有一个中间服务层;由于http协议的无状态,直接转发的流可能意外中断。二、读取对象后要关闭数据流,不关闭会导致连接过多。三、对象数据流需通过服务端缓存后,再转发。2)读取完整的对象内容在内存中缓存;如果不按上述方法,您可能遇到的异常。使用下面代码测试单例。
2024-02-27 16:33:10
622
原创 对象存储HCP基本概念(理解租户,桶),S3接口示例工程,规则,最佳实践,异常处理
当前线程ID="+Thread.currentThread().getId()+" | S3客户端ID="+S3Client.getInstance("t1.hcp.demo.com",请一定使用单例模式,如果不使用单例,每次请求都创建一个client,每个client默认会创建50个长连接,会很快导致连接耗尽。如果不知道租户的登录地址,请联系公司的对象存储运维团队。注:如果对象存储管理员不希望用户创建桶,可以在对象存储管理界面关闭桶创建权限。当前线程ID=22 | S3客户端ID=2072902298。
2024-02-27 16:13:25
2508
原创 HCSF (Hitachi Content Software for File)存储系统:高性能原理与优化策略分析
HCSF存储系统通过一系列先进技术和策略,提供了一个高性能、高效率的数据存储解决方案。通过分布式、可扩展的元数据管理,HCSF实现了快速、可扩展和一致的元数据服务,支持高性能文件存储和访问。网络传输和数据读写的优化,包括使用DPDK和RDMA技术,进一步提升了数据处理速度和存储操作效率。POSIX客户端动态负载均衡、智能分层存储、快速数据重构以及性能的线性扩展能力,都是HCSF在设计和实现上的亮点,确保了系统在处理大规模、高性能计算需求时的理想性能。其高性的原理及优化策略如下。
2024-02-23 11:45:31
1413
原创 java去除字符串中的空格、回车、换行符、制表符
import java.util.regex.Matcher;import java.util.regex.Pattern; /** * @author lei * 2011-9-2 */public class StringUtils { public static String replaceBlank(String str) { String dest
2016-07-28 09:16:35
318
原创 structs2 json java jsp 下载单个文件
1、代码private OutputStream res;public OutputStream getRes() {return res;}public void setRes(OutputStream res) {this.res = res;}public String downLoadPostCheckResult() throws IO
2016-07-28 09:15:36
226
原创 Structs2 json 打包下载文件,多个文件打成一个压缩包
1、代码private OutputStream res;private ZipOutputStream zos; public OutputStream getRes() {return res;}public void setRes(OutputStream res) {this.res = res;}public ZipOutputSt
2016-07-28 09:13:55
321
转载 Ubuntu下使用VI编辑文件必知的常用命令
Ubuntu下使用VI编辑文件必知的常用命令进入vi的命令vi filename :打开或新建文件,并将光标置于第一行首vi +n filename :打开文件,并将光标置于第n行首vi + filename :打开文件,并将光标置于最后一行首vi +/pattern filename:打开文件,并将光标置于第一个与pattern匹配的串处vi -r filename
2014-05-19 13:55:49
414
转载 Ubuntu设置环境变量并立即生效
Ubuntu设置环境变量并立即生效Ubuntu Linux系统包含两类环境变量:系统环境变量和用户环境变量。系统环境变量对所有系统用户都有效,用户环境变量仅仅对当前的用户有效。修改用户环境变量用户环境变量通常被存储在下面的文件中:~/.profile~/.bash_profile 或者 ~./bash_login~/.bashrc上述文件在Ubuntu 10.0以前版本
2014-05-09 10:51:29
384
转载 linux find
某老师linux课的实验题,结果发现自己用了这些年linux还是对find、sort不太熟悉,还有awk,觉得不应该沉溺于ubuntu之类的图形界面之中,切切实实地用shell command来用linux才是正道。实验使用Centos6.4 minimal……P.S.所以所有linux实验都只会会在这两个系列的部分社区发行版进行。如:ubuntu,debian,centos6,rhel5
2014-05-07 11:59:50
578
对象存储Hitachi Content Platform (HCP)基本概念,S3接口示例工程,规则,最佳实践,异常处理
2024-02-27
一直无法加载 Failed to load coprocessor
2016-06-07
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅