淘宝TFS使用

在CentOS7下安装TFS及Nginx-TFS(分布式文件系统TFS、Nginx-TFS模块、TFS RESTful API) 1、编译 gcc4.1.2 TFS太久没更新了, 要用gcc4.1.2来编译才比较顺利 请参考我另一博客:在CentOS7.3上编译gcc4.1.2 (gcc4.1.2、淘宝TFS)  2、安装一些依赖包 # yum install -y automake.noarch libtool.x86_64 readline-devel.x86_64 zlib-devel.x86_64 e 阅读详情

TFS作为一个开源的分布式文件系统,在处理小文件的性能上还是比较高效的。功能部署有点类似与HDFS,而且增加了nameserver HA的功能。

作为开源项目来讲,其文档资源还有规范性较比Apache的子项目还是有一定差距的。在安装过程中也遇到了很多困难,走了很多弯路。最开始的时候是在ubuntu环境下进行的,首先需要降级安装gcc,然后安装TFS的依赖库,无奈最后编译TFS的时候还是出了异常。最后,切换到64位centOS环境,按照如下的步骤成功搭建:
http://gdcsy.blog.163.com/blog/static/12734360920125624859906/
注:安装TFS的时候没有checkout它的chunk目录,而是直接下载了1.4的版本

有关TFS的具体介绍可以参考这个网址:
http://code.taobao.org/p/tfs/wiki/index/
在使用的过程中,我们主要通过java语言来进行调用,淘宝所提供的java API中有部分代码集成了tair的功能,如果不想使用tair可以人为修改代码,将tair的功能注释掉
注释掉之后的代码和单元测试用例可到这里下载:
http://download.youkuaiyun.com/detail/javaman_chen/4473179

附TFS的Spring配置和单元测试类

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE beans PUBLIC "-//SPRING//DTD BEAN//EN" "http://www.springframework.org/dtd/spring-beans.dtd">
<beans>
    <bean id="tfsManager" class="com.taobao.common.tfs.DefaultTfsManager" init-method="init" >
      <!-- 整个进程中系统最多等待多少个请求,取决于你有多少个线程并发的请求TFS -->
       <property name="maxWaitThread">
        <value>100</value>
      </property>
      <!-- 单个请求最大的等待时间(ms) 超过这个时间放弃这次请求-->
      <property name="timeout">
        <value>2000</value>
      </property>
      <!-- Tfs master nameserver ip address -->
      <property name="nsip">
        <value>192.168.7.134:8888</value>
      </property>
      <!-- TFS 集群的编号,这个编号只是一种参考,系统初始化的时候会从ns上取,取不到才用本地设置的.!-->
      <property name="tfsClusterIndex">
        <value>1</value>
      </property>
      <!-- TFS在读取文件的时候会缓存block所在的数据服务器ip,这个参数配置了最多缓存的记录个数!-->
      <property name="maxCacheItemCount">
        <value>10000</value>
      </property>
      <!-- 上一项缓存最大有效的时间(ms)!-->
      <property name="maxCacheTime">
        <value>5000</value>
      </property>
   </bean>
</beans>
单元测试代码

import org.springframework.context.ApplicationContext;
import org.springframework.context.support.ClassPathXmlApplicationContext;
import com.taobao.common.tfs.TfsManager;
import com.taobao.common.tfs.packet.FileInfo;
import junit.framework.TestCase;

public class TFSTest extends TestCase {
	ApplicationContext context;
	protected void setUp() throws Exception {
		super.setUp();
		context=new ClassPathXmlApplicationContext("tfs.xml");
	}
	public void testTemp(){
		TfsManager tfsMgr=(TfsManager) context.getBean("tfsManager");
		System.out.println(tfsMgr);
	}
	public void testSave(){
		TfsManager tfsMgr=(TfsManager) context.getBean("tfsManager");
		String fileName=tfsMgr.saveFile("test.pdf", null, null);
		System.out.println(fileName);
	}
	public void testFetch(){
		TfsManager tfsMgr=(TfsManager) context.getBean("tfsManager");
		boolean flag=tfsMgr.fetchFile("T1_tETBCZT1RCvBVdK", null, "temp.pdf");
		System.out.println(flag);
	}
	public void testDelete(){
		TfsManager tfsMgr=(TfsManager) context.getBean("tfsManager");
		boolean flag=tfsMgr.unlinkFile("T1XRETByJT1RCvBVdK", null);
		System.out.println(flag);
	}
	public void testHide(){
		//1 隐藏;0显示
		TfsManager tfsMgr=(TfsManager) context.getBean("tfsManager");
		boolean flag=tfsMgr.hideFile("T1XRETByJT1RCvBVdK", null, 0);
		System.out.println(flag);
	}
	public void testState(){
		TfsManager tfsMgr=(TfsManager) context.getBean("tfsManager");
		FileInfo fileInfo=tfsMgr.statFile("T1_tETBCZT1RCvBVdK", null);
		int flag=fileInfo.getFlag();
		System.out.println(flag);
	}
}
注意:在使用TFS之前最好先提高系统用户可访问文档的上限,默认是1024,相对较少,TFS使用一段时间后会出现资源不足的情况。

TFS(taobao file system淘宝文件系统)RestFul API 试用总结 刚试用了下淘宝自己开发的文件系统TFS,感觉基于nginx做的RESTful API用起来还是挺方便的,下面对这些API简单总结下,也说下我的一些经验: 特别是那些觉得搭PHP环境的很麻烦的朋友不访参考下我的方案二。 nginx_ip为nginx客户端的ip,port为nginx web服务接口。 一.得用restful api(详细可以参考淘宝的github)     1 阅读详情

相关推荐

文件系统:淘宝 TFS简介

TFS is a distributed file system developed by Taobao.com.Aiming at a distributed file system with high availability, high performance and low cost, TFS is a linux-based file system which provides high reliability and concurrent access by redundancy, backup

GIS摆渡人 770

centOS下安装tfs基本步骤备份

rpm -i libstdc++-devel-4.4.7-11.el6.x86_64.rpm rpm -i libstdc++-4.4.7-11.el6.x86_64.rpm rpm -i gcc-c++-4.4.7-11.el6.x86_64.rpm rpm -i gcc-4.4.7-11.el6.x86_64.rpm rpm -i autoconf-2.63-5.1.el6.noarc

guotao521的专栏 2242

tfs夹包下载

com.taobao.common.tfs

淘宝tfs部署测试

环境:Centos 5.8 64bit ,iptables 关闭,selinux关闭,开发包组库与工具已经安装,gcc版本4.1.2ns1 192.168.10.11 ns2 192.168.10.12 ds1 192.168.10.13 ds2 192.168.10.14 vip 192.168.19.10 ds1,ds2为dataserver,ns1,ns2为namserver,ns1为mas...

weixin_34367845的博客 265

SSCardDriver.dll社会保障卡读写终端接口规范38号文接口

********************获取设备及PSAM卡信息********************//********************获取银行账户信息 ********************//********************获取设备信息********************//********************PIN校验********************//********************通用写卡********************/

广东东信智能科技有限公司的专栏 1746

AUTOSAR入门

一、AUTOSAR是什么 AUTOSAR组织自己的介绍是 AUTOSAR (AUTomotive Open System ARchitecture) is a worldwide development partnership of vehicle manufacturers, suppliers, service providers and companies from the automot...

天涯遍地是小草的博客 3万+

TFS使用简介

背景:项目中可能会大量存储50K左右的htm小文件,估计每天产生1亿个左右;那么规划三年的存储总量将超千亿,加上俩份备份,总存储将达到15P,如果每台server总磁盘16T,总计需要1000台左右。显然,这么大规模的小文件存储,只能选择taobao的TFS。 1 tfs综述 http://blog.yunnotes.net/index.php/tfs_user_faq/ 2 安装 ...

jd2bs 793

Vivado里LDPC IP核怎么配?手把手教你从6144bit数据到完整参数设置

本文详细介绍了在Vivado中配置LDPC IP核的完整流程,从6144bit数据的参数计算到实际IP核设置。通过分析基本图选择、扩展因子计算和移位参数确定等关键步骤,帮助工程师高效完成LDPC编译码的硬件实现,并提供了时序控制、仿真验证和性能优化的实用技巧。

weixin_30352645的博客 519

TFS文件系统的安装、配置、启动

TFS(Taobao FileSystem)是一个高可扩展、高可用、高性能、面向互联网服务的分布式文件系统,其设计目标是支持海量的非结构化数据的存储;TFS使用C++语言开发,需要运行在64bit Linux OS上,TFS为淘宝提供海量小文件存储,通常文件大小不超过1M,满足了淘宝对小文件存储的需求,被广泛地应用 在淘宝各项应用中。它采用了HA架构和平滑扩容,保证了整个文件系统的可用性和扩展性。...

姜姜! 3199

Win11显卡驱动安装失败的全面解决方案

Windows 11显卡驱动安装失败是一个比较常见的问题,但通过上述方法,我们可以有效地解决这一问题。方法一通过调整组策略编辑器的驱动程序安装策略,可能解决一些因签名问题导致的安装失败;而方法二则通过重装Windows 11系统,为系统提供一个全新的、干净的环境,从而可能解决更复杂的安装问题。在实际操作中,用户可以根据具体情况选择合适的方法来解决显卡驱动安装失败的问题。

nntxthml的博客 2663

Win11下高效管理JDK1.8与JDK17双环境的实战指南

本文提供了一份在Windows 11系统上高效管理JDK 1.8与JDK 17双环境的实战指南。文章详细讲解了如何实现双版本切换,包括如何干净安装两个JDK、通过巧妙配置环境变量实现命令行一键切换,以及在不同IDE和构建工具中为项目独立配置JDK版本,旨在帮助Java开发者彻底解决版本冲突问题,提升开发效率。

ipfs8storage的博客 545

淘宝TFS

目前,国内自主研发的文件系统可谓凤毛麟角。淘宝在这一领域做了有效的探索和实践,Taobao File System(TFS)作为淘宝内部使用的分布式文件系统,针对海量小文件的随机读写访问性能做了特殊优化,承载着淘宝主站所有图片、商品描述等数据存储。 最近,淘宝核心系统团队工程师楚材(李震)在其官方博客上撰文(《TFS简介》,以下简称文章)简要介绍了TFS系统的基本情况,引起了社区的关

aican_yu的专栏 1351

【UE5】【蓝图】 LevelSequence 动画播放与暂停

最近有些工作,在研究UE5 蓝图的LevelSequence,来制作一些简单动画。做个笔记,记录一下动画更换绑定actor的操作,以及动画播放后如何暂停和继续。

UE5开发备忘录 1万+

淘宝tfs 是否支持html,GitHub - taobao/tfs: TFS (Taobao File System) is a distributed file system similar to...

Welcome to TFS! TFS is a distributed file system developed by Taobao.com.===================================================================http://code.taobao.org/trac/tfs/wiki/ZhWikiStartOverview----...

weixin_35724881的博客 236

【BUG已解决】ImportError: cannot import name ‘OpenAI‘ from ‘openai‘ 解决方案

的核心是版本不匹配用确认当前版本如果是 0.x 版本 →升级到 1.x升级后代码语法要同步改为团队协作项目务必在中锁定版本号,避免"我这能跑,你那不能跑"的问题对接国产模型时,只需替换base_url参数,SDK 调用方式完全一致。

一键难忘的博客 1万+

Unity零基础到入门 ☀️| 基础知识入门篇章,看完就可以做游戏啦! | 寻找C站宝藏

Unity入门基础知识。本篇文章介绍了关于Unity入门的一些基础知识,包括基本概念和使用实例。简单易上手,轻松实现Unity入门操作!

努力前行,总会成为自己心中的那道光 1万+

淘宝 海量 小文件存储 架构 TFS

<br />http://code.taobao.org/trac/tfs/wiki/ZhWikiStart

Web系统架构师 2355

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

Taobao分布式文件系统TFS简析

TFS官方称“TFS(Taobao FileSystem)是一个高可扩展、高可用、高性能、面向互联网服务的分布式文件系统,其设计目标是支持海量的非结构化数据”。我个人花了点时间研究一下TFS的源码和相关技术文档,TFS与目前一些主流的开源分布式文件系统设计思想是相似的,如HDFS, MFS, KFS, Sector。TFS的高可扩展、高可用性是很好的,然而也存在一定不足,如通用性、用户接口、性能等方面。我这里粗略罗列一些自己认为TFS的不足之处,不当之处还请大家指正。

刘爱贵的专栏 4万+

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

TFS(Taobao File System)淘宝自主开发的一个分布式文件系统

TFS(Taobao File System)是淘宝自主开发的一个分布式文件系统,适用于海量小文件存储。 运维篇 快速入门获取TFS配置部署运行TFS集群迁移工具介绍运维FAQ 使用篇 用户指南(Java版)用户指南(C++版)nginx模块 原理篇 TFS介绍写流程介绍读流程介绍NS中BlockManager和ServerManager介绍Dataserver

小海的专栏 5455

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

淘宝tfs-client java配置

pom.xml com.taobao.tair tair-client 2.3.1 com.taobao.common.tair common-tair 2.3.1 com.taobao.common.tfs tfs-javaclient 2.1.6 tfs.properties tfs.client.ma

ant_szc的专栏 2611

TFS(Taobao !FileSystem)

简介 TFS(Taobao !FileSystem)是一个高可扩展、高可用、高性能、面向互联网服务的分布式文件系统,主要针对海量的非结构化数据,它构筑在普通的Linux机器集群上,可为外部提供高可靠和高并发的存储访问。TFS为淘宝提供海量小文件存储,通常文件大小不超过1M,满足了淘宝对小文件存储的需求,被广泛地应用在淘宝各项应用中。它采用了HA架构和平滑扩容,保证了整个文件系统的可用性和扩展

da sheng 的专栏 786

Taobao自主研发分布式文件系统TFS

<br />Taobao自主研发分布式文件系统TFS(Taobao File System)的消息早有耳闻,最初来自网络上的一篇报道(或称软文)-“深度揭秘淘宝自主研发的文件系统TFS”。因为个人研究兴趣和工作内容相关的缘故,对TFS产生了很大的兴趣,很是期待和关注。TFS前面一直传说大致在2010.09月进行开源发布,国庆前后未能跟进关注,节后蓦然发现TFS已经于2010.09.29在Taobao的开源平台发布了,http://code.taobao.org/project/view/366/。网络上大家

金 色 的 草 棚 1873

揭秘淘宝自主研发的文件系统——TFS

作者 崔康 发布于 2010年7月7日 | 22 讨论 新浪微博腾讯微博豆瓣网TwitterFacebooklinkedin邮件分享更多2 稍后阅读 我的阅读清单 目前,国内自主研发的文件系统可谓凤毛麟角。淘宝在这一领域做了有效的探索和实践,Taobao File System(TFS)作为淘宝内部使用的分布式文件系统,针对海量小文件的随机读写访问性

wantong2005的专栏 1151

《淘宝技术这十年》读书笔记 (三). 创造技术TFS和Tair

前面两篇文章介绍了淘宝的发展历程和Java时代的变迁:             《淘宝技术这十年》读书笔记 (一).淘宝网技术简介及来源             《淘宝技术这十年》读书笔记 (二).Java时代的脱胎换骨和坚若磐石         马云说过“创新不是为了与对手竞争,而是跟明天竞争”,所以这篇文章讲述淘宝的创新技术TFS和Tair及创新的产品,希望文章对大家有所帮助。

杨秀璋的专栏 9017
上一篇: BerkeleyDB简介
下一篇: Eclipse4平台概述
JavaMan_chen
博客等级 码龄19年 329粉丝 82原创
评论 4
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值