FastDFS分布式文件系统的安装与使用（单节点）

最新推荐文章于 2024-05-04 07:20:51 发布
原创 最新推荐文章于 2024-05-04 07:20:51 发布 · 411 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#FastDFS

本文详细介绍FastDFS分布式文件系统单节点的安装配置流程，包括依赖包安装、跟踪服务器及存储服务器配置、文件上传测试等步骤，并介绍了如何利用Nginx模块解决文件复制延迟问题。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

FastDFS分布式文件系统的安装与使用（单节点）

一、所有跟踪服务器和存储服务器均执行如下操作

1、编译和安装所需的依赖包:

  • yum install make cmake gcc gcc-c++

2、安装libfastcommon:

(1)上传或下载libfastcommon-master.zip到/usr/local/src目录

(2)解压

  • cd /usr/local/src/
  • unzip libfastcommon-master.zip
  • cd libfastcommon-master
  • 在这里插入图片描述

(3) 编译、安装

  • ./make.sh
  • ./make.sh install
  • libfastcommon默认安装到了
  • /usr/lib64/libfastcommon.so
  • /usr/lib64/libfdfsclient.so

(4)因为FastDFS主程序设置的lib目录是/usr/local/lib，所以需要创建软链接

  • ln -s /usr/lib64/libfastcommon.so /usr/local/lib/libfastcommon.so
  • ln -s /usr/lib64/libfastcommon.so /usr/lib/libfastcommon.so
  • ln -s /usr/lib64/libfdfsclient.so /usr/local/lib/libfdfsclient.so
  • ln -s /usr/lib64/libfdfsclient.so /usr/lib/libfdfsclient.so

3、安装FastDFS

(1)上传或下载FastDFS源码包（FastDFS_v5.05.tar.gz）到 /usr/local/src 目录

(2)解压

  • cd /usr/local/src/
  • tar -zxvf FastDFS_v5.05.tar.gz
  • cd FastDFS
  • 在这里插入图片描述

(3)编译、安装（编译前要确保已经成功安装了libfastcommon）

  • ./make.sh
  • ./make.sh install
  • 采用默认安装的方式安装,安装后的相应文件与目录：
  • A、服务脚本在：
    • /etc/init.d/fdfs_storaged
    • /etc/init.d/fdfs_tracker
  • B、配置文件在（样例配置文件）:
    • /etc/fdfs/client.conf.sample
    • /etc/fdfs/storage.conf.sample
    • /etc/fdfs/tracker.conf.sample
  • C、命令工具在/usr/bin/目录下的：
    • fdfs_appender_test
    • fdfs_appender_test1
    • fdfs_append_file
    • fdfs_crc32
    • fdfs_delete_file
    • fdfs_download_file
    • fdfs_file_info
    • fdfs_monitor
    • fdfs_storaged
    • fdfs_test
    • fdfs_test1
    • fdfs_trackerd
    • fdfs_upload_appender
    • fdfs_upload_file
    • stop.sh
    • restart.sh

(4)因为FastDFS服务脚本设置的bin目录是/usr/local/bin，但实际命令安装在/usr/bin，可以进入/user/bin目录使用以下命令查看fdfs的相关命令：

  • cd /usr/bin/
  • ls | grep fdfs
  • 在这里插入图片描述
  • 因此需要修改FastDFS服务脚本中相应的命令路径，也就是把/etc/init.d/fdfs_storaged和/etc/init.d/fdfs_tracker两个脚本中的/usr/local/bin修改成/usr/bin：
  • vi fdfs_trackerd
  • 使用查找替换命令进统一修改:%s+/usr/local/bin+/usr/bin
  • vi fdfs_storaged
  • 使用查找替换命令进统一修改:%s+/usr/local/bin+/usr/bin

二、配置FastDFS跟踪器(192.168.0.213)

1、 复制FastDFS跟踪器样例配置文件,并重命名:

  • cd /etc/fdfs/
  • 在这里插入图片描述
  • cp tracker.conf.sample tracker.conf

2、 编辑跟踪器配置文件：

  • vi /etc/fdfs/tracker.conf
  • 修改的内容标红如下：

3、 创建基础数据目录（参考基础目录base_path配置）:

  • mkdir -p /fastdfs/tracker

4、 防火墙中打开跟踪器端口（默认为22122）:

  • vi /etc/sysconfig/iptables
  • 添加如下端口行：
  • -A INPUT -m state --state NEW -m tcp -p tcp --dport 22122 -j ACCEPT
  • 重启防火墙：
  • service iptables restart

5、 启动Tracker：

  • /etc/init.d/fdfs_trackerd start
  • （初次成功启动，会在/fastdfs/tracker目录下创建data、logs两个目录）
  • 查看FastDFS Tracker是否已成功启动：
  • ps -ef | grep fdfs
  • 在这里插入图片描述

6、 关闭Tracker：

  • /etc/init.d/fdfs_trackerd stop

7、 设置FastDFS跟踪器开机启动：

  • vi /etc/rc.d/rc.local
  • 添加以下内容：

  • FastDFS Tracker

  • /etc/init.d/fdfs_trackerd start

三、配置FastDFS存储(192.168.0.214)

1、 复制FastDFS存储器样例配置文件,并重命名:

  • cd /etc/fdfs/
  • 在这里插入图片描述
  • cp storage.conf.sample storage.conf

2、 编辑存储器样例配置文件：

  • vi /etc/fdfs/storage.conf
  • 修改的内容标红如下:
    • disabled=false
    • port=23000
    • base_path=/fastdfs/storage
    • store_path0=/fastdfs/storage
    • tracker_server=192.168.0.213:22122
    • http.server_port=8888
    • （其它参数保留默认配置，具体配置解释请参考官方文档说明：http://bbs.chinaunix.net/thread-1941456-1-1.html ）

3、 创建基础数据目录（参考基础目录base_path配置）:

  • mkdir -p /fastdfs/storage

4、 防火墙中打开存储器端口（默认为23000）:

  • vi /etc/sysconfig/iptables
  • 添加如下端口行：
  • -A INPUT -m state --state NEW -m tcp -p tcp --dport 23000 -j ACCEPT
  • 重启防火墙：
  • service iptables restart

5、 启动Storage：

  • /etc/init.d/fdfs_storaged start
  • （初次成功启动，会在/fastdfs/storage目录下创建data、logs两个目录）
  • 查看FastDFS Storage是否已成功启动
  • ps -ef | grep fdfs
  • 在这里插入图片描述

6、 关闭Storage：

  • /etc/init.d/fdfs_storaged stop

7、 设置FastDFS存储器开机启动：

  • vi /etc/rc.d/rc.local
  • 添加：

    • FastDFS Storage

    • /etc/init.d/fdfs_storaged start

四、文件上传测试(192.168.0.213)

1、 修改 Tracker 服务器中的客户端配置文件：

  • cp /etc/fdfs/client.conf.sample /etc/fdfs/client.conf
  • vi /etc/fdfs/client.conf
  • base_path=/fastdfs/tracker
  • tracker_server=192.168.0.213:22122

2、执行如下文件上传命令：

  • /usr/bin/fdfs_upload_file /etc/fdfs/client.conf /usr/local/src/FastDFS_v5.05.tar.gz
  • 返回ID号：group1/M00/00/00/wKgA1lyo1IKAMXT9AAVFOL7FJU4.tar.gz
  • （能返回以上文件ID，说明文件上传成功）

五、在每个存储节点上安装nginx

1、fastdfs-nginx-module作用说明

  • FastDFS通过Tracker服务器,将文件放在Storage服务器存储，但是同组存储服务器之间需要进入文件复制，有同步延迟的问题。假设Tracker服务器将文件上传到了192.168.0.214，上传成功后文件ID已经返回给客户端。此时FastDFS存储集群机制会将这个文件同步到同组存储192.168.4.126，在文件还没有复制完成的情况下，客户端如果用这个文件ID在192.168.4.126上取文件,就会出现文件无法访问的错误。而fastdfs-nginx-module可以重定向文件连接到源服务器取文件,避免客户端由于复制延迟导致的文件无法访问错误。（解压后的fastdfs-nginx-module在nginx安装时使用）

2、上传fastdfs-nginx-module_v1.16.tar.gz到/usr/local/src

3、解压

  • cd /usr/local/src/
  • tar -zxvf fastdfs-nginx-module_v1.16.tar.gz

4、修改fastdfs-nginx-module的config配置文件

  • cd fastdfs-nginx-module/src
  • vi config
    • CORE_INCS="$CORE_INCS /usr/local/include/fastdfs /usr/local/include/fastcommon/"
    • 修改为：
    • CORE_INCS="$CORE_INCS /usr/include/fastdfs /usr/include/fastcommon/"
    • （注意：这个路径修改是很重要的，不然在nginx编译的时候会报错的）

5、上传当前的稳定版本Nginx(nginx-1.6.2.tar.gz)到/usr/local/src目录

6、安装编译Nginx所需的依赖包

  • yum install gcc gcc-c++ make automake autoconf libtool pcre* zlib openssl openssl-devel

7、编译安装Nginx（添加fastdfs-nginx-module模块）

  • cd /usr/local/src/
  • tar -zxvf nginx-1.6.2.tar.gz
  • cd nginx-1.6.2
  • ./configure --add-module=/usr/local/src/fastdfs-nginx-module/src
  • make && make install

8、复制fastdfs-nginx-module源码中的配置文件到/etc/fdfs目录，并修改

  • cp /usr/local/src/fastdfs-nginx-module/src/mod_fastdfs.conf /etc/fdfs/
  • vi /etc/fdfs/mod_fastdfs.conf
  • 修改以下标红配置：
  • connect_timeout=10
  • base_path=/tmp
  • tracker_server=192.168.0.213:22122
  • storage_server_port=23000
  • group_name=group1
  • url_have_group_name = true
  • store_path0=/fastdfs/storage

9、复制FastDFS的部分配置文件到/etc/fdfs目录

  • cd /usr/local/src/FastDFS/conf
  • cp http.conf mime.types /etc/fdfs/

10、在/fastdfs/storage文件存储目录下创建软连接,将其链接到实际存放数据的目录

  • ln -s /fastdfs/storage/data/ /fastdfs/storage/data/M00

11、配置Nginx

  • 简洁版nginx配置样例：
  • cd /usr/local/nginx
user  root;
worker_processes  1;
events {
    worker_connections  1024;
}
http {
    include       mime.types;
    default_type  application/octet-stream;
    sendfile        on;
    keepalive_timeout  65;
    server {
        listen       8888;
        server_name  localhost;
        location ~/group([0-9])/M00 {
            #alias /fastdfs/storage/data;
            ngx_fastdfs_module;
        }
        error_page   500 502 503 504  /50x.html;
        location = /50x.html {
            root   html;
        }
    }
}
  • 注意、说明：
  • A、8888端口值是要与/etc/fdfs/storage.conf中的http.server_port=8888 相对应，因为http.server_port默认为8888,如果想改成80，则要对应修改过来。
  • Storage对应有多个group的情况下，访问路径带group名，如/group1/M00/00/00/xxx，对应的Nginx配置为：
    • location ~/group([0-9])/M00 {
    • ngx_fastdfs_module;
    • }
  • C、如查下载时如发现老报404，将nginx.conf第一行user nobody修改为user root后重新启动。

12、防火墙中打开Nginx的8888端口

  • vi /etc/sysconfig/iptables
  • 添加：
  • -A INPUT -m state --state NEW -m tcp -p tcp --dport 8888 -j ACCEPT
  • service iptables restart

13、启动Nginx

  • /usr/local/nginx/sbin/nginx
  • ngx_http_fastdfs_set pid=xxx
  • （重启Nginx的命令为：/usr/local/nginx/sbin/nginx -s reload）
  • 配置开机自启
  • vi /etc/rc.local
  • /usr/local/nginx/sbin/nginx

14、通过浏览器访问测试时上传的文件

六、FastDFS的使用的Demo样例：

注意： 千万不要使用 kill -9 命令强杀 FastDFS 进程，否则可能会导致 binlog 数据丢失。

fastdfs单节点安装手册
04-09
fastdfs单节点安装手册fastdfs单节点安装手册fastdfs单节点安装手册
fastdfs容器单节点部署
turnaroundfor的博客
07-28 571
单节点fastdfs容器部署1、依赖准备1.1 获取fastdfs安装包1.2 构建前准备1.3 配置文件调优1.4 Docerfile文件的修改2、镜像构建3、启动容器4、接口测试 1、依赖准备 1.1 获取fastdfs安装包 fastdfs-6.06.tar.gz libfastcommon-1.0.43.tar.gz fastdfs-nginx-module-1.22.tar.gz nginx-1.18.0.tar.gz 以上安装包建议使用最近稳定版本进行构建。 1.2 构建前准备 上传压缩
单节点FastDFS与Nginx部署
weixin_30379531的博客
08-23 113
一、安装基本组件 1、安装编译需要的组件，必安装组件。 yum install gcc-c++ 2、安装libevent函数库、pcre-devel zlib-devel必安装组件。 　　 yum install libevent libevent-devel pcre-devel zlib-devel 本次部署的安装包 https...
FastDFS单节点部署安装
秦子腾
06-12 1059
FastDFS是一个开源的高性能分布式文件系统，它由跟踪服务器（tracker server）和存储服务器（storage server）组成。跟踪服务器负责管理存储服务器，存储服务器负责存储文件和提供文件访问服务。FastDFS具有高性能、高可靠性、易扩展等特点。适用于大规模的文件存储和访问场景，如图片、音视频等文件的存储和访问。FastDFS支持多种客户端访问方式，如HTTP、FTP、NFS等，同时也提供了丰富的API接口，方便开发者进行二次开发。
小白快速完成FastDFS部署（一）单节点部署
m0_46797232的博客
04-06 559
零基础完成FastDFS的单机和集群化部署让FastDFS so easy单机部署组件获取合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入...
FastDFS分布式文件系统的安装与使用.docx
11-06
本教程将详细介绍FastDFS在单节点环境下的安装与使用。 首先，安装FastDFS需要的依赖包。在CentOS 6.6环境下，可以通过`yum install`命令安装`make`、`cmake`、`gcc`和`gcc-c++`。这些是编译FastDFS及其相关组件所...
FastDFS分布式文件系统安装、配置与使用，并搭配nginx
11-04
FastDFS是一个开源的高性能、轻量级的分布式文件系统，它对文件进行管理，包括文件存储、文件同步、文件访问（文件上传、文件下载）等功能，解决了大容量存储和负载均衡的问题。FastDFS特别适合以文件为载体的在线...
FastDFS分布式文件系统环境搭建及安装过程解析
08-24
FastDFS分布式文件系统环境搭建及安装过程解析 FastDFS是一个基于开源的分布式文件系统，主要解决了大容量存储和负载均衡的问题，非常适合以文件为载体的在线服务，如相册网站、视频网站等等。FastDFS环境搭建和...
FastDFS分布式文件系统 v6.12.0.zip
03-21
《FastDFS分布式文件系统详解与应用》 FastDFS是一款开源的高性能、轻量级的分布式文件系统，由国人开发，专为互联网应用设计，尤其适用于存储海量小文件。FastDFS的最新版本为v6.12.0，该版本在前作的基础上进行了...
fastDFS分布式文件系统部署方案
12-16
【FastDFS分布式文件系统部署方案】 FastDFS是一个开源的高性能分布式文件系统，它专注于解决海量数据存储的问题，尤其适用于中小文件（建议大小在4KB到500MB之间）的在线服务。FastDFS提供了文件存储、文件同步和...
图片服务器（fastdfs+nginx)配置文档,内含安装包和最新下载地址
11-08
最清晰的图片服务器教程，包含安装包，以及最新下载地址，安装包直接拖拽到桌面即可
FastDFS 分布式文件系统的安装与使用 （单节点）
yjh1271845364的博客
01-22 405
跟踪服务器：192.168.4.121  (edu-dfs-tracker-01)   存储服务器：192.168.4.125  (edu-dfs-storage-01)   环境：CentOS 6.6   用户：root
到底如何单节点安装和配置FastDFS？
kepengs的博客
09-17 194
1.安装gcc yum -y install gcc 2.安装libevent yum -y install libevent 3.安装libfastcommon-master unzip libfastcommon-master.zip cd libfastcommon-master 编译并且安装： ./make.sh ./make.sh install 4.安装fastdfs tar -zxvf FastDFS_v5.08.tar.gz cd FastDFS ./make.sh
FASTDFS部署结构
qq_24667243的博客
08-04 227
FASTDFS 参考 官方网站：https://github.com/happyfish100/ 配置文档：https://github.com/happyfish100/fastdfs/wiki/ 参考资料：https://www.oschina.net/question/tag/fastdfs Java客户端：https://github.com/happyfish100/fastdfs-cl...
FastDFS+Nginx单机部署
weixin_34025151的博客
10-07 222
一、环境 Ubuntu 18.04.1 LTS二、资源准备1. nginx-1.14.02. FastDFS-5.113. fastdfs-nginx-module4. libfastcommon三、安装 1.安装libfastcommon 1>解压libfastcommon 2>make命令编译 3>...
分布式文件系统FastDFS看这一篇就够了(文件上传下载、单机部署及集群部署)_go-fastdfs漏洞(2)
最新发布
2401_84281629的博客
05-04 1246
KaTeX parse error: Expected group after ‘_’ at position 18: …ase_path} |_̲_data | …{ip_addr}_${port}.mark：存放向目标服务器同步的完成情况| || |__一级目录：256个存放数据文件的目录，目录名为十六进制字符，如：00, 1F| |__二级目录：256个存放数据文件的目录，目录名为十六进制字符，如：0A, CF|__logs。
分布式文件系统FastDFS看这一篇就够了(文件上传下载、单机部署及集群部署)
热门推荐
白大锅的博客，毕设WangLoveBai_999
09-18 8万+
FastDFS目录一、FastDFS是什么？1.1.简介1.2.结构组成(Client、Tracker server和Storage server)1.3.FastDFS下载安装教程1.4.目录结构二、FastDFS文件上传下载2.1.上传下载流程2.2.上传下载实现2.2.1.配置依赖：因为我们使用的maven来管理工程，所以，我们需要去配pom文件2.2.2.新建fdfs_client.conf文件，在我们的itoo中，我们建立在（src/main/resources底下）2.2.3.实现文件上传2.2
FastDFS 单机安装及配置
QIFU的专栏
09-26 864
FastDFS是一款开源的分布式文件系统，本文讲解如何安装和配置。
论文学习笔记：GFS
依然的专栏
10-22 7892
前言：Google大数据处理的3篇核心论文 《The Google File System》：http://research.google.com/archive/gfs.html 《MapReduce: Simplified Data Processing on Large Clusters 》：http://research.google.com/archive/mapreduce.htm
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

G-uardian

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值