FastDFS简介

FastDFS体系结构

​ FastDFS是一个开源的轻量级分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务、如相册网站、视频网站等等。

​ FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传,下载等服务。

​ FastDFS架构包括Tracker Server和Storage Server。客户端请求Tracker Server进行文件上传、下载,通过Tracker Server调度最终由Storage Server完成文件上传和下载。

​ Tracker Server作用是负载均衡和调度,通过Tracker Server在文件上传时可以根据一些策略找到Storage Server提供文件上传服务。可以将Tracker称为追踪服务器或调度服务器。Storage Server作用是文件存储,客户端上传的文件最终存储在Storage服务器上,Storage Server没有实现自己的文件系统而是利用操作系统的文件系统来管理文件。可以将Storage称为存储服务器。

![](C:/Users/Gao/Desktop/日记/images/批注 2020-02-21 192651.png)

上传流程

![](C:/Users/Gao/Desktop/日记/images/批注 2020-02-21 192756.png)

​ 客户端上传文件后存储服务器将文件ID返回给客户端,此文件ID用于以后访问该文件的索引信息。文件索引信息包括:组名,虚拟机磁盘路径,数据两级目录,文件名。

![](C:/Users/Gao/Desktop/日记/images/批注 2020-02-21 193003.png)

​ 组名:文件上传后所在的Storage组名称,在文件上传成功后有Storage服务器返回,需要客户端自行保存。

​ 虚拟机磁盘路径:Storage配置的虚拟路径,与磁盘选项store_path*对应。如果配置了store_path0则是M00,如果配置了store_path1则是M01,以此类推

​ 数据两级目录:Storage服务器在每个虚拟机磁盘路径下创建的两级目录,用于存储数据文件。

​ 文件名:与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储服务器IP地址、文件创建时间戳、文件大小、随机数和文件扩展名等信息。

FastDFS搭建

使用Docker搭建FastDFS的开发环境

拉取镜像

1
docker pull morunchang/fastdfs

运行Tracker

1
docker run ‐d ‐‐name tracker ‐‐net=host morunchang/fastdfs sh tracker.sh

运行Storage

1
docker run ‐d ‐‐name storage ‐‐net=host ‐e TRACKER_IP=<your trackerserver address>:22122 ‐e GROUP_NAME=<group name> morunchang/fastdfs sh storage.sh
  • 使用的网络模式是-net=host,替换为虚拟机IP

  • GROUP_NAME是Storage的组

  • 如果想要增加新的Storage服务器,再次运行该命令,注意更换新组名

    修改Nginx配置

    进入Storage的容器内部,修改Nginx.conf

    1
    docker exec ‐it storage /bin/bash

    进入后

    1
    vi /data/nginx/conf/nginx.conf

    添加以下内容

    1
    2
    3
    4
    5
    6
    7
    8
    9
    location /group1/M00 {
    proxy_next_upstream http_502 http_504 error timeout invalid_header;
    proxy_cache http‐cache;
    proxy_cache_valid 200 304 12h;
    proxy_cache_key $uri$is_args$args;
    proxy_pass http://fdfs
    _group1;
    expires 30d;
    }

    退出容器

    1
    exit

    重启Storage容器

    1
    docker restart storage

    fdfs_client.conf

    1
    2
    3
    4
    5
    connect_timeout = 60
    network_timeout = 60
    charset = UTF‐8
    http.tracker_http_port = 8080
    tracker_server = 192.168.200.128:22122

    application.yml

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    spring:
    servlet:
    multipart:
    max‐file‐size: 10MB
    max‐request‐size: 10MB
    server:
    port: 9008
    eureka:
    client:
    service‐url:
    defaultZone: http://127.0.0.1:6868/eureka
    instance:
    prefer‐ip‐address: true
    feign:
    hystrix:
    enabled: true