淘宝TFS文件系统配置(集群)

2023-10-07 07:10

本文主要是介绍淘宝TFS文件系统配置(集群),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

对于拥有大量图片和小文件的站点,如电子商务网站,用tfs是非常理想的,淘宝就是NB.

 

四台服务器,系统都为Centos 5.6

 

一、基础环境的设置(只需在dataserver两台服务器上配置)

1.加载ext4模块,让系统支持ext4文件系统

modprobe ext4

2.安装ext4格式工具

yum y install  e4fsprogs e4fsprogs-devel

3.建立数据目录

mkdir /home/disk1

mkdir /home/disk2

mkdir /home/disk3

4.格式硬盘

mkfs.ext4 /dev/sdb

mkfs.ext4 /dev/sdc

mkfs.ext4 /dev/sdd

5.挂载硬盘

mount /dev/sdb /home/disk1

mount /dev/sdc /home/disk2

mount /dev/sdd /home/disk3

6.查看挂载分区

二、文档配置(安装略可参考官网http://code.taobao.org/p/tfs/wiki/index/

 

1.TFS的Nameserver(192.168.2.240)主配置[ns.conf配置文件]

[public]

log_size=1073741824

log_num = 64

log_level=debug

task_max_queue_size = 10240

port = 8108

work_dir = /usr/local/tfs

dev_name = eth0

thread_count = 50

ip_addr = 192.168.2.240

[nameserver]

safe_mode_time = 300

ip_addr_list = 192.168.2.240|192.168.2.241

group_mask = 255.255.255.255

block_max_size = 83886080

max_replication = 2

min_replication = 2

use_capacity_ratio = 98

block_max_use_ratio = 98

heart_interval = 2

object_dead_max_time = 3600

cluster_id = 1

replicate_ratio_ = 50

max_write_filecount = 16

heart_thread_count = 2

heart_max_queue_size = 10

repl_max_time = 60

cmpact_delete_ratio =  15 

compact_max_load = 200

object_dead_max_time = 86400

object_clear_max_time = 300

max_wait_write_lease = 15

lease_expired_time = 3

max_lease_timeout = 3000

cleanup_lease_threshold = 102400

build_plan_interval = 10

run_plan_expire_interval = 120

build_plan_ratio = 25

dump_stat_info_interval = 60000000

build_plan_default_wait_time = 2

balance_max_diff_block_num = 5

add_primary_block_count = 3

block_chunk_num = 32

task_percent_sec_size = 200

task_max_queue_size = 10000

oplog_sync_max_slots_num = 1024

oplog_sync_thread_num = 1

 

2.TFS的Nameserver(192.168.2.241)从配置[ns.conf配置文件]

[public]

log_size=1073741824

log_num = 64

log_level=debug

task_max_queue_size = 10240

port = 8108

work_dir = /usr/local/tfs

dev_name = eth0

thread_count = 50

ip_addr = 192.168.2.241

[nameserver]

safe_mode_time = 300

ip_addr_list = 192.168.2.240|192.168.2.241

group_mask = 255.255.255.255

block_max_size = 83886080

max_replication = 2

min_replication = 2

use_capacity_ratio = 98

block_max_use_ratio = 98

heart_interval = 2

object_dead_max_time = 3600

cluster_id = 2

replicate_ratio_ = 50

max_write_filecount = 16

heart_thread_count = 2

heart_max_queue_size = 10

repl_max_time = 60

compact_delete_ratio =  15 

compact_max_load = 200

object_dead_max_time = 86400

object_clear_max_time = 300

max_wait_write_lease = 15

lease_expired_time = 3

max_lease_timeout = 3000

cleanup_lease_threshold = 102400

build_plan_interval = 10

run_plan_expire_interval = 120

build_plan_ratio = 25

dump_stat_info_interval = 60000000

build_plan_default_wait_time = 2

balance_max_diff_block_num = 5

add_primary_block_count = 3

block_chunk_num = 32

task_percent_sec_size = 200

task_max_queue_size = 10000

oplog_sync_max_slots_num = 1024

oplog_sync_thread_num = 1

 

 3.TFS的Dataserver(192.168.2.242)配置[ds.conf配置文件]

[public]

log_size=1073741824

log_num = 64

log_level=debug

task_max_queue_size = 10240

port = 9998

work_dir = /usr/local/tfs

dev_name= eth0

thread_count = 50

ip_addr = 192.168.2.242

[dataserver]

ip_addr = 192.168.2.11

ip_addr_list = 192.168.2.240|192.168.2.241

port = 8108

heart_interval = 2

check_interval = 2

replicate_threadcount = 2

block_max_size = 7549747

dump_visit_stat_interval = 60

backup_type = 1

backup_path = /home/tfs

mount_name = /home/disk

mount_maxsize = 14194304

base_filesystem_type = 1

superblock_reserve = 0

avg_file_size = 40960

mainblock_size = 7549747

extblock_size = 419430

block_ratio = 0.5

hash_slot_ratio = 0.5

ds_thread_count = 4

 

 4.TFS的ads(192.168.2.242)配置[ads.conf配置文件]

[public]

log_size=1073741824

log_num = 64

log_level=debug

task_max_queue_size = 10240

port = 12000

work_dir = /usr/local/tfs

dev_name = eth0

thread_count = 50

ip_addr = 192.168.2.242

[adminserver]

check_interval = 5

check_count = 5

warn_dead_count = 3

ds_fkill_waittime = 15

ds_script = /usr/local/tfs/bin/dataserver -f /usr/local/tfs/conf/ds.conf -d

ds_index_list = 1,2,3

[nameserver]

ip_addr = 192.168.2.11

port = 8108

[dataserver]

port = 9998

lock_file = /usr/local/tfs/bin/dataserver

mount_name = /home/disk

 

5.TFS的Dataserver(192.168.2.243)配置...略和2.243相似,不能写,写不下了。

       

三、服务启动

 

1.启动tfs192.168.2.240)的nameserver

/usr/local/tfs/scripts/tfs  start_ns

2.启动tfs192.168.2.241)的nameserver

/usr/local/tfs/scripts/tfs  start_ns

3.启动tfs192.168.2.242)的dataserver

/usr/local/tfs/scripts/tfs admin_ns

 

3.1查看到服务端的连接

 

3.2查看dataserver下的块

4.启动tfs192.168.2.243)的dataserver

/usr/local/tfs/scripts/tfs admin_ns 

 

四、测试

tfstool工具连接到服务端上传图片

看到上传的图片已经保存成功

 

详解介绍可参考官方网站http://code.taobao.org/p/tfs/wiki/index/

这篇关于淘宝TFS文件系统配置(集群)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/156868

相关文章

mybatis映射器配置小结

《mybatis映射器配置小结》本文详解MyBatis映射器配置,重点讲解字段映射的三种解决方案(别名、自动驼峰映射、resultMap),文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定... 目录select中字段的映射问题使用SQL语句中的别名功能使用mapUnderscoreToCame

Linux下MySQL数据库定时备份脚本与Crontab配置教学

《Linux下MySQL数据库定时备份脚本与Crontab配置教学》在生产环境中,数据库是核心资产之一,定期备份数据库可以有效防止意外数据丢失,本文将分享一份MySQL定时备份脚本,并讲解如何通过cr... 目录备份脚本详解脚本功能说明授权与可执行权限使用 Crontab 定时执行编辑 Crontab添加定

Java使用jar命令配置服务器端口的完整指南

《Java使用jar命令配置服务器端口的完整指南》本文将详细介绍如何使用java-jar命令启动应用,并重点讲解如何配置服务器端口,同时提供一个实用的Web工具来简化这一过程,希望对大家有所帮助... 目录1. Java Jar文件简介1.1 什么是Jar文件1.2 创建可执行Jar文件2. 使用java

SpringBoot 多环境开发实战(从配置、管理与控制)

《SpringBoot多环境开发实战(从配置、管理与控制)》本文详解SpringBoot多环境配置,涵盖单文件YAML、多文件模式、MavenProfile分组及激活策略,通过优先级控制灵活切换环境... 目录一、多环境开发基础(单文件 YAML 版)(一)配置原理与优势(二)实操示例二、多环境开发多文件版

Vite 打包目录结构自定义配置小结

《Vite打包目录结构自定义配置小结》在Vite工程开发中,默认打包后的dist目录资源常集中在asset目录下,不利于资源管理,本文基于Rollup配置原理,本文就来介绍一下通过Vite配置自定义... 目录一、实现原理二、具体配置步骤1. 基础配置文件2. 配置说明(1)js 资源分离(2)非 JS 资

MySQL8 密码强度评估与配置详解

《MySQL8密码强度评估与配置详解》MySQL8默认启用密码强度插件,实施MEDIUM策略(长度8、含数字/字母/特殊字符),支持动态调整与配置文件设置,推荐使用STRONG策略并定期更新密码以提... 目录一、mysql 8 密码强度评估机制1.核心插件:validate_password2.密码策略级

ShardingProxy读写分离之原理、配置与实践过程

《ShardingProxy读写分离之原理、配置与实践过程》ShardingProxy是ApacheShardingSphere的数据库中间件,通过三层架构实现读写分离,解决高并发场景下数据库性能瓶... 目录一、ShardingProxy技术定位与读写分离核心价值1.1 技术定位1.2 读写分离核心价值二

QT Creator配置Kit的实现示例

《QTCreator配置Kit的实现示例》本文主要介绍了使用Qt5.12.12与VS2022时,因MSVC编译器版本不匹配及WindowsSDK缺失导致配置错误的问题解决,感兴趣的可以了解一下... 目录0、背景:qt5.12.12+vs2022一、症状:二、原因:(可以跳过,直奔后面的解决方法)三、解决方

SpringBoot路径映射配置的实现步骤

《SpringBoot路径映射配置的实现步骤》本文介绍了如何在SpringBoot项目中配置路径映射,使得除static目录外的资源可被访问,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一... 目录SpringBoot路径映射补:springboot 配置虚拟路径映射 @RequestMapp

Nginx中配置使用非默认80端口进行服务的完整指南

《Nginx中配置使用非默认80端口进行服务的完整指南》在实际生产环境中,我们经常需要将Nginx配置在其他端口上运行,本文将详细介绍如何在Nginx中配置使用非默认端口进行服务,希望对大家有所帮助... 目录一、为什么需要使用非默认端口二、配置Nginx使用非默认端口的基本方法2.1 修改listen指令