【C-实践】文件服务器(3.0)

2024-09-07 23:04
文章标签 实践 服务器 3.0

本文主要是介绍【C-实践】文件服务器(3.0),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!


  • 文件服务器1.0
  • 文件服务器2.0
  • 文件服务器4.0

概述

使用了 tcp + epoll + 线程池 + 生产者消费者模型,实现文件服务器


有两个进程,主进程负责接收退出信号用来退出整个程序;子进程负责管理线程池、客户端连接以及线程池的退出

子进程中的主线程生产任务,其他子线程消费任务


功能


主要功能:客户端连接服务器,然后自动下载文件



注意

实际传输速度:主要取决于网络传输速度,而不是本地传输速度。网速不高的情况下,零拷贝接口并没有优势。



服务器搭建


  1. 创建管道,用于给子进程传递退出消息,创建子进程
  2. 主进程,注册SIGUSR1信号,等待回收子进程的资源,退出程序
  3. 子进程
    1. 从配置信息中取出:服务器的ip地址,port端口号,线程数量
    2. 根据线程数量,创建线程池,初始化线程池,启动线程池
    3. 建立tcp监听,将服务器套接字和退出管道加入epoll管理,等待客户端的连接
      1. 如果有新客户端,将其加入线程池的任务队列中,通知线程池中的线程执行任务
      2. 如果退出管道就绪,取消并回收所有子线程,退出进程

客户端搭建


  1. 从配置文件中取出:服务器的ip地址,port端口号
  2. 连接服务器
  3. 下载文件


启动


启动服务器

1、在bin目录下生成可执行文件

w@Ubuntu20:bin $ gcc ../src/*.c -o server -lpthread

2、启动服务器

w@Ubuntu20:bin $ ./server ../conf/server.conf

启动客户端

1、在客户端的目录下生成可执行文件

w@Ubuntu20:client $ gcc *.c -o client

2、启动客户端

w@Ubuntu20:client $ ./client client.conf


目录设计

服务器

  • bin:存放二进制文件
  • conf:存放配置文件
  • include:存放头文件
  • src:存放源文件
w@Ubuntu20:src $ tree ..
..
├── bin
│   └── server
├── conf
│   └── server.conf
├── include
│   ├── head.h
│   ├── task_queue.h
│   └── thread_pool.h
├── resource
│   └── file
└── src├── interact_cli.c├── main_server.c├── send_file_truck.c├── send_file_mmap.c├── send_file_splice.c├── task_queue.c├── tcp_init.c└── thread_pool.c

客户端

w@Ubuntu20:client $ tree
.
├── client
├── client.conf
├── main_client.c
├── recv_file_mmap.c
├── recv_file_splice.c
└── recv_file_truck.c


配置文件


服务器配置文件 server.conf

存放服务器ip地址,服务器port端口,线程池中的线程数量

根据实际情况自行更改

192.168.160.129
2000
10

客户端配置文件 client.conf

存放服务器ip地址,服务器port端口

根据实际情况自行更改

192.168.160.129
2000


线程池退出方式

方式一:(本文采用)

给主进程发送退出信号

主进程收到信号后通知子进程退出

子进程收到退出信号后取消线程池,并回收线程池资源。


方式二:

给主进程发送退出信号

主进程收到信号后,通知子进程退出

  1. 如果是非忙碌的子进程,直接退出
  2. 如果是忙碌的子进程,就忙完了再退出

在方式一的基础上,给任务队列中新增一个退出标志位,每一个线程处理任务前,先看标志位决定是否退出线程



传输文件方式

方式一:使用自定义协议传输:先发送本次数据长度,再发送数据内容


方式二:使用零拷贝的方式传输

mmap和sendfile支持的最大发送字节数是2G(2G以上的文件,无法用mmap和sendfile)

splice没有发送字节数限制,每次最大发送65535字节(管道的最大承载量)


mmap零拷贝接口

NAMEmmap, munmap - map or unmap files or devices into memorySYNOPSIS#include <sys/mman.h>void *mmap(void *addr, size_t length, int prot, int flags, int fd, off_t offset);int munmap(void *addr, size_t length);

注意:服务器用mmap发送的文件,客户端也需要用mmap接收,因为不再是先接数据长度再接数据内容的形式了

//服务器用mmap建立文件映射,将文件直接映射到内核发送缓冲区
char *pMap = (char*)mmap(NULL, file_info.st_size, PROT_READ, MAP_SHARED, file_fd, 0); 
ERROR_CHECK(pMap, (char*)-1, "mmap");send(socket_fd, pMap, file_info.st_size, 0); 
munmap(pMap, file_info.st_size);
//客户端也需要用mmap接收,或者用while+recv接收(直接接收数据,不用先接收数据长度)
ftruncate(fd, filesize);//先固定文件大小
char *pMap = (char*)mmap(NULL, filesize, PROT_READ|PROT_WRITE, MAP_SHARED, fd, 0); 
ERROR_CHECK(pMap, (char*)-1, "mmap");recv(sfd, pMap, filesize, MSG_WAITALL);	//要用MSG_WAITALL参数,避免没有全部接收到
munmap(pMap, filesize);


sendfile零拷贝接口

在两个文件描述符之间直接发送文件,将in_fd发给out_fd

NAMEsendfile - transfer data between file descriptorsSYNOPSIS#include <sys/sendfile.h>ssize_t sendfile(int out_fd, int in_fd, off_t *offset, size_t count);


splice零拷贝接口

splice传输必须要借助管道

将数据写入管道,再从管道传给发送缓冲区(是不经过用户态空间的)

管道最多可以存储65535个字节,如果文件较大则需要循环传输

splice没有字节数限制,比上面两个好用一点,可以控制发送的快慢(第5个参数决定每次传输的字节数量)

NAMEsplice - splice data to/from a pipeSYNOPSIS#define _GNU_SOURCE         /* See feature_test_macros(7) */#include <fcntl.h>ssize_t splice(int fd_in, loff_t *off_in, int fd_out,loff_t *off_out, size_t len, unsigned int flags);



代码


服务器代码


head.h

#ifndef __HEAD_H__
#define __HEAD_H__#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <unistd.h>
#include <wait.h>
#include <sys/socket.h>
#include <sys/types.h>
#include <sys/epoll.h>
#include <pthread.h>//检查命令行参数个数
#define ARGS_CHECK(argc, num) { if (argc != num) {\fprintf(stderr, "Args error!\n");\return -1;} }//检查系统调用的返回值
#define ERROR_CHECK(ret, num, msg) { if (ret == num) {\perror(msg);\return -1;} }int tcp_init(char *ip, int port);#endif

task_queue.h

#ifndef __TASK_QUEUE_H__
#define __TASK_QUEUE_H__#include "head.h"//任务队列节点
typedef struct TaskNode {int _clifd; //客户端fdstruct TaskNode *_pNext;
}TaskNode_t, *pTaskNode_t;//任务队列
typedef struct TaskQueue {int _size;  //队列大小pTaskNode_t _pHead; //队头pTaskNode_t _pTail; //队尾pthread_cond_t _cond; //条件变量pthread_mutex_t _mutex; //互斥锁
}TaskQueue_t, *pTaskQueue_t;//初始化任务队列
int init_TaskQueue(pTaskQueue_t pQueue);
//入队
int push_TaskQueue(pTaskQueue_t pQueue, pTaskNode_t pNew);
//得到队头元素
int get_TaskNode(pTaskQueue_t pQueue, pTaskNode_t *ppGet);#endif

thread_pool.h

#ifndef __THREAD_POOL_H__
#define __THREAD_POOL_H__#include "head.h"
#include "task_queue.h"//线程池
typedef struct {int _thread_num; //子线程数量pthread_t *_pthid;  //子线程数组TaskQueue_t _que;   //任务队列
}ThreadPool_t, *pThreadPool_t;//初始化线程池
int init_ThreadPool(pThreadPool_t pPool, int thread_num);//启动线程池
int boot_ThreadPool(pThreadPool_t pPool);//功能:服务器主线程,将新连接的客户端加入线程池中的任务队列,然后通知子线程处理
int interact_cli(int sfd, pThreadPool_t pPool, int exitpipe);//使用私有协议传输数据,给另一个进程传输文件
int send_file_truck(int socket_fd, char *filename);#endif

main_server.c

#include "../include/head.h"
#include "../include/thread_pool.h"//发送信号,实现异步退出线程池
int exitpipe[2];
void sig_func(int sigNum)
{printf("sig %d is coming!\n", sigNum);write(exitpipe[1], "a", 1);
}int main(int argc, char *argv[]) 
{//配置文件ARGS_CHECK(argc, 2);//父子传递退出标记的管道pipe(exitpipe);//父进程用来接收退出信号if (fork()) {close(exitpipe[0]);signal(SIGUSR1, sig_func);//回收子进程的资源wait(NULL);printf("thread_pool exit!\n");exit(0);}//子进程用来管理线程池close(exitpipe[1]);//从配置文件中取出服务器ip地址、port端口号、子线程数量FILE *fp = fopen(argv[1], "r");char ip[128] = {0};int port = 0;int thread_num = 0;fscanf(fp, "%s%d%d", ip, &port, &thread_num);fclose(fp);//创建线程池,并初始化ThreadPool_t pool;init_ThreadPool(&pool, thread_num);//启动线程池boot_ThreadPool(&pool);//创建一个正在监听的tcp套接字int sfd = tcp_init(ip, port);//处理客户端的请求,和退出请求//有新请求就新建任务节点,放入任务队列//子线程等待任务,有任务立刻处理if (-1 != sfd) {interact_cli(sfd, &pool, exitpipe[0]);}return 0;
}

tcp_init.c

#include <stdio.h>
#include <stdlib.h>
#include <string.h>#include <arpa/inet.h>#define ERROR_CHECK(ret, num, msg) { if (ret == num) {\perror("msg");  return -1;} }//输入:服务器的ip地址,端口号
//输出:绑定了服务器ip和端口的,正在监听的套接字
int tcp_init(char *ip, int port)
{//生成一个tcp类型的套接字int sfd = socket(AF_INET, SOCK_STREAM, 0);ERROR_CHECK(sfd, -1, "ser_socket");//将端口号设置为可重用, 不用再等待重启时的TIME_WAIT时间int reuse = 1;setsockopt(sfd, SOL_SOCKET, SO_REUSEADDR, &reuse, sizeof(reuse));//给套接字绑定服务端ip和portstruct sockaddr_in serverAddr;memset(&serverAddr, 0, sizeof(struct sockaddr_in));serverAddr.sin_family = AF_INET;serverAddr.sin_addr.s_addr = inet_addr(ip);serverAddr.sin_port = htons(port);int ret = bind(sfd, (struct sockaddr*)&serverAddr, sizeof(serverAddr));ERROR_CHECK(ret, -1, "ser_bind");//将套接字设为监听模式,并指定最大监听数(全连接队列的大小)ret = listen(sfd, 10); ERROR_CHECK(ret, -1, "ser_listen");/* printf("[ip:%s, port:%d] is listening...\n", ip, port); */return sfd;
}

thread_pool.c

#include "../include/head.h"
#include "../include/thread_pool.h"
#include "../include/task_queue.h"//线程清理函数
void clean_func(void *p)
{pTaskQueue_t pQue = (pTaskQueue_t)p;pthread_mutex_unlock(&pQue->_mutex);
}//线程函数
void *thread_func(void *p)
{//拿到任务队列地址pTaskQueue_t pQue = (pTaskQueue_t)p;pTaskNode_t pCur = NULL;while (1) {//取任务pthread_mutex_lock(&pQue->_mutex);pthread_cleanup_push(clean_func, pQue);if (0 == pQue->_size) {pthread_cond_wait(&pQue->_cond, &pQue->_mutex);}get_TaskNode(pQue, &pCur);pthread_mutex_unlock(&pQue->_mutex);//执行任务,发送文件char filename[128] = "file";send_file_truck(pCur->_clifd, filename); printf("----------------------------send finish!\n");//任务完成,销毁任务节点free(pCur);pCur = NULL;pthread_cleanup_pop(1);}pthread_exit(NULL);
}//初始化线程池
int init_ThreadPool(pThreadPool_t pPool, int thread_num)
{pPool->_thread_num = thread_num;pPool->_pthid = (pthread_t*)calloc(thread_num, sizeof(pthread_t));init_TaskQueue(&pPool->_que);return 0;
}//启动线程池
int boot_ThreadPool(pThreadPool_t pPool)
{printf("thread_num: %d\n", pPool->_thread_num);for (int i = 0; i < pPool->_thread_num; ++i) {pthread_create(&pPool->_pthid[i], NULL, thread_func, &pPool->_que);}return 0;
}

task_queue.c

#include "../include/head.h"
#include "../include/task_queue.h"//初始化任务队列
int init_TaskQueue(pTaskQueue_t pQueue)
{pQueue->_size = 0;pQueue->_pHead = pQueue->_pTail = NULL;pthread_cond_init(&pQueue->_cond, NULL);pthread_mutex_init(&pQueue->_mutex, NULL);return 0;
}//入队
int push_TaskQueue(pTaskQueue_t pQueue, pTaskNode_t pNew)
{if (NULL == pQueue->_pHead) {pQueue->_pHead = pQueue->_pTail = pNew;}else {pQueue->_pTail->_pNext = pNew;pQueue->_pTail = pNew;}++pQueue->_size;return 0;
}//得到队头元素
int get_TaskNode(pTaskQueue_t pQueue, pTaskNode_t *ppGet)
{//没有元素if (0 == pQueue->_size) {return -1;}//有元素,取出,更新队头*ppGet = pQueue->_pHead;pQueue->_pHead = pQueue->_pHead->_pNext;//只有一个元素,更新队尾if (1 == pQueue->_size) {pQueue->_pTail = NULL;}//减小队列长度--pQueue->_size;return 0;
}

interact_cli.c

#include "../include/head.h"
#include "../include/task_queue.h"
#include "../include/thread_pool.h"//将fd加入epfd
int epollAddFd(int fd, int epfd)
{struct epoll_event event;memset(&event, 0, sizeof(event));event.events = EPOLLIN;event.data.fd = fd;int ret = epoll_ctl(epfd, EPOLL_CTL_ADD, fd, &event);ERROR_CHECK(ret, -1, "EPOLL_CTL_ADD");return 0;
}//将fd从epfd中移除
int epollDelFd(int fd, int epfd)
{struct epoll_event event;memset(&event, 0, sizeof(event));event.events = EPOLLIN;event.data.fd = fd;int ret = epoll_ctl(epfd, EPOLL_CTL_DEL, fd, &event);ERROR_CHECK(ret, -1, "EPOLL_CTL_DEL");return 0;
}//功能:服务器主线程,将新连接的用户加入线程池中的任务队列,然后通知子线程处理
//参数:服务器套接字,线程池地址,退出管道
int interact_cli(int sfd, pThreadPool_t pPool, int exitpipe)
{//使用epoll管理所有文件描述符int epfd = epoll_create(1);//将sfd添加进epfdepollAddFd(sfd, epfd);//将用来退出的管道加入epfdepollAddFd(exitpipe, epfd);int readyFdNum = 0;//就绪的文件描述符数量struct epoll_event evs[2]; //epoll_wait等待数组的大小int newfd = 0;//客户端的套接字//epoll等待就绪的文件描述符while (1) {readyFdNum = epoll_wait(epfd, evs, 2, -1);int i;for (i = 0; i < readyFdNum; ++i) {//服务端套接字就绪,有新用户连接if (evs[i].data.fd == sfd) {//接收用户端newfd = accept(sfd, NULL, NULL);//新建任务节点pTaskNode_t pNew = (pTaskNode_t)calloc(1, sizeof(TaskNode_t));pNew->_clifd = newfd;pthread_mutex_lock(&pPool->_que._mutex);//加锁push_TaskQueue(&pPool->_que, pNew); //将新节点放入任务队列pthread_cond_signal(&pPool->_que._cond);//通知子线程pthread_mutex_unlock(&pPool->_que._mutex);//解锁}//退出管道就绪,退出线程池if (evs[i].data.fd == exitpipe) {//取消线程池for (int j = 0; j < pPool->_thread_num; ++j) {pthread_cancel(pPool->_pthid[j]);}//回收线程池的资源for (int j = 0; j < pPool->_thread_num; ++j) {pthread_join(pPool->_pthid[j], NULL);}//退出子进程exit(0);}}}return 0;
}

send_file_truck.c

#include <stdio.h>
#include <string.h>
#include <unistd.h>//open
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
//send
#include <sys/socket.h>#define ERROR_CHECK(ret, num, msg) { if (ret == num) {\perror(msg); return -1;} }//传输文件协议:小货车
typedef struct {int _data_len;//货车头,表示数据长度char _data[1000];//火车车厢,表示数据
}Truck_t;//使用私有协议传输数据,给另一个进程传输文件
int send_file_truck(int socket_fd, char *filename)
{int ret = -1;//定义一个小货车,用来传输文件Truck_t truck;memset(&truck, 0, sizeof(Truck_t));//将文件名扩展为文件路径char filepath[128] = {0};sprintf(filepath, "../resource/%s", filename);//根据文件路径打开传输文件int file_fd = open(filepath, O_RDONLY);ERROR_CHECK(file_fd, -1, "open");//先发文件名truck._data_len = strlen(filename);strcpy(truck._data, filename);ret = send(socket_fd, &truck, sizeof(int) + truck._data_len, 0);ERROR_CHECK(ret, -1, "send_title");//再发文件大小struct stat file_info;memset(&file_info, 0, sizeof(file_info));fstat(file_fd, &file_info);truck._data_len = sizeof(file_info.st_size);memcpy(truck._data, &file_info.st_size, truck._data_len);ret = send(socket_fd, &truck, sizeof(int) + truck._data_len, 0);ERROR_CHECK(ret, -1, "send_filesize");//再发文件内容while (1) {memset(truck._data, 0, sizeof(truck._data));truck._data_len = read(file_fd, truck._data, sizeof(truck._data));ERROR_CHECK(truck._data_len, -1, "read");if (0 == truck._data_len) {//传输完成,通知客户端,然后退出循环ret = send(socket_fd, &truck._data_len, 4, 0);ERROR_CHECK(ret, -1, "send");break;}ret = send(socket_fd, &truck, sizeof(int) + truck._data_len, 0);if (-1 == ret) {//客户端异常断开,退出循环printf("client already break!\n");break;}}//关闭传输文件close(file_fd);return 0;
}

send_file_mmap.c

#include <stdio.h>
#include <string.h>
#include <unistd.h>//open
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
//send
#include <sys/socket.h>
//mmap
#include <sys/mman.h>#define ERROR_CHECK(ret, num, msg) { if (ret == num) {\perror(msg); return -1;} }//传输文件协议:小货车
typedef struct {int _data_len;//货车头,表示数据长度char _data[1000];//火车车厢,表示数据
}Truck_t;//使用私有协议传输数据,给另一个进程传输文件
int send_file_mmap(int socket_fd, char *filename)
{int ret = -1;//定义一个小货车,用来传输数据Truck_t truck;memset(&truck, 0, sizeof(Truck_t));//将文件名扩展为文件路径char filepath[128] = {0};sprintf(filepath, "../resource/%s", filename);//根据文件路径打开传输文件int file_fd = open(filepath, O_RDONLY);ERROR_CHECK(file_fd, -1, "open");//先发文件名truck._data_len = strlen(filename);strcpy(truck._data, filename);ret = send(socket_fd, &truck, sizeof(int) + truck._data_len, 0);ERROR_CHECK(ret, -1, "send_title");//再发文件大小struct stat file_info;memset(&file_info, 0, sizeof(file_info));fstat(file_fd, &file_info);truck._data_len = sizeof(file_info.st_size);memcpy(truck._data, &file_info.st_size, truck._data_len);ret = send(socket_fd, &truck, sizeof(int) + truck._data_len, 0);ERROR_CHECK(ret, -1, "send_filesize");printf("filesize = %ld\n", file_info.st_size);//再发文件内容//用mmap建立文件映射,将文件直接映射到内核发送缓冲区char *pMap = (char*)mmap(NULL, file_info.st_size, PROT_READ, MAP_SHARED, file_fd, 0);ERROR_CHECK(pMap, (char*)-1, "mmap");send(socket_fd, pMap, file_info.st_size, 0);munmap(pMap, file_info.st_size);//关闭传输文件close(file_fd);return 0;
}

send_file_splice.c

#define _GNU_SOURCE
#include <stdio.h>
#include <string.h>
#include <unistd.h>//open
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
//send
#include <sys/socket.h>#define ERROR_CHECK(ret, num, msg) { if (ret == num) {\perror(msg); return -1;} }//传输文件协议:小货车
typedef struct {int _data_len;//货车头,表示数据长度char _data[1000];//火车车厢,表示数据
}Truck_t;//使用私有协议传输数据,给另一个进程传输文件
int send_file_splice(int socket_fd, char *filename)
{int ret = -1;//定义一个小货车Truck_t truck;memset(&truck, 0, sizeof(Truck_t));//将文件名扩展为文件路径char filepath[128] = {0};sprintf(filepath, "../resource/%s", filename);//根据文件路径打开传输文件int file_fd = open(filepath, O_RDONLY);ERROR_CHECK(file_fd, -1, "open");//先发文件名truck._data_len = strlen(filename);strcpy(truck._data, filename);ret = send(socket_fd, &truck, sizeof(int) + truck._data_len, 0);ERROR_CHECK(ret, -1, "send_title");//再发文件大小struct stat file_info;memset(&file_info, 0, sizeof(file_info));fstat(file_fd, &file_info);truck._data_len = sizeof(file_info.st_size);memcpy(truck._data, &file_info.st_size, truck._data_len);ret = send(socket_fd, &truck, sizeof(int) + truck._data_len, 0);ERROR_CHECK(ret, -1, "send_filesize");printf("filesize = %ld\n", file_info.st_size);//再发文件内容//用splice接口,需要借助管道int fds[2];pipe(fds);int cur_len = 0; //已经发送的字节数/* int maxsize = 4096; //每次最多发送的字节数,修改这个参数来控制传输的速度 */int maxsize = 1280; //每次最多发送的字节数,修改这个参数来控制传输的速度//先读文件到管道,再从管道放入发送缓冲区while (cur_len < file_info.st_size) {ret = splice(file_fd, 0, fds[1], 0, maxsize, 0);ret = splice(fds[0], 0, socket_fd, 0, ret, 0);cur_len += ret;}//关闭传输文件close(file_fd);return 0;
}



客户端代码


main_client.c

#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <unistd.h>#include <sys/types.h>
#include <sys/socket.h>
#include <fcntl.h>
#include <arpa/inet.h>
#include <sys/mman.h>
#include <sys/time.h>//检查命令行参数个数
#define ARGS_CHECK(argc, num) { if (argc != num) {\fprintf(stderr, "Argc error!\n");\return -1;}}//检查系统调用返回值
#define ERROR_CHECK(ret, num, msg) { if (ret == num) {\perror(msg);\return -1;}}//从服务器下载文件,用while+recv+小货车的方式
int recv_file_truck(int sfd);//从服务器下载文件,用mmap的方式
int recv_file_mmap(int sfd);//从服务器下载文件,用splice的方式
int recv_file_splice(int sfd);int main(int argc, char *argv[])
{ARGS_CHECK(argc, 2);//从配置文件中拿到服务器的ip和portFILE *fp = fopen(argv[1], "r");char ip[128] = {0};int port = 0;fscanf(fp, "%s%d", ip, &port);fclose(fp);//生成一个tcp类型的套接字,并连接上了服务器int sfd = 0;/* tcp_connect(ip, port, &sfd); */sfd = socket(AF_INET, SOCK_STREAM, 0);//连接服务器struct sockaddr_in serAddr;memset(&serAddr, 0, sizeof(serAddr));serAddr.sin_family = AF_INET;serAddr.sin_addr.s_addr = inet_addr(ip);serAddr.sin_port = htons(port);int ret = -1;ret = connect(sfd, (struct sockaddr*)&serAddr, sizeof(serAddr));ERROR_CHECK(ret, -1, "connect");printf("connect server!\n");//计算下载时间,用gettimeofday接口struct timeval begin;struct timeval end;gettimeofday(&begin, NULL);//下载文件recv_file_truck(sfd);/* recv_file_mmap(sfd); *//* recv_file_splice(sfd); */gettimeofday(&end, NULL);printf("cost time : %ld us\n", (end.tv_sec - begin.tv_sec) * 1000000 + end.tv_usec - begin.tv_usec);//关闭服务器套接字close(sfd);return 0;
}

recv_file_truck.c

#include <stdio.h>
#include <string.h>
#include <unistd.h>#include <sys/types.h>
#include <sys/socket.h>
#include <fcntl.h>//检查系统调用返回值
#define ERROR_CHECK(ret, num, msg) { if (ret == num) {\perror(msg);\return -1;}}//接收协议:小货车
typedef struct {int _data_len;//车头,先接数据长度char _data[1000];//车厢,再接数据内容
}Truck_t;//先接数据长度,再根据数据长度接收数据内容
int recv_file_truck(int sfd)
{int ret = -1;//接收文件Truck_t truck;memset(&truck, 0, sizeof(truck));//先接收文件名,打开一个新文件recv(sfd, &truck._data_len, sizeof(int), 0);recv(sfd, truck._data, truck._data_len, 0);int file_fd = open(truck._data, O_WRONLY|O_CREAT, 0666);ERROR_CHECK(file_fd, -1, "open");printf("filename: %s\n", truck._data);//再接收文件大小,用来打印进度条int total_size = 0;//文件总大小recv(sfd, &truck._data_len, sizeof(int), 0);recv(sfd, &total_size, truck._data_len, 0);printf("filesize: %d\n", total_size);float rate = 0;//当前接收百分比int cur_size = 0;//文件已接收大小//循环接收文件内容while (cur_size < total_size) {//重置小货车memset(&truck, 0, sizeof(truck));//先接数据长度recv(sfd, &truck._data_len, sizeof(int), 0);if (0 == truck._data_len) {//传输完毕printf("Transfer Finish!\n");break;}//根据数据长度接收数据内容//防止发送方发的慢,导致接收缓冲区将车厢当成车头,设置recv参数为MSG_WAITALLret = recv(sfd, truck._data, truck._data_len, MSG_WAITALL);if (0 == ret) {printf("Download finish!\n");break;}//将接收数据写入文件write(file_fd, truck._data, ret);cur_size += ret;//打印进度条rate = (float)cur_size / total_size;printf("--------------------------%5.2f%%\r", rate * 100);fflush(stdout);//防止光标抖动}//关闭文件close(file_fd);return 0;
}

recv_file_mmap.c

#include <stdio.h>
#include <unistd.h>
#include <sys/types.h>
#include <sys/socket.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <sys/mman.h>//检查系统调用返回值
#define ERROR_CHECK(ret, num, msg) { if (ret == num) {\perror(msg);\return -1;}}//从服务器下载文件,用mmap的方式
int recv_file_mmap(int sfd)
{//先接收文件名字int data_len = 0;char filename[1000] = {0};recv(sfd, &data_len, sizeof(int), 0);recv(sfd, filename, data_len, 0);//创建一个新文件int file_fd = open(filename, O_RDWR | O_CREAT, 0600);ERROR_CHECK(file_fd, -1, "open");//再接收文件大小off_t filesize = 0;//此处类型必须为off_t,否则ftrucate会失败recv(sfd, &data_len, sizeof(int), 0);recv(sfd, &filesize, data_len, 0);printf("filesize: %ld\n", filesize);//用mmap接收文件int ret = ftruncate(file_fd, filesize);ERROR_CHECK(ret, -1, "ftruncate");printf("recv start...\n");char *pMap = (char*)mmap(NULL, filesize, PROT_READ|PROT_WRITE, MAP_SHARED, file_fd, 0);ERROR_CHECK(pMap, (char*)-1, "mmap");recv(sfd, pMap, filesize, MSG_WAITALL);munmap(pMap, filesize);printf("recv finish!\n");//关闭文件close(file_fd);return 0;
}

recv_file_splice.c

#define _GNU_SOURCE
#include <stdio.h>
#include <unistd.h>
#include <sys/types.h>
#include <sys/socket.h>
#include <sys/stat.h>
#include <fcntl.h>//检查系统调用返回值
#define ERROR_CHECK(ret, num, msg) { if (ret == num) {\perror(msg);\return -1;}}//从服务器下载文件,用splice的方式
int recv_file_splice(int sfd)
{int ret = -1;//先接收文件名字int data_len = 0;char filename[1000] = {0};recv(sfd, &data_len, sizeof(int), 0);recv(sfd, filename, data_len, 0);//创建一个新文件int file_fd = open(filename, O_RDWR | O_CREAT, 0600);ERROR_CHECK(file_fd, -1, "open");//再接收文件大小off_t filesize = 0;//此处类型必须为off_t,否则ftrucate会失败recv(sfd, &data_len, sizeof(int), 0);recv(sfd, &filesize, data_len, 0);printf("filesize: %ld\n", filesize);//用splice接收文件int fds[2];pipe(fds);int cur_len = 0; //当前接收长度int maxsize = 4096;//每次传输的最大字节数printf("recv start...\n");while (cur_len < filesize) {ret = splice(sfd, 0, fds[1], 0, maxsize, 0);ret = splice(fds[0], 0, file_fd, 0, ret, 0);cur_len += ret;}printf("recv finish!\n");//关闭文件close(file_fd);return 0;
}


总结

一个练习tcpepoll和线程池的小项目

这篇关于【C-实践】文件服务器(3.0)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1146411

相关文章

基于MySQL Binlog的Elasticsearch数据同步实践

一、为什么要做 随着马蜂窝的逐渐发展,我们的业务数据越来越多,单纯使用 MySQL 已经不能满足我们的数据查询需求,例如对于商品、订单等数据的多维度检索。 使用 Elasticsearch 存储业务数据可以很好的解决我们业务中的搜索需求。而数据进行异构存储后,随之而来的就是数据同步的问题。 二、现有方法及问题 对于数据同步,我们目前的解决方案是建立数据中间表。把需要检索的业务数据,统一放到一张M

服务器集群同步时间手记

1.时间服务器配置(必须root用户) (1)检查ntp是否安装 [root@node1 桌面]# rpm -qa|grep ntpntp-4.2.6p5-10.el6.centos.x86_64fontpackages-filesystem-1.41-1.1.el6.noarchntpdate-4.2.6p5-10.el6.centos.x86_64 (2)修改ntp配置文件 [r

4B参数秒杀GPT-3.5:MiniCPM 3.0惊艳登场!

​ 面壁智能 在 AI 的世界里,总有那么几个时刻让人惊叹不已。面壁智能推出的 MiniCPM 3.0,这个仅有4B参数的"小钢炮",正在以惊人的实力挑战着 GPT-3.5 这个曾经的AI巨人。 MiniCPM 3.0 MiniCPM 3.0 MiniCPM 3.0 目前的主要功能有: 长上下文功能:原生支持 32k 上下文长度,性能完美。我们引入了

系统架构师考试学习笔记第三篇——架构设计高级知识(20)通信系统架构设计理论与实践

本章知识考点:         第20课时主要学习通信系统架构设计的理论和工作中的实践。根据新版考试大纲,本课时知识点会涉及案例分析题(25分),而在历年考试中,案例题对该部分内容的考查并不多,虽在综合知识选择题目中经常考查,但分值也不高。本课时内容侧重于对知识点的记忆和理解,按照以往的出题规律,通信系统架构设计基础知识点多来源于教材内的基础网络设备、网络架构和教材外最新时事热点技术。本课时知识

Linux服务器Java启动脚本

Linux服务器Java启动脚本 1、初版2、优化版本3、常用脚本仓库 本文章介绍了如何在Linux服务器上执行Java并启动jar包, 通常我们会使用nohup直接启动,但是还是需要手动停止然后再次启动, 那如何更优雅的在服务器上启动jar包呢,让我们一起探讨一下吧。 1、初版 第一个版本是常用的做法,直接使用nohup后台启动jar包, 并将日志输出到当前文件夹n

速盾:直播 cdn 服务器带宽?

在当今数字化时代,直播已经成为了一种非常流行的娱乐和商业活动形式。为了确保直播的流畅性和高质量,直播平台通常会使用 CDN(Content Delivery Network,内容分发网络)服务器来分发直播流。而 CDN 服务器的带宽则是影响直播质量的一个重要因素。下面我们就来探讨一下速盾视角下的直播 CDN 服务器带宽问题。 一、直播对带宽的需求 高清视频流 直播通常需要传输高清视频

Prometheus与Grafana在DevOps中的应用与最佳实践

Prometheus 与 Grafana 在 DevOps 中的应用与最佳实践 随着 DevOps 文化和实践的普及,监控和可视化工具已成为 DevOps 工具链中不可或缺的部分。Prometheus 和 Grafana 是其中最受欢迎的开源监控解决方案之一,它们的结合能够为系统和应用程序提供全面的监控、告警和可视化展示。本篇文章将详细探讨 Prometheus 和 Grafana 在 DevO

springboot整合swagger2之最佳实践

来源:https://blog.lqdev.cn/2018/07/21/springboot/chapter-ten/ Swagger是一款RESTful接口的文档在线自动生成、功能测试功能框架。 一个规范和完整的框架,用于生成、描述、调用和可视化RESTful风格的Web服务,加上swagger-ui,可以有很好的呈现。 SpringBoot集成 pom <!--swagge

一种改进的red5集群方案的应用、基于Red5服务器集群负载均衡调度算法研究

转自: 一种改进的red5集群方案的应用: http://wenku.baidu.com/link?url=jYQ1wNwHVBqJ-5XCYq0PRligp6Y5q6BYXyISUsF56My8DP8dc9CZ4pZvpPz1abxJn8fojMrL0IyfmMHStpvkotqC1RWlRMGnzVL1X4IPOa_  基于Red5服务器集群负载均衡调度算法研究 http://ww

RTMP流媒体服务器 crtmpserver

http://www.oschina.net/p/crtmpserver crtmpserver又称rtmpd是Evostream Media Server(www.evostream.com)的社区版本采用GPLV3授权 其主要作用为一个高性能的RTMP流媒体服务器,可以实现直播与点播功能多终端支持功能,在特定情况下是FMS的良好替代品。 支持RTMP的一堆协议(RT