axel扩展数据类型分析:conf_t

2023-11-10 04:11

本文主要是介绍axel扩展数据类型分析:conf_t,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

发现数据结构的分析,比函数流程分析更过瘾啊,呵呵。conf_t花了很多时间,不过也明白了作者不少的设计用意。

axel扩展数据类型分析:conf_t
  1. typedef struct
  2. {
  3.         char default_filename[MAX_STRING]; //存储时的默认文件名称
  4.         char http_proxy[MAX_STRING]; 
  5.         char no_proxy[MAX_STRING];
  6.         int strip_cgi_parameters;
  7.         int save_state_interval;
  8.         int connection_timeout;
  9.         int reconnect_delay;
  10.         int num_connections;
  11.         int buffer_size;
  12.         int max_speed;
  13.         int verbose;
  14.         int alternate_output;
  15.         if_t *interfaces;
  16.         int search_timeout;
  17.         int search_threads;
  18.         int search_amount;
  19.         int search_top;
  20.         int add_header_count;
  21.         char add_header[MAX_ADD_HEADERS][MAX_STRING];
  22.         char user_agent[MAX_STRING];
  23. } conf_t;
复制代码
存储axel的配置信息,axel会尝试从本地配置文件和环境变量中加载这些配置信息.

http_proxy:         
http连接时代理服务器地址,axel首先会从环境变量中加载,如果没有配置的话,就尝试从本地配置文件加载http_proxy,如果找到
的话,会在函数connect_init中调用,主要用于http_connect函数,最终会在conn_set函数中进行解析。
比如,我们在http.c中的http_connect函数中
  1. sprintf( conn->host, "%s:%i", host, port );
复制代码
语句之后增加一句打印代理服务器地址的语句
  1. printf ("conn_set proxy:%s\n", proxy);
复制代码
然后去度娘,找一个免费的http代理服务器测试下,这年头,可靠而且免费的http代理真难找,找一个能用的代理花了我快半个小时,不停测试,终于有能用的了。呵呵。

编辑文件:
  1. /usr/local/axel/etc/axelrc
复制代码
修改http_proxy这行或者增减一行
  1. http_proxy = 61.152.108.19:8080
复制代码
这个是我刚才找到能用的http代理。

然后开始一个Axel的下载测试.
  1. ./axel [url]http://en.newhua.com/down/mysql-5.5.15-win32.zip[/url]
复制代码
然后就能看到打印的代理服务器信息:
  1. conn_set proxy:61.152.108.19:8080
  2. conn_set proxy:61.152.108.19:8080
  3. conn_set proxy:61.152.108.19:8080
  4. ...... ..........  [   1.7KB/s]
  5. [ 16%]  .......... .......... ........
复制代码
下载开始了。如果你有足够的精力,而且是一个追求完美的人,建议在做这个测试的时候,打开tcpdump去抓包,看看实际的报文是不是走的代理服务器。

no_proxy:
不用任何代理服务器,因为axel默认会从配置文件和环境变量中加载代理服务器的,也就是默认支持代理服务器的。
在函数conn.c:conn_init中和conf.c:conf_init中是关于这个配置的具体操作。关于no_proxy,一开始一直没搞明白参数跟实际代码实现的关系,因为
作者在conf_init中对no_proxy的值进行了整理,用0分隔开了原来用用逗号分割的串,no_proxy的值是从配置文件或者环境变量中加载的,注意,这里要区分命令行参数
的-N和 conf中的no_proxy.
-N 表示整个任务中都不使用代理,如果没有-N参数的话,系统默认是使用代理服务器的(只要http_proxy配置的话),而且http_proxy的代理服务器是全局配置。
经过分析了conn_init中的代码段后,才明白作者的意图:
  1.         if( *conn->conf->http_proxy == 0 )
  2.         {
  3.                 proxy = NULL;
  4.         }
  5.         else if( *conn->conf->no_proxy != 0 )
  6.         {
  7.                 for( i = 0; ; i ++ )
  8.                         if( conn->conf->no_proxy[i] == 0 )
  9.                         {
  10.                                 if( strstr( conn->host, host ) != NULL )
  11.                                         proxy = NULL;
  12.                                 host = &conn->conf->no_proxy[i+1];
  13.                                 if( conn->conf->no_proxy[i+1] == 0 )
  14.                                 break;
  15.                         }        
  16.         }
复制代码
说下作者的用意,然后代码就容易懂了。
比如要下载N个资源文件,我可能会这样下载
  1. axel -n 10 url1 url2 url3 url4 ... urln
复制代码
在这N个任务当中,有些是网通的,有些是电信的,有些是国外的,有些是国内的。
然后出于某些原因,直接访问是下载不了,或者速度较慢。这时有人会借助代理服务器去访问这些资源。于是,他在axel/etc/axelrc中配置了一个http代理
  1. http_proxy=janpanese_proxy.com:8080
复制代码
为了某些文件能访问,呵呵。
但是我们知道http_proxy是一个全局的配置,然后要再次下载时,所有的任务都会使用这个代理服务器。
于是,我们会想到,我能不能配置某些资源下载时不使用用代理呢,so,no_proxy就是为这个想法而生的。
比如,我不想让urlM和ulrN这两个资源不使用代理,只需要在axelrc中配置
  1. no_proxy=urlM,urlN
复制代码
然后
  1. axel -n 10 url1 url2 url3 urlN ... urlM
复制代码
再次下载时,urlM和ulrN的下载将不用代理服务器,而其它的资源都使用代理服务器。

测试这个作用,可以在conn_init中添加代码来验证:
conn.c:conn_init()函数中
  1. conn->proxy = proxy != NULL;
复制代码
下面添加一行:
  1. printf ("====%s============no proxy-%d\n",conn->host,  conn->proxy == NULL);
复制代码
再次运行,就能看到效果了。
比如我配置了
  1. no_proxy=en.newhua.com
复制代码
当运行了命令:
  1. ./axel [url]http://en.newhua.com/down/mysql-5.5.15-win32.zip[/url] [url]http://www.tao123.com/soft/XiaobaiSetup_3.1.0.exe[/url]
复制代码
后,看到效果
  1. ====en.newhua.com============no proxy-1
  2. ====www.tao123.com============no proxy-0
复制代码
strip_cgi_parameters:
        URL中是否扔掉cgi参数,也是从配置文件中加载
        比如  www.xxx.com?id=1&name=test
        如果开启的话,?后面的参数会被扔掉。默认该项为1.

save_state_interval:

axel的每个下载连接,会在一定间隔后把当前连接的下载状态写入到一个后缀为“.st”的状态文件中。这个项就是
配置这个时间间隔的,默认为10秒,从配置文件中加载配置的值.

connection_timeout:         

每个连接的连接超时时间,如果连接失败了,会尝试重新连接,但是如果从开始到现在经过了connection_timeout时间还没连接上,就放弃
        默认是45秒,从配置文件加载。

reconnect_delay:         

重连延迟,连接失败后,过过久再次去尝试连接,默认20秒,从配置文件加载值。

num_connections:         
分多个少个连接去下载,也就是-n后面输入的参数。默认为4个,从stdin和配置中加载.
buffer_size:         

通讯和写文件时采用缓冲的大小,从配置文件中加载。默认5120.
max_speed:         
最大下载速度,默认无限制,从配置中加载,一旦某个时刻计算的平均下载速度超过这个值的话,再次下载时就会睡眠多点时间,降低平均速度。
verbose:         
日志打印开关
alternate_output:         
打印进度的方式,也就是-a开启的功能,表示以scp或者wget方式打印进度。
interfaces:         
通讯时使用的IP列表,从配置文件加载。
search_timeout:         
查找镜像文件超时,默认10秒,从配置文件加载。
search_threads:         
使用几个线程查找镜像文件,默认是3个,从配置文件加载。
search_amount:         
查找镜像文件的个数,默认是15个,从配置文件加载
search_top:         
从查找的镜像文件中获取速度最快的前几个作为下载源

注意:search_XX这几个配置的意义区别。


add_header_count:         
添加http头的个数,从-H xx解析 比如 -H xxx -H yyy,获得值为2
add_header:         
添加的http头的存储单元,最多允许添加10个header,每个限制长度为1024,从配置文件和stdin获取。
user_agent:         
http头中的user-agent,从配置文件和stdin获取,-U后面的串。

转载于:https://my.oschina.net/u/211101/blog/51209

这篇关于axel扩展数据类型分析:conf_t的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/380324

相关文章

性能分析之MySQL索引实战案例

文章目录 一、前言二、准备三、MySQL索引优化四、MySQL 索引知识回顾五、总结 一、前言 在上一讲性能工具之 JProfiler 简单登录案例分析实战中已经发现SQL没有建立索引问题,本文将一起从代码层去分析为什么没有建立索引? 开源ERP项目地址:https://gitee.com/jishenghua/JSH_ERP 二、准备 打开IDEA找到登录请求资源路径位置

csu 1446 Problem J Modified LCS (扩展欧几里得算法的简单应用)

这是一道扩展欧几里得算法的简单应用题,这题是在湖南多校训练赛中队友ac的一道题,在比赛之后请教了队友,然后自己把它a掉 这也是自己独自做扩展欧几里得算法的题目 题意:把题意转变下就变成了:求d1*x - d2*y = f2 - f1的解,很明显用exgcd来解 下面介绍一下exgcd的一些知识点:求ax + by = c的解 一、首先求ax + by = gcd(a,b)的解 这个

科研绘图系列:R语言扩展物种堆积图(Extended Stacked Barplot)

介绍 R语言的扩展物种堆积图是一种数据可视化工具,它不仅展示了物种的堆积结果,还整合了不同样本分组之间的差异性分析结果。这种图形表示方法能够直观地比较不同物种在各个分组中的显著性差异,为研究者提供了一种有效的数据解读方式。 加载R包 knitr::opts_chunk$set(warning = F, message = F)library(tidyverse)library(phyl

SWAP作物生长模型安装教程、数据制备、敏感性分析、气候变化影响、R模型敏感性分析与贝叶斯优化、Fortran源代码分析、气候数据降尺度与变化影响分析

查看原文>>>全流程SWAP农业模型数据制备、敏感性分析及气候变化影响实践技术应用 SWAP模型是由荷兰瓦赫宁根大学开发的先进农作物模型,它综合考虑了土壤-水分-大气以及植被间的相互作用;是一种描述作物生长过程的一种机理性作物生长模型。它不但运用Richard方程,使其能够精确的模拟土壤中水分的运动,而且耦合了WOFOST作物模型使作物的生长描述更为科学。 本文让更多的科研人员和农业工作者

MOLE 2.5 分析分子通道和孔隙

软件介绍 生物大分子通道和孔隙在生物学中发挥着重要作用,例如在分子识别和酶底物特异性方面。 我们介绍了一种名为 MOLE 2.5 的高级软件工具,该工具旨在分析分子通道和孔隙。 与其他可用软件工具的基准测试表明,MOLE 2.5 相比更快、更强大、功能更丰富。作为一项新功能,MOLE 2.5 可以估算已识别通道的物理化学性质。 软件下载 https://pan.quark.cn/s/57

Spring框架5 - 容器的扩展功能 (ApplicationContext)

private static ApplicationContext applicationContext;static {applicationContext = new ClassPathXmlApplicationContext("bean.xml");} BeanFactory的功能扩展类ApplicationContext进行深度的分析。ApplicationConext与 BeanF

衡石分析平台使用手册-单机安装及启动

单机安装及启动​ 本文讲述如何在单机环境下进行 HENGSHI SENSE 安装的操作过程。 在安装前请确认网络环境,如果是隔离环境,无法连接互联网时,请先按照 离线环境安装依赖的指导进行依赖包的安装,然后按照本文的指导继续操作。如果网络环境可以连接互联网,请直接按照本文的指导进行安装。 准备工作​ 请参考安装环境文档准备安装环境。 配置用户与安装目录。 在操作前请检查您是否有 sud

线性因子模型 - 独立分量分析(ICA)篇

序言 线性因子模型是数据分析与机器学习中的一类重要模型,它们通过引入潜变量( latent variables \text{latent variables} latent variables)来更好地表征数据。其中,独立分量分析( ICA \text{ICA} ICA)作为线性因子模型的一种,以其独特的视角和广泛的应用领域而备受关注。 ICA \text{ICA} ICA旨在将观察到的复杂信号

【软考】希尔排序算法分析

目录 1. c代码2. 运行截图3. 运行解析 1. c代码 #include <stdio.h>#include <stdlib.h> void shellSort(int data[], int n){// 划分的数组,例如8个数则为[4, 2, 1]int *delta;int k;// i控制delta的轮次int i;// 临时变量,换值int temp;in

三相直流无刷电机(BLDC)控制算法实现:BLDC有感启动算法思路分析

一枚从事路径规划算法、运动控制算法、BLDC/FOC电机控制算法、工控、物联网工程师,爱吃土豆。如有需要技术交流或者需要方案帮助、需求:以下为联系方式—V 方案1:通过霍尔传感器IO中断触发换相 1.1 整体执行思路 霍尔传感器U、V、W三相通过IO+EXIT中断的方式进行霍尔传感器数据的读取。将IO口配置为上升沿+下降沿中断触发的方式。当霍尔传感器信号发生发生信号的变化就会触发中断在中断