【Caffe】math_functions文件分析

2024-08-27 19:08
文章标签 分析 math caffe functions

本文主要是介绍【Caffe】math_functions文件分析,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Caffe源码(caffe version:09868ac , date: 2015.08.15)中有一些重要文件,这里介绍下math_functions文件。

1.      include文件:

(1)、<glog/logging.h>:GLog库,它是google的一个开源的日志库,其使用可以参考:http://blog.csdn.net/fengbingchun/article/details/48768039 ;

(2)、<caffe/common.hpp>、<caffe/util/device_alternate.hpp>:这两个文件的介绍可以参考: http://blog.csdn.net/fengbingchun/article/details/54955236 ;

2.      <caffe/util/mkl_alternate.hpp>文件:

这个文件里包含两种库,一个是Intel MKL,一个是OpenBLAS,这里用的是OpenBLAS。如果商用Intel MKL是需要付费的,下面仅对Intel MKL进行简单介绍。

Intel MKL(Math Kernel Library)即Intel数学核心函数库,它是一套高度优化和广泛线程安全的数学例程,专为需要极致性能的科学、工程及金融等领域的应用而设计。核心数学函数包括BLAS、LAPACK、ScaLAPACK、Sparse Solver、快速傅里叶变换、矢量数学及其它函数。它可以为当前及下一代英特尔处理器提供性能优化,包括更出色地与Microsoft Visual Studio、Eclipse和XCode相集成。英特尔MKL支持完全集成英特尔兼容性OpenMP运行时库,以实现更出色的Windows/Linux跨平台兼容性。

关于OpenBLAS的介绍可以参考: http://blog.csdn.net/fengbingchun/article/details/55509764 ;

在github/fengbingchun/Caffe_Test中<mkl_alternate.hpp>中走的是OpenBLAS分支。

(1)、定义了一些宏:

DEFINE_VSL_UNARY_FUNC:一元函数,包括Sqr、Exp、Ln、Abs,对应的函数为vsSqr、vsExp、vsLn、vsAbs、vdSqr、vdExp、vdLn、vdAbs,支持float和double类型。

DEFINE_VSL_UNARY_FUNC_WITH_PARAM:带一个参数的一元函数,包括Powx,对应的函数为vsPowx、vdPowx,支持float和double类型。

DEFINE_VSL_BINARY_FUNC:二元函数,包括Add、Sub、Mul、Div,对应的函数为vsAdd、vsSub、vsMul、vsDiv、vdAdd、vdSub、vdMul、vdDiv,支持float和double类型。

(2)、定义了axpby函数,支持两种类型,cblas_saxpby、cblas_daxpby,如果设置incX和incY为1(即步长为1),则:Y=alpha*X+beta*Y

mkl_alternate文件测试代码如下:
 

int test_caffe_util_mkl_alternate()
{const int N{ 5 };float a[N] {1, 2, 3, 4, 5}, b{ 2 }, alpha{ 0.2f }, beta{0.4f};float y1[N], y2[N], y3[N], y4[N]{6, 7, 8, 9, 10};fprintf(stderr, "test unary function: vsSqr\n");vsSqr(N, a, y1);for (auto ret : y1) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test function unary function with singular parameter: vsPowx\n");vsPowx(N, a, b, y2);for (auto ret : y2) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test binary function: vsAdd\n");vsAdd(N, a, a, y3);for (auto ret : y3) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test axpby function(Y=alpha*X+beta*Y): cblas_saxpby\n");cblas_saxpby(N, alpha, a, 1, beta, y4, 1);for (auto ret : y4) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");return 0;
}

执行结果如下:

3.      math_functions文件内函数:封装了一些基础的数学运算函数

(1)、caffe_cpu_gemm:C=alpha*A*B+beta*C;

(2)、caffe_cpu_gemv:y=alpha*A*x+beta*y;

(3)、caffe_axpy:Y=alpha*X+Y;

(4)、caffe_cpu_axpby:Y=alpha*X+beta*Y;

(5)、caffe_copy:从X中拷贝前N个元素到Y中;

(6)、caffe_set:将X中的前N个元素置为alpha;

(7)、caffe_add_scalar:给Y中的前N个元素分别加上常数alpha;

(8)、caffe_scal:X = alpha*X;

(9)、caffe_sqr/ caffe_exp/caffe_log/caffe_abs:会调用mkl_alternate.hpp中的vsSqr、vsExp、vsLn、vsAbs、vdSqr、vdExp、vdLn、vdAbs函数;

(10)、caffe_add/caffe_sub/caffe_mul/caffe_div:会调用mkl_alternate.hpp中的vsAdd、vsSub、vsMul、vsDiv、vdAdd、vdSub、vdMul、vdDiv函数;

(11)、caffe_powx:会调用mkl_alternate.hpp中的vsPowx和vdPowx函数;

(12)、caffe_rng_rand:返回一个unsignedint类型的随机数;

(13)、caffe_nextafter:在最大方向上,返回b可以表示的最接近的数值;

(14)、caffe_rng_uniform:产生指定范围内的均匀分布随机数;

(15)、caffe_rng_gaussian:产生高斯分布随机数;

(16)、caffe_rng_bernoulli:产生伯努利分布随机数;

(17)、caffe_cpu_dot:计算步长为1的内积;

(18)、caffe_cpu_strided_dot:计算指定步长的内积;

(19)、caffe_cpu_hamming_distance:计算x、y之间的海明距离;

(20)、caffe_cpu_asum:计算向量x中前n个元素的绝对值之和;

(21)、caffe_sign:类似于正负号函数,仅返回-1或1;

(22)、caffe_cpu_scale:Y=alpha*X 。

4.        宏DEFINE_CAFFE_CPU_UNARY_FUNC:一元函数,类似于mkl_alternate.hpp中的宏DEFINE_VSL_UNARY_FUNC,包括:

(1)、caffe_cpu_sign:正负号函数,输出-1、0、1;

(2)、caffe_cpu_sgnbit:作用类似于std::signbit,static_cast<bool>((std::signbit)(x));x为负数输出为1,其它输出为0;

(3)、caffe_cpu_fabs:取绝对值,作用类似于std::fabs。

math_functions文件测试代码如下:
 

int test_caffe_util_math_functions()
{float alpha{ 0.5f }, beta{ 0.1f };// h*w: A: 2*3; B: 3*4; C: 2*4float A[2 * 3] {1, 2, 3, 4, 5, 6}, B[3 * 4] {1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12},y1[2 * 4]{1, 2, 3, 4, 5, 6, 7, 8}, x[3]{1, 2, 3}, y2[2]{1, 2},y3[6] {1, 2, 3, 4, 5, 6}, y4[6] {1, 2, 3, 4, 5, 6},y7[6]{1, 2, 3, 4, 5, 6}, y10[6] {1, 2, 3, 4, 5, 6},y11[6] {1, 2, 3, 4, 5, 6}, C[6] {-2, -1, 0, 1, 2, 3}, y19[6] {-10, -10, -10, -10, -10, -10};float  y5[6], y6[6], y20[6], y21[6], y22[6];int y12[6] {1, 2, 3, 4, 5, 6};fprintf(stderr, "test math function: caffe_cpu_gemm(C=alpha*A*B+beta*C)\n");// A、B、y1: matrixcaffe::caffe_cpu_gemm(CblasNoTrans, CblasNoTrans, 2, 4, 3, alpha, A, B, beta, y1);for (auto ret : y1) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test math function: caffe_cpu_gemv(y=alpha*A*x+beta*y)\n");// A: matrix; x、y2: vectorcaffe::caffe_cpu_gemv(CblasNoTrans, 2, 3, alpha, A, x, beta, y2);for (auto ret : y2) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test math function: caffe_axpy(Y=alpha*X+Y)\n");caffe::caffe_axpy(6, alpha, A, y3);for (auto ret : y3) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test math function: caffe_cpu_axpby(Y= alpha*X+beta*Y)\n");caffe::caffe_cpu_axpby(6, alpha, A, beta, y4);for (auto ret : y4) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test math function: caffe_copy\n");caffe::caffe_copy(3, A, y5);for (auto ret : y5) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test math function: caffe_set\n");caffe::caffe_set(3, alpha, y6);for (auto ret : y6) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test math function: caffe_scal(X=alpha*X)\n");caffe::caffe_scal(4, alpha, y7);for (auto ret : y7) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test math function: caffe_rng_rand\n");unsigned int y8 = caffe::caffe_rng_rand();fprintf(stderr, "caffe rng rand: %d\n", y8);fprintf(stderr, "test math function: caffe_nextafter\n");float y9 = caffe::caffe_nextafter(alpha);fprintf(stderr, " caffe next after: %f\n", y9);fprintf(stderr, "test math function: caffe_rng_uniform\n");caffe::caffe_rng_uniform(4, -2.f, 2.f, y10);for (auto ret : y10) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test math function: caffe_rng_gaussian\n");caffe::caffe_rng_gaussian(4, -2.f, alpha, y11);for (auto ret : y11) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test math function: caffe_rng_bernoulli\n");caffe::caffe_rng_bernoulli(4, alpha, y12);for (auto ret : y12) {fprintf(stderr, "%d    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test math function: caffe_cpu_dot\n");float y13 = caffe::caffe_cpu_dot(3, A, B);fprintf(stderr, "caffe cpu dot: %f\n", y13);fprintf(stderr, "test math function: caffe_cpu_strided_dot\n");float y14 = caffe::caffe_cpu_strided_dot(2, A, 2, B, 2);fprintf(stderr, "caffe cpu strided dot: %f\n", y14);fprintf(stderr, "test math function: caffe_cpu_hamming_distance\n");int y15 = caffe::caffe_cpu_hamming_distance(4, A, C);fprintf(stderr, "caffe cpu hamming distance: %d\n", y15);fprintf(stderr, "test math function: caffe_cpu_asum\n");float y16 = caffe::caffe_cpu_asum(5, C);fprintf(stderr, "caffe cpu asum: %f\n", y16);fprintf(stderr, "test math function: caffe_sign\n");int8_t y17 = caffe::caffe_sign(-10.0f);int8_t y18 = caffe::caffe_sign(10.0f);fprintf(stderr, "caffe sign: -10.0f: %d, 10.0f: %d\n", y17, y18);fprintf(stderr, "test math function: caffe_cpu_scale\n");caffe::caffe_cpu_scale(5, alpha, C, y19);for (auto ret : y19) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test math function: caffe_cpu_sign\n");caffe::caffe_cpu_sign(5, C, y20);for (auto ret : y20) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test math function: caffe_cpu_sgnbit\n");caffe::caffe_cpu_sgnbit(5, C, y21);for (auto ret : y21) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");fprintf(stderr, "test math function: caffe_cpu_fabs\n");caffe::caffe_cpu_fabs(5, C, y22);for (auto ret : y22) {fprintf(stderr, "%f    ", ret);}fprintf(stderr, "\n");return 0;
}

 执行结果如下:

 GitHub:https://github.com/fengbingchun/Caffe_Test

转自:https://blog.csdn.net/fengbingchun/article/details/56280708

较好的排版:https://blog.csdn.net/seven_first/article/details/47378697#1-caffecpugemm-%E5%87%BD%E6%95%B0

这篇关于【Caffe】math_functions文件分析的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1112524

相关文章

SpringBoot中六种批量更新Mysql的方式效率对比分析

《SpringBoot中六种批量更新Mysql的方式效率对比分析》文章比较了MySQL大数据量批量更新的多种方法,指出REPLACEINTO和ONDUPLICATEKEY效率最高但存在数据风险,MyB... 目录效率比较测试结构数据库初始化测试数据批量修改方案第一种 for第二种 case when第三种

解决1093 - You can‘t specify target table报错问题及原因分析

《解决1093-Youcan‘tspecifytargettable报错问题及原因分析》MySQL1093错误因UPDATE/DELETE语句的FROM子句直接引用目标表或嵌套子查询导致,... 目录报js错原因分析具体原因解决办法方法一:使用临时表方法二:使用JOIN方法三:使用EXISTS示例总结报错原

MySQL中的LENGTH()函数用法详解与实例分析

《MySQL中的LENGTH()函数用法详解与实例分析》MySQLLENGTH()函数用于计算字符串的字节长度,区别于CHAR_LENGTH()的字符长度,适用于多字节字符集(如UTF-8)的数据验证... 目录1. LENGTH()函数的基本语法2. LENGTH()函数的返回值2.1 示例1:计算字符串

Android kotlin中 Channel 和 Flow 的区别和选择使用场景分析

《Androidkotlin中Channel和Flow的区别和选择使用场景分析》Kotlin协程中,Flow是冷数据流,按需触发,适合响应式数据处理;Channel是热数据流,持续发送,支持... 目录一、基本概念界定FlowChannel二、核心特性对比数据生产触发条件生产与消费的关系背压处理机制生命周期

怎样通过分析GC日志来定位Java进程的内存问题

《怎样通过分析GC日志来定位Java进程的内存问题》:本文主要介绍怎样通过分析GC日志来定位Java进程的内存问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、GC 日志基础配置1. 启用详细 GC 日志2. 不同收集器的日志格式二、关键指标与分析维度1.

MySQL中的表连接原理分析

《MySQL中的表连接原理分析》:本文主要介绍MySQL中的表连接原理分析,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1、背景2、环境3、表连接原理【1】驱动表和被驱动表【2】内连接【3】外连接【4编程】嵌套循环连接【5】join buffer4、总结1、背景

python中Hash使用场景分析

《python中Hash使用场景分析》Python的hash()函数用于获取对象哈希值,常用于字典和集合,不可变类型可哈希,可变类型不可,常见算法包括除法、乘法、平方取中和随机数哈希,各有优缺点,需根... 目录python中的 Hash除法哈希算法乘法哈希算法平方取中法随机数哈希算法小结在Python中,

Java Stream的distinct去重原理分析

《JavaStream的distinct去重原理分析》Javastream中的distinct方法用于去除流中的重复元素,它返回一个包含过滤后唯一元素的新流,该方法会根据元素的hashcode和eq... 目录一、distinct 的基础用法与核心特性二、distinct 的底层实现原理1. 顺序流中的去重

关于MyISAM和InnoDB对比分析

《关于MyISAM和InnoDB对比分析》:本文主要介绍关于MyISAM和InnoDB对比分析,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录开篇:从交通规则看存储引擎选择理解存储引擎的基本概念技术原理对比1. 事务支持:ACID的守护者2. 锁机制:并发控制的艺

MyBatis Plus 中 update_time 字段自动填充失效的原因分析及解决方案(最新整理)

《MyBatisPlus中update_time字段自动填充失效的原因分析及解决方案(最新整理)》在使用MyBatisPlus时,通常我们会在数据库表中设置create_time和update... 目录前言一、问题现象二、原因分析三、总结:常见原因与解决方法对照表四、推荐写法前言在使用 MyBATis