快速熟悉torchdiffeq用法,从数理逻辑到完整案例【第二、三部分】

本文主要是介绍快速熟悉torchdiffeq用法,从数理逻辑到完整案例【第二、三部分】,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

本系列文章板块规划

提示:以下内容仅为个人学习感悟,无法保证完全的正确和权威,大家酌情食用谢谢。
第一部分 torchdiffeq背后的数理逻辑
第二部分 torchdiffeq的基本用法
第三部分 trochdiffeq的升级用法
第四部分 torchdifffeq的案例和代码解析
第五部分 总结

第二部分的参考网站:https://github.com/rtqichen/torchdiffeq

torchdiffeq的基本用法

代码解释

我们来看看官网文档中给出的解释,其翻译为:
“torchdiffeq是一个在PyTorch中实现的常微分方程(ODE)求解器,使用伴随方法支持通过ODE解进行反向传播,可以以恒定的内存成本进行。”
这里的ODE解进行反向传播是指,在神经网络中,ODE被用作网络的一部分时,可以通过ODE的解对于网络进行训练。比如,我们使用神经网络对连续动态系统进行建模,ODE会用来描述系统状态随时间的变化。网络的一部分输出因此将是ODE的解,我们通过这些揭解对于网络进行训练。
关于这里提到的伴随方法(adjoint method),上一部分提到,ODE的解是通过数值方法得到的(欧拉,龙格库塔等等,不是解方程解出来的,是通过算法逼近的),他会储存一些相关梯度,而不需要储存训练过程中的所有状态,因此可以减少内存使用。Pytorch中就写了能够执行ODE解协助的神经网络,和加入了伴随方法节省空间的算法。
那接下来我们来看看,如何使用代码。

torchdiffeq安装

因此,在运行相关的代码时,首先需要安装这个库:

pip install torchdiffeq

如果安装最新版,从Github上的代码仓库安装。这是 torchdiffeq 库的GitHub仓库URL,它指向了库的源代码所在的位置:

pip install git+https://github.com/rtqichen/torchdiffeq

torchdiffeq基本用法

这个库提供了一个主要的接口 odeint,它包含了用于解决初始值问题(Initial Value Problems, IVP)的通用算法,并且对所有主要参数都实现了梯度计算。初始值问题由一个常微分方程(ODE)和一个初始值组成:

dy/dt = f(t, y)    y(t_0) = y_0.

这部分就是是我在第一部分提到的,ODE的基本表达式。我们需要一个方程表达变化,一个初值为迭代的开始。常微分方程求解器通过初始条件,找到满足ODE的连续轨迹。
在这里插入图片描述

使用默认求解器解决一个初始值问题的代码如下:

from torchdiffeq import odeintodeint(func, y0, t)
  1. 从torchdiffeq 导入 odeint 函数,作为求解接口。
  2. 定义ODE函数func,代表了我们要求解的常微分方程。
  3. 初始条件:y0,即在初试时间t_0时刻的函数值y(t_0)
  4. 时间向量t,记为想要计算解的时间点,
  5. 然后调用求解。

官方文档特别推荐使用伴随方法。

from torchdiffeq import odeint_adjoint as odeintodeint(func, y0, t)

伴随方法只是简单地围绕 odeint 进行了封装,但是在反向调用中解决伴随ODE时,它将只使用 O(1) 的内存,但是在使用时,我们需要注意func必须是一个nn.Moudle。

torchdiffeq高级用法

可以基于事件停止ODE的求解。

from torchdiffeq import odeint_event
odeint_event(func, y0, t0, *, event_fn, reverse_time=False, odeint_interface=odeint, **kwargs)
参数类型/默认值描述
func必需代表ODE系统的函数,形式为 func(t, y),它定义了如何根据时间 t 和当前状态 y 计算导数 dy/dt。
y0必需表示ODE系统在初始时间 t0 的初始状态的张量。
t0必需标量,表示初始时间的值。
event_fn必需关键字参数。一个函数,形式为 event_fn(t, y),它返回一个张量。当此张量的任意元素为零时,求解将终止。可以返回多个值来定义多个事件。
reverse_timebool / False指定是否在反向时间中求解ODE。如果为 True,求解器将从 t0 开始向过去求解。默认为 False。
odeint_interfaceodeint 或 odeint_adjoint指定用于通过ODE求解进行微分的模式。odeint 表示直接模式,odeint_adjoint 表示伴随模式。默认是 odeint。
**kwargs-传递给 odeint_interface 的任何剩余关键字参数,可以用来设置求解器选项,如容差、最大步数等。
atolfloat(通常作为 **kwargs 之一)绝对容差参数,控制事件检测的数值精度。
options算法名Adaptive-step,fixed-step等等相应的算法

这篇关于快速熟悉torchdiffeq用法,从数理逻辑到完整案例【第二、三部分】的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/892045

相关文章

SpringBoot整合OpenFeign的完整指南

《SpringBoot整合OpenFeign的完整指南》OpenFeign是由Netflix开发的一个声明式Web服务客户端,它使得编写HTTP客户端变得更加简单,本文为大家介绍了SpringBoot... 目录什么是OpenFeign环境准备创建 Spring Boot 项目添加依赖启用 OpenFeig

快速修复一个Panic的Linux内核的技巧

《快速修复一个Panic的Linux内核的技巧》Linux系统中运行了不当的mkinitcpio操作导致内核文件不能正常工作,重启的时候,内核启动中止于Panic状态,该怎么解决这个问题呢?下面我们就... 感谢China编程(www.chinasem.cn)网友 鸢一雨音 的投稿写这篇文章是有原因的。为了配置完

SpringBoot UserAgentUtils获取用户浏览器的用法

《SpringBootUserAgentUtils获取用户浏览器的用法》UserAgentUtils是于处理用户代理(User-Agent)字符串的工具类,一般用于解析和处理浏览器、操作系统以及设备... 目录介绍效果图依赖封装客户端工具封装IP工具实体类获取设备信息入库介绍UserAgentUtils

MySQL 中的 JSON 查询案例详解

《MySQL中的JSON查询案例详解》:本文主要介绍MySQL的JSON查询的相关知识,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录mysql 的 jsON 路径格式基本结构路径组件详解特殊语法元素实际示例简单路径复杂路径简写操作符注意MySQL 的 J

Python Transformers库(NLP处理库)案例代码讲解

《PythonTransformers库(NLP处理库)案例代码讲解》本文介绍transformers库的全面讲解,包含基础知识、高级用法、案例代码及学习路径,内容经过组织,适合不同阶段的学习者,对... 目录一、基础知识1. Transformers 库简介2. 安装与环境配置3. 快速上手示例二、核心模

Java中的@SneakyThrows注解用法详解

《Java中的@SneakyThrows注解用法详解》:本文主要介绍Java中的@SneakyThrows注解用法的相关资料,Lombok的@SneakyThrows注解简化了Java方法中的异常... 目录前言一、@SneakyThrows 简介1.1 什么是 Lombok?二、@SneakyThrows

Python中的getopt模块用法小结

《Python中的getopt模块用法小结》getopt.getopt()函数是Python中用于解析命令行参数的标准库函数,该函数可以从命令行中提取选项和参数,并对它们进行处理,本文详细介绍了Pyt... 目录getopt模块介绍getopt.getopt函数的介绍getopt模块的常用用法getopt模

Python利用ElementTree实现快速解析XML文件

《Python利用ElementTree实现快速解析XML文件》ElementTree是Python标准库的一部分,而且是Python标准库中用于解析和操作XML数据的模块,下面小编就来和大家详细讲讲... 目录一、XML文件解析到底有多重要二、ElementTree快速入门1. 加载XML的两种方式2.

mysql中的group by高级用法

《mysql中的groupby高级用法》MySQL中的GROUPBY是数据聚合分析的核心功能,主要用于将结果集按指定列分组,并结合聚合函数进行统计计算,下面给大家介绍mysql中的groupby用法... 目录一、基本语法与核心功能二、基础用法示例1. 单列分组统计2. 多列组合分组3. 与WHERE结合使

Java中Scanner的用法示例小结

《Java中Scanner的用法示例小结》有时候我们在编写代码的时候可能会使用输入和输出,那Java也有自己的输入和输出,今天我们来探究一下,对JavaScanner用法相关知识感兴趣的朋友一起看看吧... 目录前言一 输出二 输入Scanner的使用多组输入三 综合练习:猜数字游戏猜数字前言有时候我们在