【大模型从入门到精通40】LLM部署运维(LLM Ops)使用Kubeflow Pipelines掌握LLM工作流2

本文主要是介绍【大模型从入门到精通40】LLM部署运维(LLM Ops)使用Kubeflow Pipelines掌握LLM工作流2,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

这里写目录标题

      • 使用Kubeflow Pipeline组件:输出与任务对象
        • 理解PipelineTask对象
        • 通过PipelineTask.output访问输出数据
        • 组件函数中的关键字参数
        • 实用贴士
      • 在Kubeflow Pipelines中链接组件:传递输出
        • 定义依赖组件
        • 传递组件输出
        • 常见错误:传递正确的对象类型
        • 实用贴士

在这里插入图片描述

使用Kubeflow Pipeline组件:输出与任务对象

在定义了带有@dsl.component装饰器的Kubeflow Pipeline组件之后,理解函数在管道上下文中如何工作是非常重要的。与直接返回特定数据类型的典型Python函数不同,带有@dsl.component装饰器的函数在管道中被调用时表现得略有不同。

理解PipelineTask对象

当你调用一个定义为Kubeflow Pipeline组件的函数时,它不会直接返回预期的数据(如字符串或整数),而是返回一个PipelineTask对象的实例。这个对象代表了组件在管道中的执行,并可用于将数据传递给后续的组件。

# 将组件函数的结果赋值给变量
hello_task = greet_person(name="Erwin")
print(hello_task)

在这段代码中,greet_person(name="Erwin")并不会直接返回问候消息。相反,它返回了一个PipelineTask对象,我们将其赋值给hello_task。打印hello_task将不会显示问候消息,而是会显示关于PipelineTask实例的信息。

通过PipelineTask.output访问输出数据

要在管道中利用组件的输出,我们需要访问PipelineTask对象的.output属性。这个属性允许一个组件的输出数据作为输入传递给另一个组件,从而实现了管道中数据的流动。

# 访问组件的输出
print(hello_task.output)

PipelineTask对象的.output属性将是Kubeflow Pipelines框架识别的基本数据类型之一,如’String’、‘Integer’、‘Float’、‘Boolean’、‘List’或’Dict’。这样可以确保组件间数据交换的兼容性和便捷性。

组件函数中的关键字参数

需要注意的是,在向组件函数传递值时,必须使用关键字参数。这一要求确保了清晰性,并避免了由于位置参数可能引起的错误,尤其是在复杂的管道中,组件可能具有多个输入。

# 这样会导致错误
# hello_task = greet_person("Erwin")# 正确调用组件函数的方式,使用关键字参数
hello_task = greet_person(name="Erwin")

尝试使用位置参数调用组件函数会导致错误。这样的设计鼓励明确指定参数,增强了代码的可读性并减少了出错的可能性。

实用贴士
  • 明确命名参数: 调用组件函数时始终使用关键字参数。这一做法提高了代码的清晰度,并确保了你的管道定义易于阅读和维护。
  • 管理输出: 记住组件的输出是通过PipelineTask.output属性访问的。仔细规划管道中的数据流,考虑数据如何在组件之间传递。

通过理解Kubeflow Pipeline组件的这些方面,你将更好地装备自己去构建复杂而高效的机器学习工作流。这些原则确保了你的管道既健壮又易于维护且可扩展。

在Kubeflow Pipelines中链接组件:传递输出

基于我们对Kubeflow Pipeline组件的理解,我们现在将进一步探讨如何创建一个管道,其中一个组件的输出作为另一个组件的输入。这一过程展示了Kubeflow Pipelines在编排复杂工作流方面的强大功能。

定义依赖组件

让我们定义第二个组件,它接收第一个组件(我们的问候消息)的输出,并在此基础上添加一个问题,询问对方近况如何。这个例子说明了如何定义依赖于管道中先前组件输出的组件。

# 导入DSL模块以定义组件
from kfp import dsl# 定义依赖于另一个组件输出的组件
@dsl.component
def ask_about_wellbeing(greeting_message: str) -> str:# 构造一条包含问候和后续问题的新消息follow_up_message = f"{greeting_message}. How are you?"# 组件返回新消息return follow_up_message
传递组件输出

定义了第二个组件后,我们展示如何将第一个组件(greet_person)的输出作为输入传递给第二个组件(ask_about_wellbeing)。这是将组件链接在一起形成工作流的关键步骤。

# 为第一个组件创建任务并存储其输出
greeting_task = greet_person(name="Erwin")# 将第一个组件的输出传递给第二个组件
wellbeing_task = ask_about_wellbeing(greeting_message=greeting_task.output)
print(wellbeing_task)
print(wellbeing_task.output)

在这段代码中,greeting_task.output被作为greeting_message输入传递给了ask_about_wellbeing。这展示了数据如何从一个组件流向另一个组件在Kubeflow Pipeline中的方式。

常见错误:传递正确的对象类型

重要的是要传递PipelineTask对象的.output属性,而不是PipelineTask对象本身。传递错误的类型将导致错误,因为组件期望的是基本数据类型,而非PipelineTask对象。

# 错误用法:传递PipelineTask对象而不是其输出
# 这将导致错误
# wellbeing_task = ask_about_wellbeing(greeting_message=greeting_task)# 正确用法:传递PipelineTask对象的输出
wellbeing_task = ask_about_wellbeing(greeting_message=greeting_task.output)
实用贴士
  • 始终传递.output以建立依赖: 在连接组件时,确保你传递的是前一个组件任务对象的.output属性。这是一个常见的错误,但通过仔细的代码审查很容易避免。
  • 单独测试组件: 在将组件集成到更大的管道之前,先单独测试它们以确保它们按预期工作。这种方法有助于在开发过程的早期识别和解决问题。

通过掌握在Kubeflow Pipelines中链接组件的方法,你可以构建复杂而模块化的机器学习工作流,这些工作流易于阅读且灵活。这种方法不仅增强了团队成员之间的协作,还促进了组件在不同项目间的重用,显著加快了开发过程。

这篇关于【大模型从入门到精通40】LLM部署运维(LLM Ops)使用Kubeflow Pipelines掌握LLM工作流2的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1104613

相关文章

postgresql使用UUID函数的方法

《postgresql使用UUID函数的方法》本文给大家介绍postgresql使用UUID函数的方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录PostgreSQL有两种生成uuid的方法。可以先通过sql查看是否已安装扩展函数,和可以安装的扩展函数

如何使用Lombok进行spring 注入

《如何使用Lombok进行spring注入》本文介绍如何用Lombok简化Spring注入,推荐优先使用setter注入,通过注解自动生成getter/setter及构造器,减少冗余代码,提升开发效... Lombok为了开发环境简化代码,好处不用多说。spring 注入方式为2种,构造器注入和setter

MySQL中比较运算符的具体使用

《MySQL中比较运算符的具体使用》本文介绍了SQL中常用的符号类型和非符号类型运算符,符号类型运算符包括等于(=)、安全等于(=)、不等于(/!=)、大小比较(,=,,=)等,感兴趣的可以了解一下... 目录符号类型运算符1. 等于运算符=2. 安全等于运算符<=>3. 不等于运算符<>或!=4. 小于运

使用zip4j实现Java中的ZIP文件加密压缩的操作方法

《使用zip4j实现Java中的ZIP文件加密压缩的操作方法》本文介绍如何通过Maven集成zip4j1.3.2库创建带密码保护的ZIP文件,涵盖依赖配置、代码示例及加密原理,确保数据安全性,感兴趣的... 目录1. zip4j库介绍和版本1.1 zip4j库概述1.2 zip4j的版本演变1.3 zip4

从入门到进阶讲解Python自动化Playwright实战指南

《从入门到进阶讲解Python自动化Playwright实战指南》Playwright是针对Python语言的纯自动化工具,它可以通过单个API自动执行Chromium,Firefox和WebKit... 目录Playwright 简介核心优势安装步骤观点与案例结合Playwright 核心功能从零开始学习

Python 字典 (Dictionary)使用详解

《Python字典(Dictionary)使用详解》字典是python中最重要,最常用的数据结构之一,它提供了高效的键值对存储和查找能力,:本文主要介绍Python字典(Dictionary)... 目录字典1.基本特性2.创建字典3.访问元素4.修改字典5.删除元素6.字典遍历7.字典的高级特性默认字典

使用Python构建一个高效的日志处理系统

《使用Python构建一个高效的日志处理系统》这篇文章主要为大家详细讲解了如何使用Python开发一个专业的日志分析工具,能够自动化处理、分析和可视化各类日志文件,大幅提升运维效率,需要的可以了解下... 目录环境准备工具功能概述完整代码实现代码深度解析1. 类设计与初始化2. 日志解析核心逻辑3. 文件处

MySQL 主从复制部署及验证(示例详解)

《MySQL主从复制部署及验证(示例详解)》本文介绍MySQL主从复制部署步骤及学校管理数据库创建脚本,包含表结构设计、示例数据插入和查询语句,用于验证主从同步功能,感兴趣的朋友一起看看吧... 目录mysql 主从复制部署指南部署步骤1.环境准备2. 主服务器配置3. 创建复制用户4. 获取主服务器状态5

一文详解如何使用Java获取PDF页面信息

《一文详解如何使用Java获取PDF页面信息》了解PDF页面属性是我们在处理文档、内容提取、打印设置或页面重组等任务时不可或缺的一环,下面我们就来看看如何使用Java语言获取这些信息吧... 目录引言一、安装和引入PDF处理库引入依赖二、获取 PDF 页数三、获取页面尺寸(宽高)四、获取页面旋转角度五、判断

C++中assign函数的使用

《C++中assign函数的使用》在C++标准模板库中,std::list等容器都提供了assign成员函数,它比操作符更灵活,支持多种初始化方式,下面就来介绍一下assign的用法,具有一定的参考价... 目录​1.assign的基本功能​​语法​2. 具体用法示例​​​(1) 填充n个相同值​​(2)