【大模型从入门到精通40】LLM部署运维(LLM Ops)使用Kubeflow Pipelines掌握LLM工作流2

本文主要是介绍【大模型从入门到精通40】LLM部署运维(LLM Ops)使用Kubeflow Pipelines掌握LLM工作流2,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

这里写目录标题

      • 使用Kubeflow Pipeline组件:输出与任务对象
        • 理解PipelineTask对象
        • 通过PipelineTask.output访问输出数据
        • 组件函数中的关键字参数
        • 实用贴士
      • 在Kubeflow Pipelines中链接组件:传递输出
        • 定义依赖组件
        • 传递组件输出
        • 常见错误:传递正确的对象类型
        • 实用贴士

在这里插入图片描述

使用Kubeflow Pipeline组件:输出与任务对象

在定义了带有@dsl.component装饰器的Kubeflow Pipeline组件之后,理解函数在管道上下文中如何工作是非常重要的。与直接返回特定数据类型的典型Python函数不同,带有@dsl.component装饰器的函数在管道中被调用时表现得略有不同。

理解PipelineTask对象

当你调用一个定义为Kubeflow Pipeline组件的函数时,它不会直接返回预期的数据(如字符串或整数),而是返回一个PipelineTask对象的实例。这个对象代表了组件在管道中的执行,并可用于将数据传递给后续的组件。

# 将组件函数的结果赋值给变量
hello_task = greet_person(name="Erwin")
print(hello_task)

在这段代码中,greet_person(name="Erwin")并不会直接返回问候消息。相反,它返回了一个PipelineTask对象,我们将其赋值给hello_task。打印hello_task将不会显示问候消息,而是会显示关于PipelineTask实例的信息。

通过PipelineTask.output访问输出数据

要在管道中利用组件的输出,我们需要访问PipelineTask对象的.output属性。这个属性允许一个组件的输出数据作为输入传递给另一个组件,从而实现了管道中数据的流动。

# 访问组件的输出
print(hello_task.output)

PipelineTask对象的.output属性将是Kubeflow Pipelines框架识别的基本数据类型之一,如’String’、‘Integer’、‘Float’、‘Boolean’、‘List’或’Dict’。这样可以确保组件间数据交换的兼容性和便捷性。

组件函数中的关键字参数

需要注意的是,在向组件函数传递值时,必须使用关键字参数。这一要求确保了清晰性,并避免了由于位置参数可能引起的错误,尤其是在复杂的管道中,组件可能具有多个输入。

# 这样会导致错误
# hello_task = greet_person("Erwin")# 正确调用组件函数的方式,使用关键字参数
hello_task = greet_person(name="Erwin")

尝试使用位置参数调用组件函数会导致错误。这样的设计鼓励明确指定参数,增强了代码的可读性并减少了出错的可能性。

实用贴士
  • 明确命名参数: 调用组件函数时始终使用关键字参数。这一做法提高了代码的清晰度,并确保了你的管道定义易于阅读和维护。
  • 管理输出: 记住组件的输出是通过PipelineTask.output属性访问的。仔细规划管道中的数据流,考虑数据如何在组件之间传递。

通过理解Kubeflow Pipeline组件的这些方面,你将更好地装备自己去构建复杂而高效的机器学习工作流。这些原则确保了你的管道既健壮又易于维护且可扩展。

在Kubeflow Pipelines中链接组件:传递输出

基于我们对Kubeflow Pipeline组件的理解,我们现在将进一步探讨如何创建一个管道,其中一个组件的输出作为另一个组件的输入。这一过程展示了Kubeflow Pipelines在编排复杂工作流方面的强大功能。

定义依赖组件

让我们定义第二个组件,它接收第一个组件(我们的问候消息)的输出,并在此基础上添加一个问题,询问对方近况如何。这个例子说明了如何定义依赖于管道中先前组件输出的组件。

# 导入DSL模块以定义组件
from kfp import dsl# 定义依赖于另一个组件输出的组件
@dsl.component
def ask_about_wellbeing(greeting_message: str) -> str:# 构造一条包含问候和后续问题的新消息follow_up_message = f"{greeting_message}. How are you?"# 组件返回新消息return follow_up_message
传递组件输出

定义了第二个组件后,我们展示如何将第一个组件(greet_person)的输出作为输入传递给第二个组件(ask_about_wellbeing)。这是将组件链接在一起形成工作流的关键步骤。

# 为第一个组件创建任务并存储其输出
greeting_task = greet_person(name="Erwin")# 将第一个组件的输出传递给第二个组件
wellbeing_task = ask_about_wellbeing(greeting_message=greeting_task.output)
print(wellbeing_task)
print(wellbeing_task.output)

在这段代码中,greeting_task.output被作为greeting_message输入传递给了ask_about_wellbeing。这展示了数据如何从一个组件流向另一个组件在Kubeflow Pipeline中的方式。

常见错误:传递正确的对象类型

重要的是要传递PipelineTask对象的.output属性,而不是PipelineTask对象本身。传递错误的类型将导致错误,因为组件期望的是基本数据类型,而非PipelineTask对象。

# 错误用法:传递PipelineTask对象而不是其输出
# 这将导致错误
# wellbeing_task = ask_about_wellbeing(greeting_message=greeting_task)# 正确用法:传递PipelineTask对象的输出
wellbeing_task = ask_about_wellbeing(greeting_message=greeting_task.output)
实用贴士
  • 始终传递.output以建立依赖: 在连接组件时,确保你传递的是前一个组件任务对象的.output属性。这是一个常见的错误,但通过仔细的代码审查很容易避免。
  • 单独测试组件: 在将组件集成到更大的管道之前,先单独测试它们以确保它们按预期工作。这种方法有助于在开发过程的早期识别和解决问题。

通过掌握在Kubeflow Pipelines中链接组件的方法,你可以构建复杂而模块化的机器学习工作流,这些工作流易于阅读且灵活。这种方法不仅增强了团队成员之间的协作,还促进了组件在不同项目间的重用,显著加快了开发过程。

这篇关于【大模型从入门到精通40】LLM部署运维(LLM Ops)使用Kubeflow Pipelines掌握LLM工作流2的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1104613

相关文章

闲置电脑也能活出第二春?鲁大师AiNAS让你动动手指就能轻松部署

对于大多数人而言,在这个“数据爆炸”的时代或多或少都遇到过存储告急的情况,这使得“存储焦虑”不再是个别现象,而将会是随着软件的不断臃肿而越来越普遍的情况。从不少手机厂商都开始将存储上限提升至1TB可以见得,我们似乎正处在互联网信息飞速增长的阶段,对于存储的需求也将会不断扩大。对于苹果用户而言,这一问题愈发严峻,毕竟512GB和1TB版本的iPhone可不是人人都消费得起的,因此成熟的外置存储方案开

Spring Security 从入门到进阶系列教程

Spring Security 入门系列 《保护 Web 应用的安全》 《Spring-Security-入门(一):登录与退出》 《Spring-Security-入门(二):基于数据库验证》 《Spring-Security-入门(三):密码加密》 《Spring-Security-入门(四):自定义-Filter》 《Spring-Security-入门(五):在 Sprin

大模型研发全揭秘:客服工单数据标注的完整攻略

在人工智能(AI)领域,数据标注是模型训练过程中至关重要的一步。无论你是新手还是有经验的从业者,掌握数据标注的技术细节和常见问题的解决方案都能为你的AI项目增添不少价值。在电信运营商的客服系统中,工单数据是客户问题和解决方案的重要记录。通过对这些工单数据进行有效标注,不仅能够帮助提升客服自动化系统的智能化水平,还能优化客户服务流程,提高客户满意度。本文将详细介绍如何在电信运营商客服工单的背景下进行

中文分词jieba库的使用与实景应用(一)

知识星球:https://articles.zsxq.com/id_fxvgc803qmr2.html 目录 一.定义: 精确模式(默认模式): 全模式: 搜索引擎模式: paddle 模式(基于深度学习的分词模式): 二 自定义词典 三.文本解析   调整词出现的频率 四. 关键词提取 A. 基于TF-IDF算法的关键词提取 B. 基于TextRank算法的关键词提取

使用SecondaryNameNode恢复NameNode的数据

1)需求: NameNode进程挂了并且存储的数据也丢失了,如何恢复NameNode 此种方式恢复的数据可能存在小部分数据的丢失。 2)故障模拟 (1)kill -9 NameNode进程 [lytfly@hadoop102 current]$ kill -9 19886 (2)删除NameNode存储的数据(/opt/module/hadoop-3.1.4/data/tmp/dfs/na

Hadoop数据压缩使用介绍

一、压缩原则 (1)运算密集型的Job,少用压缩 (2)IO密集型的Job,多用压缩 二、压缩算法比较 三、压缩位置选择 四、压缩参数配置 1)为了支持多种压缩/解压缩算法,Hadoop引入了编码/解码器 2)要在Hadoop中启用压缩,可以配置如下参数

Makefile简明使用教程

文章目录 规则makefile文件的基本语法:加在命令前的特殊符号:.PHONY伪目标: Makefilev1 直观写法v2 加上中间过程v3 伪目标v4 变量 make 选项-f-n-C Make 是一种流行的构建工具,常用于将源代码转换成可执行文件或者其他形式的输出文件(如库文件、文档等)。Make 可以自动化地执行编译、链接等一系列操作。 规则 makefile文件

使用opencv优化图片(画面变清晰)

文章目录 需求影响照片清晰度的因素 实现降噪测试代码 锐化空间锐化Unsharp Masking频率域锐化对比测试 对比度增强常用算法对比测试 需求 对图像进行优化,使其看起来更清晰,同时保持尺寸不变,通常涉及到图像处理技术如锐化、降噪、对比度增强等 影响照片清晰度的因素 影响照片清晰度的因素有很多,主要可以从以下几个方面来分析 1. 拍摄设备 相机传感器:相机传

Andrej Karpathy最新采访:认知核心模型10亿参数就够了,AI会打破教育不公的僵局

夕小瑶科技说 原创  作者 | 海野 AI圈子的红人,AI大神Andrej Karpathy,曾是OpenAI联合创始人之一,特斯拉AI总监。上一次的动态是官宣创办一家名为 Eureka Labs 的人工智能+教育公司 ,宣布将长期致力于AI原生教育。 近日,Andrej Karpathy接受了No Priors(投资博客)的采访,与硅谷知名投资人 Sara Guo 和 Elad G

阿里开源语音识别SenseVoiceWindows环境部署

SenseVoice介绍 SenseVoice 专注于高精度多语言语音识别、情感辨识和音频事件检测多语言识别: 采用超过 40 万小时数据训练,支持超过 50 种语言,识别效果上优于 Whisper 模型。富文本识别:具备优秀的情感识别,能够在测试数据上达到和超过目前最佳情感识别模型的效果。支持声音事件检测能力,支持音乐、掌声、笑声、哭声、咳嗽、喷嚏等多种常见人机交互事件进行检测。高效推