期待已久!阿里云容器服务 ACK AI 助手正式上线

2024-01-24 06:12

本文主要是介绍期待已久!阿里云容器服务 ACK AI 助手正式上线,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

作者:行疾

大模型技术的蓬勃发展持续引领 AI 出圈潮流,各行各业都在尝试采用 AI 工具实现智能增效。

2023 年云栖大会上,阿里云容器服务团队正式发布 ACK AI 助手,带来大模型增强智能诊断,帮助企业和开发者降低 K8s 的运维复杂度。这款国内首家云原生容器场景的原生 AI 产品 —— ACK AI 助手 beta 版现已全面上线, 功能欢迎大家试用。

Kubernetes 好似一台复杂的飞机发动机

图片

Kubernetes复杂概念、运维体系犹如一台复杂的飞机发动机

“Kubernetes 是我在技术生涯中遇到的最令人沮丧、最痛苦、但却最美妙的东西。”

“Kubernetes 是一个复杂的软件,有许多可动组件和极高的可扩展性。正如你能用 Kubernetes 做很多事情一样,完成这些事情的方法也有很多种。如果你给某人一个Kubernetes 集群,却不告诉他们确切的操作方法,他们会找到你没有准备好的方法。他们会发现不同的工具,很快你们之间就会有分歧。”

这是两位 Kubernetes 用户的心声,Dimensional Research 和 Spectro Cloud 的一次联合调研报告发现,Kubernetes 为架构带来了一种独特的高复杂度,但也恰恰因此,Kubernetes才能为用户带来最为欣赏的灵活性。

CNCF 调研报告同样显示,Kubernetes 的使用者反馈使用容器服务的最大障碍和挑战是面对复杂的概念和运维体系的巨大学习成本。

参考:https://www.cncf.io/reports/cncf-annual-survey-2022/

Kubernetes 的运维体系的复杂,还体现在冗长的异常排查链路。可以看到下图为一次典型的 Kubernetes 上应用的异常恢复运维过程。

图片

一次典型的容器场景故障恢复的完整过程

故障恢复的全过程需要至少经过如下三个环节,才能最终闭环问题。

  1. 使用可观测性发现异常 (Observability)2. 运维止血 (Ops)

  2. 问题根因定位

每一个环节都需要有 Kubernetes 观测、运维经验的人员参与,才能缩短整个问题发现的流程。

当完成整个链路的排查,最终修复问题,可能需要数小时的时长,造成业务影响,甚至最终造成资损。

容器服务 ACK 团队正在探索,通过新一代的基于 AI 智能的可观测 & AIOps 能力,如何大幅缩短平均恢复时间 (Mean Time To Recovery)。

AI 能力的跨时代飞跃从“人工+自能”到人工智能

今日大语言模型 (LLM) 展现出惊人的推理、学习能力,AI 的成熟度也发生了具体大飞跃。

图片

以 ChatGPT 与 Warfare 为例的 AI 能力对比

如上图以 ChatGPT 与 Warfare 为例的 AI 能力对比,我们可以简单判断 AI 是否在成熟度上能对我们有一定的帮助 (Good/Evil):

大致 AI 的成熟度可体现在以下三个方面:

1. 可重复性 - AI 的推理和学习能力已经成熟到能帮助人胜任一些可重复的事务,并提供自动化。

2. 复杂度 - AI 能帮助我们完成一些复杂逻辑的推理。

3. 无人值守 - AI 能在没有或较少人为干涉的情况下进行工作。

所以当前随着 AI 能力的飞跃,我们可以通过 AI 能力提供下一代 AI-Powered Observability&AIOps 能力。

参考:https://www.cncf.io/blog/2023/09/05/ai-for-kubernetes-good-or-evil/

ACK AI 助手为 K8s 提供 AI 增强的 AIOps

ACK AI 助手已经上线智能快速诊断、智能问答两大能力

基于 ACK 可观测体系的监控数据,并结合容器服务 ACK 团队专业的 Kubernetes 经验沉淀,通过大模型 (LLM) 的分析推理能力进行问题的根因定位,提供更智能的 Kubernetes 产品使用体验。

图片

目前提供主要的功能场景:

  • 智能快速诊断
    • 通过和 ACK 上观测体系的结合,自动快速获取异常信息状态。
    • 结合 ACK 团队专业的 Kubernetes 经验沉淀,提供容器场景的专家知识,进行异常诊断智能判断。
    • 结合大模型 (LLM) 的推理能力,对综合监控信息进行根因定位。
    • 自动串联从问题观测发现、问题根因诊断、AIOps 的异常问题处理,与 ACK 专家诊断系统结合,闭环运维流程。
  • 智能问答
    • 结合 ACK 团队专业的 Kubernetes 经验沉淀,提供容器场景的专家知识问答。
    • 结合大模型 (LLM) 的推理能力,对综合监控信息进行整合。

AIOps 的基础来自于 ACK 可观测体系的结合

图片

示例一个异常 Deployment 的异常诊断拓扑结构

ACK AI 助手在快速故障诊断的场景下,能通过 ACK 上的可观测体系自动获取 ACK 集群上的异常监控状态信息的同时,也能根据 Kubernetes 的部署结构,智能感知下钻寻找根因。

如上图示例,用户看到某 Deployment 发生异常,实际的观测诊断信息需要结合 Kubernetes 的拓扑结构,下钻诊断 Deployment 下的某个异常 Pod,且可能还需要结合该异常 Pod 的事件,判断是否下钻诊断该异常 Pod 所在的节点 Node 等,最终下钻找到根因。最终诊断信息为一个拓扑树形结构。

由多年专家经验训练而得的 LLM

ACK AI 助手也融入了阿里云容器服务 ACK 团队沉淀的 Kubernetes 的异常诊断、故障恢复的经验。

如下是在 ACK 中一个 Pod 异常的专家系统故障诊断流程示例:

图片

示例一个 Pod 异常的专家系统故障诊断流程

ACK AI 助手在实际故障诊断的过程中,会把故障诊断大体上拆分成几个阶段:

  1. ACK AI 助手会根据可观测信息、拆分下钻问题并获取更多信息,从而浅析故障原因。

  2. ACK AI 助手会把浅析的结论,结合 ACK 已有的专业故障诊断系统(专家系统)的经验沉淀,得到更准确的诊断结论。

参考:https://help.aliyun.com/zh/ack/ack-managed-and-ack-dedicated/user-guide/pod-troubleshooting-1

典型使用场景一:智能快速诊断

图片

如上图所示,是一个典型的 Pod 因为 Node Affinity(节点亲和性)配置,导致 Pod 无法被调度的场景。

ACK AI 助手可以通过在 ACK 控制台对应 Deployment/Pod 页面的异常状态附近找到“智能诊断”按钮,直接唤醒并发起 ACK AI 助手的快速诊断。

可以看到 ACK AI 助手会贴心的解释此异常的原因,以及给出修复建议。

如果 Deployment 的异常还是无法最终定位,ACK AI 助手也会在底部给出接下来您还可以直接对异常的 Pod 发起专家系统的故障诊断,从而给出更进一步的排查诊断结果。

目前 ACK AI 助手提供了 Deployment、Pod、Event、Node 的主要 Kubernetes 实体的智能诊断功能,您可以在发生异常时在 ACK 控制台对应页面找到“智能诊断”按钮。

典型使用场景二:智能问答

图片

如上图所示,ACK AI 助手的智能问答功能,可以在 ACK 控制台右下角的 icon 图标唤醒。您可以随时向他提问,咨询关于 Kubernetes 和 ACK 产品的相关问题。

帮助您快速了解容器领域的专家知识,有效降低用户的学习成本。

如何开启 ACK AI 助手?

ACK AI 助手的智能问答功能,可以在 ACK 控制台右下角的 icon 图标唤醒。

ACK AI 助手可以通过在 ACK 控制台对应节点列表、Deployment、Pod、Pod 事件页面的异常状态附近找到“智能诊断”按钮,直接唤醒并发起 ACK AI 助手的快速诊断。

ACK AI 助手,自阿里云容器服务团队在 2023 年云栖大会上宣发以来,作为国内首家推出云原生容器场景的原生 AI 产品功能,目前已发布 beta 版并全面对客户开放,欢迎各位用户开始试用。

我们诚邀您点击阅读原文,登录容器服务 ACK 控制台体验 ACK AI 助手能力,并加入钉钉群交流反馈您的使用体验。(钉钉群号:70080006301

这篇关于期待已久!阿里云容器服务 ACK AI 助手正式上线的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/638750

相关文章

使用Node.js制作图片上传服务的详细教程

《使用Node.js制作图片上传服务的详细教程》在现代Web应用开发中,图片上传是一项常见且重要的功能,借助Node.js强大的生态系统,我们可以轻松搭建高效的图片上传服务,本文将深入探讨如何使用No... 目录准备工作搭建 Express 服务器配置 multer 进行图片上传处理图片上传请求完整代码示例

Spring LDAP目录服务的使用示例

《SpringLDAP目录服务的使用示例》本文主要介绍了SpringLDAP目录服务的使用示例... 目录引言一、Spring LDAP基础二、LdapTemplate详解三、LDAP对象映射四、基本LDAP操作4.1 查询操作4.2 添加操作4.3 修改操作4.4 删除操作五、认证与授权六、高级特性与最佳

如何高效移除C++关联容器中的元素

《如何高效移除C++关联容器中的元素》关联容器和顺序容器有着很大不同,关联容器中的元素是按照关键字来保存和访问的,而顺序容器中的元素是按它们在容器中的位置来顺序保存和访问的,本文介绍了如何高效移除C+... 目录一、简介二、移除给定位置的元素三、移除与特定键值等价的元素四、移除满足特android定条件的元

如何将Tomcat容器替换为Jetty容器

《如何将Tomcat容器替换为Jetty容器》:本文主要介绍如何将Tomcat容器替换为Jetty容器问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录Tomcat容器替换为Jetty容器修改Maven依赖配置文件调整(可选)重新构建和运行总结Tomcat容器替

基于Flask框架添加多个AI模型的API并进行交互

《基于Flask框架添加多个AI模型的API并进行交互》:本文主要介绍如何基于Flask框架开发AI模型API管理系统,允许用户添加、删除不同AI模型的API密钥,感兴趣的可以了解下... 目录1. 概述2. 后端代码说明2.1 依赖库导入2.2 应用初始化2.3 API 存储字典2.4 路由函数2.5 应

Linux上设置Ollama服务配置(常用环境变量)

《Linux上设置Ollama服务配置(常用环境变量)》本文主要介绍了Linux上设置Ollama服务配置(常用环境变量),Ollama提供了多种环境变量供配置,如调试模式、模型目录等,下面就来介绍一... 目录在 linux 上设置环境变量配置 OllamPOgxSRJfa手动安装安装特定版本查看日志在

SpringCloud之LoadBalancer负载均衡服务调用过程

《SpringCloud之LoadBalancer负载均衡服务调用过程》:本文主要介绍SpringCloud之LoadBalancer负载均衡服务调用过程,具有很好的参考价值,希望对大家有所帮助,... 目录前言一、LoadBalancer是什么?二、使用步骤1、启动consul2、客户端加入依赖3、以服务

C++从序列容器中删除元素的四种方法

《C++从序列容器中删除元素的四种方法》删除元素的方法在序列容器和关联容器之间是非常不同的,在序列容器中,vector和string是最常用的,但这里也会介绍deque和list以供全面了解,尽管在一... 目录一、简介二、移除给定位置的元素三、移除与某个值相等的元素3.1、序列容器vector、deque

C++常见容器获取头元素的方法大全

《C++常见容器获取头元素的方法大全》在C++编程中,容器是存储和管理数据集合的重要工具,不同的容器提供了不同的接口来访问和操作其中的元素,获取容器的头元素(即第一个元素)是常见的操作之一,本文将详细... 目录一、std::vector二、std::list三、std::deque四、std::forwa

Spring AI ectorStore的使用流程

《SpringAIectorStore的使用流程》SpringAI中的VectorStore是一种用于存储和检索高维向量数据的数据库或存储解决方案,它在AI应用中发挥着至关重要的作用,本文给大家介... 目录一、VectorStore的基本概念二、VectorStore的核心接口三、VectorStore的