看了百度世界2023,千帆大模型平台绝对利好开发者!

2024-02-14 07:40

本文主要是介绍看了百度世界2023,千帆大模型平台绝对利好开发者!,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

云智一体,赢在大模型时代

  • ✨前言
  • ✨“云智一体”战略升级,为大模型落地五类需求提供最优解
  • ✨发布“千帆AI原生应用开发工作台”,加速企业AI原生应用落地
  • ✨检索增强生成RAG框架的强大之处
  • ✨流行的应用框架-智能体Agent
  • ✨沈抖对百度未来的展望

✨前言

10月17日,百度世界2023在北京首钢园召开。百度智能云在大会期间宣布:全面升级“云智一体”战略,面向客户落地大模型的五类需求提供全栈服务方案;面向AI原生应用开发,重磅发布“千帆AI原生应用开发工作台”,加速企业AI原生应用落地;发布国内首个AI原生应用商店,以及国内首个大模型全链路生态支持体系,赋能伙伴商业增长,共建、共享繁荣的大模型产业生态。

在这里插入图片描述

✨“云智一体”战略升级,为大模型落地五类需求提供最优解

自2020年起,百度智能云在业界率先提出“云智一体”战略,并在技术架构与服务等方面进行了多次迭代升级。本届百度世界大会,“云智一体”的战略内涵全面升级为“云智一体,深入产业,生态繁荣,AI普惠”
百度集团执行副总裁、百度智能云事业群总裁沈抖表示,人工智能与云计算的深度结合是企业快速落地AI原生应用的关键,这也是百度智能云始终倡导和践行的“云智一体”理念。目前,百度集团所有应用和服务全部基于”云智一体“技术架构运行在百度智能云上。此外,面向客户落地大模型的五类需求,百度智能云基于千帆大模型平台打造的“大模型超级工厂”分别给出了最佳服务方案。

在这里插入图片描述

✨发布“千帆AI原生应用开发工作台”,加速企业AI原生应用落地

为了满足企业敏捷、高效地进行AI原生应用开发与运维的需求,降低AI原生应用开发门槛,百度智能云重磅发布“千帆AI原生应用开发工作台”,将开发大模型应用的常见模式、工具、流程,沉淀成一个工作台,帮助开发者聚焦在自身业务,而无需为开发过程牵扯多余精力。具体来讲,千帆AI原生应用开发工作台主要由应用组件和应用框架两层服务构成。

应用组件服务由AI和基础云两大类组件构成,是对底层服务能力的组件化封装,让每个组件完成一段特定的功能性任务。“AI组件”中既包含诸如问答、思维链(CoT,Chain of Thought)等大语言模型组件,还包括文生图、语音识别等多模态组件。例如,用户可以使用问答组件完成问答场景中常用的总结摘要任务。而“基础云组件”则包含向量数据库、对象存储等传统云服务能力。

应用框架则是通过将上述这些组件有选择地串联、组合起来,让它们能够比较完整地完成一个特定场景的任务。目前,千帆平台上提供的检索增强生成(RAG)、智能体(Agent)、生成式商业智能(GBI)就是典型的AI原生应用框架。在每个框架下,百度智能云还提供丰富的样板间,支撑开发者敏捷、高效地进行AI原生应用开发。

在这里插入图片描述

✨检索增强生成RAG框架的强大之处

检索增强生成(RAG,Retrieval Augmented Generation)框架,可以更高效的利用企业专有领域内的知识,并在大模型的帮助下根据相关问题做出精确回答,是专业知识问答类AI原生应用的必备核心能力。

在这里插入图片描述

大会现场,百度智能云技术委员会联席主席、百度智能云应用产品中心总架构师孙珂,还进行了如何基于RAG框架,为三一重工快速开发知识问答应用的实操演示:只需在千帆AI原生应用工作台中选择预制的RAG框架,进行相应的参数配置等工作,就可以快速实现三一重工官网智能客服应用的开发与上线。

在这段演讲中,详细的讲解了如何使用RAG框架为三一重工快速开发知识问答应用的实操演示,我们需要导入的三一重工提供的挖掘机SY305H的操作保养文档有48页,2w多字,里面有非常多的参数和细节,如果让一个员工去掌握这些内容并回答用户提出的问题,还是很有难度的,而交给RAG框架就会很容易,我们只需要创建一个知识库并导入文档数据,使用RAG原理,分割文档成小片段并构建向量数据库,配置应用管理知识库,生成代码并集成到三一重工官网,就会生成在线智能客服。

当我们去问在线智能客服关于SY305H应该用什么样的冷却液时,它却能在长达2w字的文档里快速检索并且回复的内容简洁,具有逻辑性。显然,当我们问其他问题时,智能客服也能准确回复。但我们可能会有疑虑,像这样强大的千帆AI原生应用工作台开销成本会很高吧,但沈抖却表示,搭建这样一个智能客服,即使需要处理几千篇万字长文档,成本也只需要几百块钱;而之后客户每一次咨询,成本仅需几分钱!!!

✨流行的应用框架-智能体Agent

智能体(Agent)作为当前业界流行的应用框架,可以对人类给定的任务进行自动拆解,自动规划并调用各种组件协同完成任务,同时根据任务完成效果得到反馈,改进自身能力。目前,Agent框架已经在工业、交通等领域得到了广泛应用。

中天钢铁基于千帆AI原生应用开发工作台提供的Agent框架打造了智能化的“企业调度中枢”,实现了任务指令的自动感知、分解与执行。比如,在发现钢铁产量不达标时,用户只需提问一次,大模型就可以自动调用平台纳管的各种资源和API,完成BI取数、第三方根因分析等工作,找到未达标原因并及时调整排产计划并发送邮件通知调度人员。
在这里插入图片描述

✨沈抖对百度未来的展望

沈抖在演讲中表示,“大模型时代风起云涌,有人争着弄潮,有人忙于逐浪,而我们致力于造一艘坚实的大船,用更高效的算力基础设施、更好用的一站式大模型平台、更丰富的行业解决方案和百花齐放的AI原生应用,与各位客户、伙伴一起在大模型商业化的征途中乘风破浪、赢未来!”

在这里插入图片描述

这篇关于看了百度世界2023,千帆大模型平台绝对利好开发者!的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:https://blog.csdn.net/xqe777/article/details/133911946
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/707896

相关文章

浅析Python中的绝对导入与相对导入

《浅析Python中的绝对导入与相对导入》这篇文章主要为大家详细介绍了Python中的绝对导入与相对导入的相关知识,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录1 Imports快速介绍2 import语句的语法2.1 基本使用2.2 导入声明的样式3 绝对import和相对i

C#集成DeepSeek模型实现AI私有化的流程步骤(本地部署与API调用教程)

《C#集成DeepSeek模型实现AI私有化的流程步骤(本地部署与API调用教程)》本文主要介绍了C#集成DeepSeek模型实现AI私有化的方法,包括搭建基础环境,如安装Ollama和下载DeepS... 目录前言搭建基础环境1、安装 Ollama2、下载 DeepSeek R1 模型客户端 ChatBo

SpringBoot快速接入OpenAI大模型的方法(JDK8)

《SpringBoot快速接入OpenAI大模型的方法(JDK8)》本文介绍了如何使用AI4J快速接入OpenAI大模型,并展示了如何实现流式与非流式的输出,以及对函数调用的使用,AI4J支持JDK8... 目录使用AI4J快速接入OpenAI大模型介绍AI4J-github快速使用创建SpringBoot

0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型的操作流程

《0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeekR1模型的操作流程》DeepSeekR1模型凭借其强大的自然语言处理能力,在未来具有广阔的应用前景,有望在多个领域发... 目录0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型,3步搞定一个应

Deepseek R1模型本地化部署+API接口调用详细教程(释放AI生产力)

《DeepseekR1模型本地化部署+API接口调用详细教程(释放AI生产力)》本文介绍了本地部署DeepSeekR1模型和通过API调用将其集成到VSCode中的过程,作者详细步骤展示了如何下载和... 目录前言一、deepseek R1模型与chatGPT o1系列模型对比二、本地部署步骤1.安装oll

Spring AI Alibaba接入大模型时的依赖问题小结

《SpringAIAlibaba接入大模型时的依赖问题小结》文章介绍了如何在pom.xml文件中配置SpringAIAlibaba依赖,并提供了一个示例pom.xml文件,同时,建议将Maven仓... 目录(一)pom.XML文件:(二)application.yml配置文件(一)pom.xml文件:首

如何在本地部署 DeepSeek Janus Pro 文生图大模型

《如何在本地部署DeepSeekJanusPro文生图大模型》DeepSeekJanusPro模型在本地成功部署,支持图片理解和文生图功能,通过Gradio界面进行交互,展示了其强大的多模态处... 目录什么是 Janus Pro1. 安装 conda2. 创建 python 虚拟环境3. 克隆 janus

本地私有化部署DeepSeek模型的详细教程

《本地私有化部署DeepSeek模型的详细教程》DeepSeek模型是一种强大的语言模型,本地私有化部署可以让用户在自己的环境中安全、高效地使用该模型,避免数据传输到外部带来的安全风险,同时也能根据自... 目录一、引言二、环境准备(一)硬件要求(二)软件要求(三)创建虚拟环境三、安装依赖库四、获取 Dee

DeepSeek模型本地部署的详细教程

《DeepSeek模型本地部署的详细教程》DeepSeek作为一款开源且性能强大的大语言模型,提供了灵活的本地部署方案,让用户能够在本地环境中高效运行模型,同时保护数据隐私,在本地成功部署DeepSe... 目录一、环境准备(一)硬件需求(二)软件依赖二、安装Ollama三、下载并部署DeepSeek模型选

Golang的CSP模型简介(最新推荐)

《Golang的CSP模型简介(最新推荐)》Golang采用了CSP(CommunicatingSequentialProcesses,通信顺序进程)并发模型,通过goroutine和channe... 目录前言一、介绍1. 什么是 CSP 模型2. Goroutine3. Channel4. Channe