Zilliz X Dify.AI ,快速打造知识库 AI 应用

2023-10-12 19:20

本文主要是介绍Zilliz X Dify.AI ,快速打造知识库 AI 应用,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Zilliz 大模型生态矩阵再迎新伙伴!近日,Zilliz 和 Dify.AI 达成合作,Zilliz 旗下的产品 Zilliz Cloud、Milvus 与开源 LLMOps 平台 Dify 社区版进行了深度集成。

01.Zilliz Cloud v.s. Dify

Dify 作为开源的 LLMs App 技术栈,在此前已支持丰富多元的大型语言模型的接入,除了 OpenAI、Anthropic、Azure OpenAI、Hugging face、Replicate 等全球顶尖模型及模型托管平台,也完成了国内主流的各大模型支持(如文心一言、智谱 AI 等)。

而 Zilliz Cloud 和 Milvus 则是向量数据库的领先代表。

其中,Milvus 是全球最受欢迎、迭代最快、架构最成熟的开源向量数据库,拥有庞大的开发者社区,开源 4 年来下载量已超 600 万次,得到了来自全球数千家企业用户的信赖。

Zilliz Cloud 是基于 Milvus ,并由原厂打造的全托管 SaaS 及 PaaS 向量数据库服务产品,提供深度优化、开箱即用的向量数据库体验。使用 Zilliz Cloud 可以轻松构建十亿级向量数据库,部署和扩展向量搜索服务。由全球顶尖的向量数据库团队 Zilliz 提供运维、优化、及综合支持。目前,Zilliz Cloud 已在全球上线,覆盖 AWS、GCP、Azure、阿里云、百度云等。

alt

在顶级云原生向量数据库与 LLMs APP 技术栈的双重加持下,用户不仅可以轻松提升 AI 应用的开发效率,同时还能解锁更多向量数据库的应用场景。

02.快速打造知识库 AI 应用

具备知识库的 AI Chatbot 已然是当下基于大模型技术实现及应用最多的情景,接下来,我们将以制作一个具备 Dify 产品及团队知识背景的 AI 应用为例,为大家介绍如何从零开始,用 3 步搭建一个具备企业知识库的 AI 应用。

平台注册

在本次实操演示中,我们采用 Dify.AI 社区版进行部署,以接入 Zilliz Cloud 为例。第一步,需要前往 Zilliz(https://cloud.zilliz.com.cn/signup)注册,并创建 Zilliz Cloud 的集群。

alt
alt

修改 Dify 的环境配置

在 GitHub(https://github.com/langgenius/dify) 下载 Dify 镜像文件(https://github.com/langgenius/dify),将 docker-compose.yaml 文件中的 api 和 worker 服务的 Environment 中 Zilliz Cloud 的相关配置改为您的正确配置(如下),并保存。

VECTOR_STORE: milvus
MILVUS_HOST: https://in01-dd41b30632904e4.ali-cn-hangzhou.vectordb.zilliz.com.cn:19530
MILVUS_PORT: 19539
MILVUS_USER: db_admin
MILVUS_PASSWORD: (注册时的密码)
MILVUS_SECURE: True

(注:Zilliz Cloud 和 Milvus 接口兼容,MILVUS_HOST、MILVUS_PORT 后面既可以填 Milvus 的 host、port,也可以填 Zilliz Cloud 的 host、port。)

更详细的 Dify 的本地部署文档可参考:https://docs.dify.ai/v/zh-hans/getting-started/install-self-hosted/docker-compose

执行:docker-compose -f docker-compose.yaml up -d用以启动 Dify 基础服务组件。

alt

创建带有知识库的 AI 应用

浏览器输入 http://127.0.0.1/:80 ,注册登录。

alt

创建数据集,这里示例上传了【Dify 团队介绍】作为知识库数据。

alt
alt

配置应用,撰写相关 Prompt,在上下文处选取上传的数据集,选择模型(这里我们选择智谱模型 ChatGLM)发布。

alt

至此,一个具备 Dify 产品和团队知识的 AI 应用就已经创建完成。

alt

03.携手发起 AGI 黑客松,解锁行业更多可能

不止如此,双方在深度合作的基础上,还联合极客公园 Founder Park、智谱 AI 等,共同发起 AGI Playground Hackathon,旨在重新思考 AI Native 时代下的应用和服务,解决共同的行业发展问题。届时,Dify 将为参赛者提供接入了智谱 AI 模型与 Zilliz Cloud 的预置环境,大大提升开发效率和应用的价值,让参赛者可以有更多精力关注产品创意。

截至目前,AGI Playground Hackathon 的 37 支参赛队伍已集结完毕,将于 10 月 13 日 - 15 日 在北京开启为期 3 天的 AGI 黑客松。48 小时创新开发后,他们将带着创新项目登上路演舞台。

10 月 15 日(本周日) 9:15 - 18:30,我们将在线上同步直播 Demo day。打开 Zilliz 公众号预约直播,看 AGI 创新应用,为参赛队伍加油打气!

此外,本次大赛的创新激励包再次升级!届时,9 支「优胜项目」团队(由助力嘉宾选出)+ 1 支「全场最具创意项目」团队(由全场公投选出),将共同分享 10 万元现金奖励。奖金分配规则将在现场公布,根据 3 个赛道的实际参与队伍数量按比例调整。

除现金奖励外,9 支「优胜项目」团队还有机会获得:

  • 由智谱 AI 提供的 GLM Pro 代金券

  • 由 Zilliz 提供的产品代金券及专属购买优惠

  • 由 Founder Park 提供的优质品牌曝光资源及创新辅导

  • 入选亚马逊云科技云创计划,最高可获价值 17.5 万元云资源

  • 由声网超音速提供的创业咨询辅导、声网超音速计划创业伙伴绿色通道以及价值 10 万元的 AI x RTE 特别资源包等

  • 由 Hugging Face 提供的 Hugging Face Space credits

  • 由知潜提供的人才招聘服务代金券

    ……

AGI 时代已至,Zilliz 与 Dify的结合为 AI 应用开发带来了更多可能性,双方在未来也将继续深入合作,挖掘 AI 创新应用的更多潜能。

当然,Zilliz 作为向量数据库赛道的佼佼者,一方面仍将坚持在领域内深耕,不断进行技术迭代;另一方面,Zilliz 也期待更多合作伙伴的加入,携手探索 AGI 的未来,推动 AI 技术向着更广阔的应用领域发展。

本文由 mdnice 多平台发布

这篇关于Zilliz X Dify.AI ,快速打造知识库 AI 应用的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/197925

相关文章

揭秘未来艺术:AI绘画工具全面介绍

📑前言 随着科技的飞速发展,人工智能(AI)已经逐渐渗透到我们生活的方方面面。在艺术创作领域,AI技术同样展现出了其独特的魅力。今天,我们就来一起探索这个神秘而引人入胜的领域,深入了解AI绘画工具的奥秘及其为艺术创作带来的革命性变革。 一、AI绘画工具的崛起 1.1 颠覆传统绘画模式 在过去,绘画是艺术家们通过手中的画笔,蘸取颜料,在画布上自由挥洒的创造性过程。然而,随着AI绘画工

乐鑫 Matter 技术体验日|快速落地 Matter 产品,引领智能家居生态新发展

随着 Matter 协议的推广和普及,智能家居行业正迎来新的发展机遇,众多厂商纷纷投身于 Matter 产品的研发与验证。然而,开发者普遍面临技术门槛高、认证流程繁琐、生产管理复杂等诸多挑战。  乐鑫信息科技 (688018.SH) 凭借深厚的研发实力与行业洞察力,推出了全面的 Matter 解决方案,包含基于乐鑫 SoC 的 Matter 硬件平台、基于开源 ESP-Matter SDK 的一

一份LLM资源清单围观技术大佬的日常;手把手教你在美国搭建「百万卡」AI数据中心;为啥大模型做不好简单的数学计算? | ShowMeAI日报

👀日报&周刊合集 | 🎡ShowMeAI官网 | 🧡 点赞关注评论拜托啦! 1. 为啥大模型做不好简单的数学计算?从大模型高考数学成绩不及格说起 司南评测体系 OpenCompass 选取 7 个大模型 (6 个开源模型+ GPT-4o),组织参与了 2024 年高考「新课标I卷」的语文、数学、英语考试,然后由经验丰富的判卷老师评判得分。 结果如上图所

AI儿童绘本创作

之前分享过AI儿童绘画的项目,但是主要问题是角色一致要花费很长的时间! 今天发现了这款,非常奈斯! 只需输入故事主题、风格、模板,软件就会自动创作故事内容,自动生成插画配图,自动根据模板生成成品,测试效果如下图。 变现方式:生成儿童绘本发布到各平台,吸引宝妈群体进私域。  百度网盘 请输入提取码百度网盘为您提供文件的网络备份、同步和分享服务。空间大、速度快、安全

亮相WOT全球技术创新大会,揭秘火山引擎边缘容器技术在泛CDN场景的应用与实践

2024年6月21日-22日,51CTO“WOT全球技术创新大会2024”在北京举办。火山引擎边缘计算架构师李志明受邀参与,以“边缘容器技术在泛CDN场景的应用和实践”为主题,与多位行业资深专家,共同探讨泛CDN行业技术架构以及云原生与边缘计算的发展和展望。 火山引擎边缘计算架构师李志明表示:为更好地解决传统泛CDN类业务运行中的问题,火山引擎边缘容器团队参考行业做法,结合实践经验,打造火山

自制的浏览器主页,可以是最简单的桌面应用,可以把它当成备忘录桌面应用

自制的浏览器主页,可以是最简单的桌面应用,可以把它当成备忘录桌面应用。如果你看不懂,请留言。 完整代码: <!DOCTYPE html><html lang="zh-CN"><head><meta charset="UTF-8"><meta name="viewport" content="width=device-width, initial-scale=1.0"><ti

Python应用开发——30天学习Streamlit Python包进行APP的构建(9)

st.area_chart 显示区域图。 这是围绕 st.altair_chart 的语法糖。主要区别在于该命令使用数据自身的列和指数来计算图表的 Altair 规格。因此,在许多 "只需绘制此图 "的情况下,该命令更易于使用,但可定制性较差。 如果 st.area_chart 无法正确猜测数据规格,请尝试使用 st.altair_chart 指定所需的图表。 Function signa

人工和AI大语言模型成本对比 ai语音模型

这里既有AI,又有生活大道理,无数渺小的思考填满了一生。 上一专题搭建了一套GMM-HMM系统,来识别连续0123456789的英文语音。 但若不是仅针对数字,而是所有普通词汇,可能达到十几万个词,解码过程将非常复杂,识别结果组合太多,识别结果不会理想。因此只有声学模型是完全不够的,需要引入语言模型来约束识别结果。让“今天天气很好”的概率高于“今天天汽很好”的概率,得到声学模型概率高,又符合表达

智能客服到个人助理,国内AI大模型如何改变我们的生活?

引言 随着人工智能(AI)技术的高速发展,AI大模型越来越多地出现在我们的日常生活和工作中。国内的AI大模型在过去几年里取得了显著的进展,不少独创的技术点和实际应用令人瞩目。 那么,国内的AI大模型有哪些独创的技术点?它们在实际应用中又有哪些出色表现呢?此外,普通人又该如何利用这些大模型提升工作和生活的质量和效率呢?本文将为你一一解析。 一、国内AI大模型的独创技术点 多模态学习 多

【新闻】AI程序员要来了吗?阿里云官宣

内容提要 6 月 21 日,在阿里云上海 AI 峰会上,阿里云宣布推出首个AI 程序员。 据介绍,这个AI程序员具备架构师、开发工程师、测试工程师等多种岗位的技能,能一站式自主完成任务分解、代码编写、测试、问题修复、代码提交整个过程,最快分钟级即可完成应用开发,大幅提升研发效率。 近段时间以来,有关AI的实践应用突破不断,全球开发者加速研发步伐。有业内人士坦言,随着大模型性能逐渐提升,AI应