基于DashScope+Streamlit构建你的机器学习助手(入门级)

2024-08-29 11:28

本文主要是介绍基于DashScope+Streamlit构建你的机器学习助手(入门级),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

前言

在LLM(大语言模型)盛行的今天,博主越来越感觉到AI(人工智能)的潜力被“无限”激发了。它为什么会突然间完成“鱼跃龙门”呢? 博主认为基础设施(也可以称为算力)的完善和“天才”式的构思,是本次“盛宴”的幕后功臣。一个点子,可以改变一个领域,甚至重塑我们的工作习惯和生活方式。我想LLM作为AI新势力,有可能改变整个AI的生态。

今天,博主通过一个示例,带领各位亲自构建一个大模型应用。说起应用,我想各位应该能够理解了。比如一个聊天机器人、一个翻译助手,一个问答助手、又比如是一个创作助手等。那么本文就以一个简单的大模型为基础,构建一个属于你自己的机器学习助手。

首先来看这个小助手的“五脏六腑”是什么,跟着博主来一趟揭秘之旅吧。

一、DashScope入门

DashScope(模型服务灵积)是阿里推出的一款模型服务:

它通过围绕模型为中心,致力于为AI应用开发者提供品类丰富、数量众多的模型选择,并通过API接口为其提供开箱即用、能力卓越、成本经济的模型服务。各领域模型的能力均可通过DashScope统一的API和SDK来实现被不同业务系统集成,AI应用开发和模型效果调优的效率将因此得以激发,助力开发者释放灵感、创造价值。

一句话总结:这是一款模型框架,你可以通过它的API或SDK调用已内置的模型,创建自己的大模型应用。

博主曾经有一篇文章(基于Python的大模型学习手册(入门级))对DashScope SDK方式进行了介绍,可以参考它快速完成安装调试,这里不再赘述了。

接下来小助手需要一个face(门面),我们就选择Streamlit吧。

二、Streamlit入门

在这里插入图片描述

1. 简介

Streamlit is an open-source Python framework for data scientists and AI/ML engineers to deliver dynamic data apps with only a few lines of code.

一句话总结:Streamlit是一个开源的python框架,你通过几行代码就可以快速构建一个基于动态数据的应用,常用于数据科学和AI/ML工程领域。

2. 安装

pip3 install -i https://pypi.tuna.tsinghua.edu.cn/simple streamlit 

安装完成后,可在pycharm的terminal窗口,输入: streamlit hello,回车后,根据提示打开浏览器,访问默认demo:
在这里插入图片描述
打开页面如下,我们可以点击左侧导航,体验一番:
Hello
在这里插入图片描述
Animation_Demo
在这里插入图片描述
Plotting_Demo
在这里插入图片描述

至此,我们已备齐所有的必需工具,开始构建你的专属助手吧。

三、构建一个专属的问答助手

1. 设计前端

基于Streamlit组件,我们先简单设计一下前端的页面,一个输入框,一个提交按钮。效果如下:
在这里插入图片描述
核心代码:

    st.title('机器学习助手')with st.form('问答form'):text = st.text_area('请输入问题:')submitted = st.form_submit_button('提交')

2. 嵌入模型

博主选择阿里的通义千问大模型qwen-turbo,作为小助手的“知识引擎”。核心代码如下:

messages = [{'role': 'system', 'content': '你是一个优秀的机器学习专家'},{'role': 'user', 'content': input}]
responses = Generation.call(model="qwen-turbo",messages=messages,temperature=0.5,stream=True, # 支持流式输出incremental_output=True,# 设置为True,将开启增量输出模式,后面输出不会包含已经输出的内容result_format='message')

3. 流式输出

支持小助手像打字机一样,逐字输出,提高使用体验。当然前提是完成模型设置。输出的核心代码:

ans = st.empty()
full_content = ''
for response in responses:if response.status_code == HTTPStatus.OK:full_content += response.output.choices[0]['message']['content']ans.info(full_content)# yield full_contentelse:print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (response.request_id, response.status_code,response.code, response.message))

4. 部署运行

我们通过pycharm—Terminal窗口,只需输入 streamlit run [绝对路径]/xx.py,回车就能访问了,如下图所示:
在这里插入图片描述
在这里插入图片描述

5. 问答演示

在这里插入图片描述
至此,你轻松收获了一个属于你自己的大模型应用,一个简易版的机器学习问答助手。

6. 完整代码

import dashscope
from http import HTTPStatus
from dashscope import Generation
import streamlit as stdashscope.api_key = "你的dashscope api key"def call_with_messages(input):messages = [{'role': 'system', 'content': '你是一个优秀的机器学习专家'},{'role': 'user', 'content': input}]responses = Generation.call(model="qwen-turbo",messages=messages,temperature=0.5,stream=True, # 支持流式输出incremental_output=True,# 设置为True,将开启增量输出模式,后面输出不会包含已经输出的内容result_format='message')ans = st.empty()full_content = ''for response in responses:if response.status_code == HTTPStatus.OK:full_content += response.output.choices[0]['message']['content']ans.info(full_content)# yield full_contentelse:print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (response.request_id, response.status_code,response.code, response.message))if __name__ == '__main__':st.title('机器学习助手')with st.form('问答form'):text = st.text_area('请输入问题:')submitted = st.form_submit_button('提交')if submitted:# st.write_stream(call_with_messages(text))call_with_messages(text)

结语

通过DashScope+Streamlit组合,我们可以轻松create一个大模型应用。相信通过此文,你可以get人生第一个大模型之体验!

走过的,路过的,点点赞,收收藏哦,欢迎指导!


精彩回顾

基于LangChain的大模型学习手册(入门级)
基于Python的大模型学习手册(入门级)


在这里插入图片描述

这篇关于基于DashScope+Streamlit构建你的机器学习助手(入门级)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1117726

相关文章

一文详解如何从零构建Spring Boot Starter并实现整合

《一文详解如何从零构建SpringBootStarter并实现整合》SpringBoot是一个开源的Java基础框架,用于创建独立、生产级的基于Spring框架的应用程序,:本文主要介绍如何从... 目录一、Spring Boot Starter的核心价值二、Starter项目创建全流程2.1 项目初始化(

使用Java实现通用树形结构构建工具类

《使用Java实现通用树形结构构建工具类》这篇文章主要为大家详细介绍了如何使用Java实现通用树形结构构建工具类,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录完整代码一、设计思想与核心功能二、核心实现原理1. 数据结构准备阶段2. 循环依赖检测算法3. 树形结构构建4. 搜索子

使用Python和python-pptx构建Markdown到PowerPoint转换器

《使用Python和python-pptx构建Markdown到PowerPoint转换器》在这篇博客中,我们将深入分析一个使用Python开发的应用程序,该程序可以将Markdown文件转换为Pow... 目录引言应用概述代码结构与分析1. 类定义与初始化2. 事件处理3. Markdown 处理4. 转

Java进阶学习之如何开启远程调式

《Java进阶学习之如何开启远程调式》Java开发中的远程调试是一项至关重要的技能,特别是在处理生产环境的问题或者协作开发时,:本文主要介绍Java进阶学习之如何开启远程调式的相关资料,需要的朋友... 目录概述Java远程调试的开启与底层原理开启Java远程调试底层原理JVM参数总结&nbsMbKKXJx

Java使用Mail构建邮件功能的完整指南

《Java使用Mail构建邮件功能的完整指南》JavaMailAPI是一个功能强大的工具,它可以帮助开发者轻松实现邮件的发送与接收功能,本文将介绍如何使用JavaMail发送和接收邮件,希望对大家有所... 目录1、简述2、主要特点3、发送样例3.1 发送纯文本邮件3.2 发送 html 邮件3.3 发送带

Python结合Flask框架构建一个简易的远程控制系统

《Python结合Flask框架构建一个简易的远程控制系统》这篇文章主要为大家详细介绍了如何使用Python与Flask框架构建一个简易的远程控制系统,能够远程执行操作命令(如关机、重启、锁屏等),还... 目录1.概述2.功能使用系统命令执行实时屏幕监控3. BUG修复过程1. Authorization

Java深度学习库DJL实现Python的NumPy方式

《Java深度学习库DJL实现Python的NumPy方式》本文介绍了DJL库的背景和基本功能,包括NDArray的创建、数学运算、数据获取和设置等,同时,还展示了如何使用NDArray进行数据预处理... 目录1 NDArray 的背景介绍1.1 架构2 JavaDJL使用2.1 安装DJL2.2 基本操

nginx-rtmp-module构建流媒体直播服务器实战指南

《nginx-rtmp-module构建流媒体直播服务器实战指南》本文主要介绍了nginx-rtmp-module构建流媒体直播服务器实战指南,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有... 目录1. RTMP协议介绍与应用RTMP协议的原理RTMP协议的应用RTMP与现代流媒体技术的关系2

Python中构建终端应用界面利器Blessed模块的使用

《Python中构建终端应用界面利器Blessed模块的使用》Blessed库作为一个轻量级且功能强大的解决方案,开始在开发者中赢得口碑,今天,我们就一起来探索一下它是如何让终端UI开发变得轻松而高... 目录一、安装与配置:简单、快速、无障碍二、基本功能:从彩色文本到动态交互1. 显示基本内容2. 创建链

Golang使用etcd构建分布式锁的示例分享

《Golang使用etcd构建分布式锁的示例分享》在本教程中,我们将学习如何使用Go和etcd构建分布式锁系统,分布式锁系统对于管理对分布式系统中共享资源的并发访问至关重要,它有助于维护一致性,防止竞... 目录引言环境准备新建Go项目实现加锁和解锁功能测试分布式锁重构实现失败重试总结引言我们将使用Go作