本文主要是介绍基于DashScope+Streamlit构建你的机器学习助手(入门级),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
前言
在LLM(大语言模型
)盛行的今天,博主越来越感觉到AI(人工智能
)的潜力被“无限”
激发了。它为什么会突然间完成“鱼跃龙门”
呢? 博主认为基础设施(也可以称为算力)的完善和“天才”
式的构思,是本次“盛宴”
的幕后功臣。一个点子,可以改变一个领域,甚至重塑我们的工作习惯和生活方式。我想LLM作为AI新势力
,有可能改变整个AI的生态。
今天,博主通过一个示例,带领各位亲自构建一个大模型应用。说起应用,我想各位应该能够理解了。比如一个聊天机器人、一个翻译助手,一个问答助手、又比如是一个创作助手等。那么本文就以一个简单的大模型为基础,构建一个属于你自己的机器学习助手。
首先来看这个小助手的“五脏六腑”
是什么,跟着博主来一趟揭秘之旅吧。
一、DashScope入门
DashScope
(模型服务灵积)是阿里推出的一款模型服务:
它通过围绕
模型
为中心,致力于为AI应用开发者提供品类丰富、数量众多的模型选择,并通过API接口为其提供开箱即用、能力卓越、成本经济的模型服务。各领域模型的能力均可通过DashScope统一的API和SDK来实现被不同业务系统集成,AI应用开发和模型效果调优的效率将因此得以激发,助力开发者释放灵感、创造价值。
一句话总结
:这是一款模型框架,你可以通过它的API或SDK调用已内置的模型,创建自己的大模型应用。
博主曾经有一篇文章(基于Python的大模型学习手册(入门级))对DashScope SDK
方式进行了介绍,可以参考它快速完成安装调试,这里不再赘述了。
接下来小助手需要一个face
(门面),我们就选择Streamlit
吧。
二、Streamlit入门
1. 简介
Streamlit
is an open-source Python framework for data scientists and AI/ML engineers to deliver dynamic data apps with only a few lines of code.
一句话总结
:Streamlit是一个开源的python框架,你通过几行代码就可以快速构建一个基于动态数据的应用,常用于数据科学和AI/ML工程领域。
2. 安装
pip3 install -i https://pypi.tuna.tsinghua.edu.cn/simple streamlit
安装完成后,可在pycharm的terminal
窗口,输入: streamlit hello
,回车后,根据提示打开浏览器,访问默认demo:
打开页面如下,我们可以点击左侧导航,体验一番:
Hello:
Animation_Demo:
Plotting_Demo:
至此,我们已备齐所有的必需工具,开始构建你的专属助手吧。
三、构建一个专属的问答助手
1. 设计前端
基于Streamlit
组件,我们先简单设计一下前端的页面,一个输入框,一个提交按钮。效果如下:
核心代码:
st.title('机器学习助手')with st.form('问答form'):text = st.text_area('请输入问题:')submitted = st.form_submit_button('提交')
2. 嵌入模型
博主选择阿里的通义千问大模型qwen-turbo
,作为小助手的“知识引擎”
。核心代码如下:
messages = [{'role': 'system', 'content': '你是一个优秀的机器学习专家'},{'role': 'user', 'content': input}]
responses = Generation.call(model="qwen-turbo",messages=messages,temperature=0.5,stream=True, # 支持流式输出incremental_output=True,# 设置为True,将开启增量输出模式,后面输出不会包含已经输出的内容result_format='message')
3. 流式输出
支持小助手像打字机一样,逐字输出,提高使用体验。当然前提是完成模型设置。输出的核心代码:
ans = st.empty()
full_content = ''
for response in responses:if response.status_code == HTTPStatus.OK:full_content += response.output.choices[0]['message']['content']ans.info(full_content)# yield full_contentelse:print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (response.request_id, response.status_code,response.code, response.message))
4. 部署运行
我们通过pycharm—Terminal窗口,只需输入 streamlit run [绝对路径]/xx.py
,回车就能访问了,如下图所示:
5. 问答演示
至此,你轻松收获了一个属于你自己的大模型应用,一个简易版的机器学习问答助手。
6. 完整代码
import dashscope
from http import HTTPStatus
from dashscope import Generation
import streamlit as stdashscope.api_key = "你的dashscope api key"def call_with_messages(input):messages = [{'role': 'system', 'content': '你是一个优秀的机器学习专家'},{'role': 'user', 'content': input}]responses = Generation.call(model="qwen-turbo",messages=messages,temperature=0.5,stream=True, # 支持流式输出incremental_output=True,# 设置为True,将开启增量输出模式,后面输出不会包含已经输出的内容result_format='message')ans = st.empty()full_content = ''for response in responses:if response.status_code == HTTPStatus.OK:full_content += response.output.choices[0]['message']['content']ans.info(full_content)# yield full_contentelse:print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (response.request_id, response.status_code,response.code, response.message))if __name__ == '__main__':st.title('机器学习助手')with st.form('问答form'):text = st.text_area('请输入问题:')submitted = st.form_submit_button('提交')if submitted:# st.write_stream(call_with_messages(text))call_with_messages(text)
结语
通过DashScope+Streamlit组合,我们可以轻松create一个大模型应用。相信通过此文,你可以get人生第一个大模型之体验!
走过的,路过的,点点赞,收收藏哦,欢迎指导!
精彩回顾
基于LangChain的大模型学习手册(入门级)
基于Python的大模型学习手册(入门级)
这篇关于基于DashScope+Streamlit构建你的机器学习助手(入门级)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!