【大模型API调用初尝试一】智谱AI 通义千问

2024-03-13 19:28
文章标签 ai 模型 尝试 调用 api 通义 千问 智谱

本文主要是介绍【大模型API调用初尝试一】智谱AI 通义千问，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

大模型API调用初尝试一

  • 调用大模型API能干什么
  • 智谱AI大模型API调用的过程
    • 获取API_KEY
    • GLM_4同步调用
    • GLM_4异步调用
    • 文生图大模型API调用
  • 阿里云通义千问API调用过程
    • 单轮会话
    • 多轮会话

调用大模型API能干什么

大模型的参数非常庞大，功能非常强大，但是训练成本高昂，因此个人或者小企业自己去训练一个大模型是不可能的。我们可以通过直接调用大模型的API，将大模型集成到自己的应用中。 大模型的API就是一个接口，类似MaaS，用户通过调用API访问大模型，获得大模型针对用户prompt（问题）的输出，一般输出是json格式的，然后我们利用这个输出进行后续的操作。
但是大模型是一个已经训练好的模型，类似一个封装好的盒子，其能够运用的知识是有限的，比如chatgpt的知识截至2021年9月，让它提供实时的天气预报是不可行的，因此现在的大模型API中还增加了外部API/函数的调用功能，大模型能够根据用户的prompt确定要去调用的外部API/function–>调用外部API/function并获得结果–>大模型整合结果再输出，如下图所示：
在这里插入图片描述

我们可以参考某一个大模型对应的官方文档，学习如何调用其API。

智谱AI大模型API调用的过程

智谱AI是清华大学计算机系技术成果转化而来的公司，公司产品包括：中英双语千亿级超大规模预训练模型GLM-130B，并基于此推出对话模型ChatGLM；高效率代码模型CodeGeeX；多模态理解模型CogVLM和文生图模型CogView等。

获取API_KEY

调用API首先需要获取API，每个用户需要自己注册申请对应的API。进入智谱AI官网，注册后申请API，复制API_KEY以便后续调用：
在这里插入图片描述
现在打开API调用参考文档：通用大模型和图像大模型，直接复制其代码，看看输出是什么样的！

GLM_4同步调用

同步调用就是创建一个调用任务后，一直运行这个任务直到收到大模型的响应输出；对应的是异步调用，创建调用任务后获得这个任务的request-id，之后可以去干其他事情，后续通过这个任务ID查看模型的输出。

from zhipuai import ZhipuAI  # 先安装ZhipuAI的包 pip install ZhipuAI
client = ZhipuAI(api_key="xxxx") # 填写您自己的APIKey
response = client.chat.completions.create(model="glm-4",  # 填写需要调用的模型名称messages=[# messages是json格式的数据，大模型逐条响应{"role": "user", "content": "作为一名营销专家，请为我的产品创作一个吸引人的slogan"},{"role": "assistant", "content": "当然，为了创作一个吸引人的slogan，请告诉我一些关于您产品的信息"},{"role": "user", "content": "智谱AI开放平台"},{"role": "assistant", "content": "智启未来，谱绘无限一智谱AI，让创新触手可及!"},{"role": "user", "content": "创造一个更精准、吸引人的slogan"}],
)
# 直接输出response，查看响应的具体内容
print(response)

输出的完整json数据：
在这里插入图片描述
如果只关注最终输出的message的content，可以只取response.choices[0].message.content。

上面例子传入大模型的message列表里面，有user的信息，也有assistant的信息，大模型实际响应的只有user对应的content，但是assistant的内容可以为大模型提供一些上下文或者提示。

message只传入用户的输入，并多次问答的例子如下：

from zhipuai import ZhipuAIclient = ZhipuAI(api_key="xxxxxx") # 填写您自己的APIKey
# 循环提问/对话
while True:# 接收用户输入作为问题prompt = input("\nuser:")response = client.chat.completions.create(model="glm-4",  # 填写需要调用的模型名称messages=[{"role": "user", "content": prompt}],)answer = response.choices[0].message.contentprint("\nZhipuAI:",answer) # 只输出大模型响应的message.context

结果：
在这里插入图片描述
上述例子虽然user能够无限次的与大模型进行对话（交互），但由于message中只有用户单次的问题，没有保存上下文的信息，因此如果前后问题有衔接，这样的方式是不行的。应该使用多轮对话，将每轮对话的问答保存在message中，传给大模型为其提供对话的上下文。

GLM_4异步调用

参考官方文档，异步调用获取结果包括两步：①获取模型的响应ID，②根据ID查询响应结果；

import time
from zhipuai import ZhipuAI
client = ZhipuAI(api_key="xxxxxx") # 请填写您自己的APIKeyresponse = client.chat.asyncCompletions.create(model="glm-4",  # 填写需要调用的模型名称messages=[{"role": "user","content": "请你作为童话故事大王，写一篇短篇童话故事，故事的主题是要永远保持一颗善良的心，要能够激发儿童的学习兴趣和想象力，同时也能够帮助儿童更好地理解和接受故事中所蕴含的道理和价值观。"}],
)
# 获取响应ID
task_id = response.id
task_status = ''
get_cnt = 0while task_status != 'SUCCESS' and task_status != 'FAILED' and get_cnt <= 40:# 查询响应结果result_response = client.chat.asyncCompletions.retrieve_completion_result(id=task_id)print(result_response)task_status = result_response.task_statustime.sleep(2)get_cnt += 1

运行输出如下：
在这里插入图片描述
可以看到在得到大模型的响应输出前，状态一直是processing；知道大模型响应。

文生图大模型API调用

Cogview是文生图的大模型，直接复制的官方文档的代码：

from zhipuai import ZhipuAI
client = ZhipuAI(api_key="xxxxx") # 请填写您自己的APIKeyresponse = client.images.generations(model="cogview-3", #填写需要调用的模型名称prompt="一只可爱的小猫咪",
)
print(response.data[0].url)

结果（0.25一张照片呜呜呜呜呜呜呜）返回图片url：https://sfile.chatglm.cn/testpath/b158178b-e00c-5ea0-92bb-f2962922b877_0.png 👇：
在这里插入图片描述

阿里云通义千问API调用过程

通义千问是阿里云开发的基于QWen模型的聊天模型，QWen模型是开源的。调用API同样需要先获取API_KEY——首先注册阿里云的账号，然后进入灵积平台创建API-KEY：
在这里插入图片描述
之后查看通义千问的官方API调用文档👉快速入门，会话可以分为单轮会话和多轮会话：

单轮会话

可以通过message和prompt两种方式调用API：

import random
from http import HTTPStatus # 通义千问API是通过HTTP调用的 
import dashscopedashscope.api_key = 'xxxxx' # 设置自己申请的API_KEY; 这个方式设置有泄露api的可能def call_with_messages():prompt = input("user:")messages = [{'role': 'system', 'content': 'You are a helpful assistant.'},{'role': 'user', 'content': prompt}]response = dashscope.Generation.call(dashscope.Generation.Models.qwen_turbo, # 选择模型messages=messages,# set the random seed, optional, default to 1234 if not setseed=random.randint(1, 10000),result_format='message',  # set the result to be "message" format.)# 之后HTTPStatus为OK时，才是调用成功if response.status_code == HTTPStatus.OK:print(response)else:print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (response.request_id, response.status_code,response.code, response.message))# For prerequisites running the following sample, visit https://help.aliyun.com/document_detail/611472.htmldef call_with_prompt():prompt = input("user:")response = dashscope.Generation.call(model=dashscope.Generation.Models.qwen_turbo, # 选择模型prompt=prompt)# The response status_code is HTTPStatus.OK indicate success,# otherwise indicate request is failed, you can get error code# and message from code and message.if response.status_code == HTTPStatus.OK:print(response.output)  # The output textprint(response.usage)  # The usage informationelse:print(response.code)  # The error code.print(response.message)  # The error message.if __name__ == '__main__':call_with_messages()print("\n")call_with_prompt()

两种方式的单轮会话输出如下：
在这里插入图片描述
这里需要注意通过message和prompt调用，这两种方式对应的输出Json格式是不同的。

多轮会话

通过messages调用API，每轮会话用户的问题（the content of user）和大模型的输出（content of assistant）会存储在messages这个列表中，之后的输出会参考前面的内容，体现了大模型的记忆性！（可以在体验中心，选择多轮会话，注意观察代码中messages的变化）：
在这里插入图片描述
观察对应的代码，每轮会话结束后，user的问题和模型的响应都会append在messages中：

在这里插入图片描述
可以用下面的代码调用API实现多轮会话：

from http import HTTPStatus
import dashscope
from dashscope import Generation
from dashscope.api_entities.dashscope_response import Roledashscope.api_key = 'xxxxx' # 设置API_KEYdef conversation_with_messages():messages = [{'role': Role.SYSTEM, 'content': 'You are a helpful assistant.'}  ]# 循环实现多轮会话while True:prompt = input("USER:")# 添加新一轮会话用户的问题messages.append({'role': Role.USER, 'content': prompt})response = Generation.call(Generation.Models.qwen_turbo, #选择响应的模型messages=messages,result_format='message',  # set the result to be "message" format.)if response.status_code == HTTPStatus.OK:print(response)# 把模型的输出添加到messages中messages.append({'role': response.output.choices[0]['message']['role'],'content': response.output.choices[0]['message']['content']})else:print('Request id: %s, Status code: %s, error code: %s, error message: %s' % (response.request_id, response.status_code,response.code, response.message))exit()if __name__ == '__main__':conversation_with_messages()

结果如下：
在这里插入图片描述

这篇关于【大模型API调用初尝试一】智谱AI 通义千问的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/805947。

相关文章

揭秘未来艺术：AI绘画工具全面介绍

揭秘未来艺术：AI绘画工具全面介绍

📑前言 随着科技的飞速发展，人工智能（AI）已经逐渐渗透到我们生活的方方面面。在艺术创作领域，AI技术同样展现出了其独特的魅力。今天，我们就来一起探索这个神秘而引人入胜的领域，深入了解AI绘画工具的奥秘及其为艺术创作带来的革命性变革。 一、AI绘画工具的崛起 1.1 颠覆传统绘画模式 在过去，绘画是艺术家们通过手中的画笔，蘸取颜料，在画布上自由挥洒的创造性过程。然而，随着AI绘画工
阅读更多...
一份LLM资源清单围观技术大佬的日常；手把手教你在美国搭建「百万卡」AI数据中心；为啥大模型做不好简单的数学计算？ | ShowMeAI日报

一份LLM资源清单围观技术大佬的日常；手把手教你在美国搭建「百万卡」AI数据中心；为啥大模型做不好简单的数学计算？ | ShowMeAI日报

👀日报&周刊合集 | 🎡ShowMeAI官网 | 🧡 点赞关注评论拜托啦！ 1. 为啥大模型做不好简单的数学计算？从大模型高考数学成绩不及格说起 司南评测体系 OpenCompass 选取 7 个大模型 (6 个开源模型+ GPT-4o)，组织参与了 2024 年高考「新课标I卷」的语文、数学、英语考试，然后由经验丰富的判卷老师评判得分。 结果如上图所
阅读更多...
AI儿童绘本创作

AI儿童绘本创作

之前分享过AI儿童绘画的项目，但是主要问题是角色一致要花费很长的时间！ 今天发现了这款，非常奈斯！ 只需输入故事主题、风格、模板，软件就会自动创作故事内容，自动生成插画配图，自动根据模板生成成品，测试效果如下图。 变现方式：生成儿童绘本发布到各平台，吸引宝妈群体进私域。  百度网盘 请输入提取码百度网盘为您提供文件的网络备份、同步和分享服务。空间大、速度快、安全
阅读更多...
大语言模型（LLMs）能够进行推理和规划吗？

大语言模型（LLMs）能够进行推理和规划吗？

大语言模型（LLMs），基本上是经过强化训练的 n-gram 模型，它们在网络规模的语言语料库（实际上，可以说是我们文明的知识库）上进行了训练，展现出了一种超乎预期的语言行为，引发了我们的广泛关注。从训练和操作的角度来看，LLMs 可以被认为是一种巨大的、非真实的记忆库，相当于为我们所有人提供了一个外部的系统 1（见图 1）。然而，它们表面上的多功能性让许多研究者好奇，这些模型是否也能在通常需要系
阅读更多...
通过高德api查询所有店铺地址信息

通过高德api查询所有店铺地址信息

通过高德api查询所有店铺地址电话信息 需求：通过高德api查询所有店铺地址信息需求分析具体实现1、申请高德appkey2、下载types city 字典值3、具体代码调用 需求：通过高德api查询所有店铺地址信息 需求分析 查询现有高德api发现现有接口关键字搜索API服务地址： https://developer.amap.com/api/webservice/gui
阅读更多...
DDei在线设计器-API-DDeiSheet

DDei在线设计器-API-DDeiSheet

DDeiSheet   DDeiSheet是代表一个页签，一个页签含有一个DDeiStage用于显示图形。   DDeiSheet实例包含了一个页签的所有数据，在获取后可以通过它访问其他内容。DDeiFile中的sheets属性记录了当前文件的页签列表。   一个DDeiFile实例至少包含一个DDeiSheet实例。   本篇最后提供的示例可以在DDei文档直接预览 属性 属性名说明数
阅读更多...
人工和AI大语言模型成本对比 ai语音模型

人工和AI大语言模型成本对比 ai语音模型

这里既有AI，又有生活大道理，无数渺小的思考填满了一生。 上一专题搭建了一套GMM-HMM系统，来识别连续0123456789的英文语音。 但若不是仅针对数字，而是所有普通词汇，可能达到十几万个词，解码过程将非常复杂，识别结果组合太多，识别结果不会理想。因此只有声学模型是完全不够的，需要引入语言模型来约束识别结果。让“今天天气很好”的概率高于“今天天汽很好”的概率，得到声学模型概率高，又符合表达
阅读更多...
智能客服到个人助理，国内AI大模型如何改变我们的生活？

智能客服到个人助理，国内AI大模型如何改变我们的生活？

引言 随着人工智能（AI）技术的高速发展，AI大模型越来越多地出现在我们的日常生活和工作中。国内的AI大模型在过去几年里取得了显著的进展，不少独创的技术点和实际应用令人瞩目。 那么，国内的AI大模型有哪些独创的技术点？它们在实际应用中又有哪些出色表现呢？此外，普通人又该如何利用这些大模型提升工作和生活的质量和效率呢？本文将为你一一解析。 一、国内AI大模型的独创技术点 多模态学习 多
阅读更多...
API-环境对象

API-环境对象

学习目标： 掌握环境对象 学习内容： 环境对象作用 环境对象： 指的是函数内部特殊的变量this,它代表着当前函数运行时所处的环境。 作用： 弄清楚this的指向，可以让我们代码更简洁。 函数的调用方式不同，this指代的对象也不同。【谁调用，this就是谁】是判断this指向的粗略规则。直接调用函数，其实相当于是window.函数，所以this指代window。
阅读更多...
【新闻】AI程序员要来了吗？阿里云官宣

【新闻】AI程序员要来了吗？阿里云官宣

内容提要 6 月 21 日，在阿里云上海 AI 峰会上，阿里云宣布推出首个AI 程序员。 据介绍，这个AI程序员具备架构师、开发工程师、测试工程师等多种岗位的技能，能一站式自主完成任务分解、代码编写、测试、问题修复、代码提交整个过程，最快分钟级即可完成应用开发，大幅提升研发效率。 近段时间以来，有关AI的实践应用突破不断，全球开发者加速研发步伐。有业内人士坦言，随着大模型性能逐渐提升，AI应
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2