AI大模型探索之路-实战篇7：Function Calling技术实战：自动生成函数

2024-05-26 07:44
文章标签 实战 ai 技术 函数 模型 生成 自动 探索 之路 function calling 实战篇

本文主要是介绍AI大模型探索之路-实战篇7：Function Calling技术实战：自动生成函数，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

系列篇章💥

AI大模型探索之路-实战篇4：深入DB-GPT数据应用开发框架调研
AI大模型探索之路-实战篇5：探索Open Interpreter开放代码解释器调研
AI大模型探索之路-实战篇6：掌握Function Calling的详细流程

目录

  • 系列篇章💥
  • 一、前言
  • 二、Function Calling函数封装
    • 1、定义客户端
    • 2、API调用测试
    • 3、定义函数
    • 4、定义参数数据格式
    • 5、定义一个标准的funcation call函数
    • 6、取出注释说明信息
    • 7、生成JSON Schema对象
    • 8、清理返回对象的特殊字符
    • 9、转换为JSON格式
    • 10、查看悟空函数信息
    • 11、调用API生成JSON格式函数信息
    • 12、输出原始函数对比
  • 三、定义自动输出function 参数的函数
    • 1、自动输出funcation的函数
    • 2、自动生成funcation函数调用测试
    • 3、定义参数数据
    • 4、调用API测试
    • 5、定义第二个函数
    • 6、两个函数生成测试
    • 7、两个工具函数一起调用API测试
  • 四、结语

一、前言

继前文对Function Calling操作流程的详细回顾之后，本文将进一步探讨OpenAI的Function Calling技术在实际应用中的表现。通过利用大型模型的强大能力自动生成function函数，我们旨在提升代码的通用性与扩展性。这一深入分析的核心目标是为智能数据分析平台的顺利部署打下坚实的技术基础。

这种基于人工智能的Function Calling技术探索是未来软件开发和维护领域的重要发展方向，它不仅能提高开发效率，还能大幅降低维护成本，提高软件的适应性和灵活性。通过本文的深入分析，我们希望为读者提供更全面的了解和应用视角，促进技术的进一步发展和应用。

二、Function Calling函数封装

在本章节中，我们将继续深入探索大模型自动生成function函数的全过程。此技术不仅体现了人工智能领域的前沿进展，还具有实际应用的重要可行性。我们将通过具体的步骤和实践案例，分析这一技术的具体工作原理及其在实际应用中的执行效果。
1）获取函数的注释说明
首先，为了有效利用大模型生成function函数，我们需要从已有的代码中获取目标函数的注释说明。这些注释将提供函数的目的、输入参数以及预期输出等关键信息。精确而详尽的注释是确保大模型能正确理解并生成符合需求的函数定义的前提。
2）将注释说明提供给大模型，由大模型生成相应的JSON Schema
获得注释后，我们将其提供给大模型。模型将根据这些注释自动生成一个对应的JSON Schema。这一步骤是自动化过程中的关键，因为它直接关系到最终生成的function函数是否能满足实际的业务需求。
3) 对大模型生成的JSON Schema进行检查和补充
虽然大模型能够根据注释生成JSON Schema，但手动检查和补充这一环节仍然不可或缺。我们需确保生成的JSON Schema与手工创建的完全一致，包括所有细节和特定条件。这一过程可能需要开发者与模型之间的多次迭代，直到达到最优的输出结果。

通过这一系列的步骤，我们将能够有效地利用大模型自动生成function函数，从而提升开发效率并减少人为错误。

1、定义客户端

import openai
import os
import numpy as np
import pandas as pd
import json
import io
from openai import OpenAI
#获取API KEY
openai.api_key = os.getenv("OPENAI_API_KEY")
#创建客户端
client = OpenAI(api_key=openai.api_key)

2、API调用测试

response = client.chat.completions.create(#model="gpt-4-0613",model="gpt-3.5-turbo",# 这里最好使用gpt4messages=[{"role": "user", "content": "什么是JSON Schema？"}]
)response.choices[0].message.content

输出：

'JSON Schema是一种用于描述和验证JSON数据结构的规范。它定义了数据的类型、格式、约束和关系，使得可以对JSON数据进行验证和验证。通过JSON Schema，开发人员可以确保数据的完整性、准确性和一致性，以及在不同应用程序和平台之间的数据交换的有效性。JSON Schema可以被用来验证输入数据、生成文档和测试数据等各种用途。'

3、定义函数

def sunwukong_function(data):"""孙悟空算法函数，该函数定义了数据集计算过程:param data: 必要参数，表示带入计算的数据表，用字符串进行表示:return：sunwukong_function函数计算后的结果，返回结果为表示为JSON格式的Dataframe类型对象"""data = io.StringIO(data)df_new = pd.read_csv(data, sep='\s+', index_col=0)res = df_new * 10return json.dumps(res.to_string())

4、定义参数数据格式

# 创建一个DataFrame
df = pd.DataFrame({'x1':[1, 2], 'x2':[3, 4]})df_str = df.to_string()data = io.StringIO(df_str)df_new = pd.read_csv(data, sep='\s+', index_col=0)

5、定义一个标准的funcation call函数

# 定义工具函数
sunwukong={"type": "function","function": {"name": "sunwukong_function","description": "用于执行孙悟空算法函数，定义了一种特殊的数据集计算过程","parameters": {"type": "object","properties": {"data": {"type": "string","description": "执行孙悟空算法的数据集"},},"required": ["data"],},}}#将函数放入工具列表       
tools = [sunwukong]#定义工具函数字典
available_tools =  {"sunwukong_function": sunwukong_function,
}

6、取出注释说明信息

import inspect
# 取出注释信息
print(inspect.getdoc(sunwukong_function))

输出：

孙悟空算法函数，该函数定义了数据集计算过程
:param data: 必要参数，表示带入计算的数据表，用字符串进行表示
:return：sunwukong_function函数计算后的结果，返回结果为表示为JSON格式的Dataframe类型对象

7、生成JSON Schema对象

取出注释信息，调用大模型API生成JSON Schema对象

function_description = inspect.getdoc(sunwukong_function)
response = client.chat.completions.create(model="gpt-3.5-turbo",messages=[{"role": "system", "content": "以下是孙悟空函数的函数说明：%s" % function_description},{"role": "user", "content": "请帮我编写一个JSON Schema对象，用于说明孙悟空函数的参数输入规范。输出结果要求是JSON Schema格式的JONS类型对象，不需要任何前后修饰语句。"}]
)
# 使用gpt3.5发现有时候生成正确，但是有时候生成的json信息还是有些缺少，gpt.4会更稳定
response.choices[0].message.content

输出：
在这里插入图片描述

8、清理返回对象的特殊字符

# 将变量 response.choices[0].message.content 中的字符串中的 "" 和 "json" 替换为空字符串
r=response.choices[0].message.content.replace("```","").replace("json","")

9、转换为JSON格式

json.loads(r)

输出：

{'type': 'object','required': ['data'],'properties': {'data': {'type': 'string','description': 'Represents the data table to be calculated'}}}

10、查看悟空函数信息

# 打印悟空函数的json格式，与上面模型生成的json对比
sunwukong

输出：

{'type': 'function','function': {'name': 'sunwukong_function','description': '用于执行孙悟空算法函数，定义了一种特殊的数据集计算过程','parameters': {'type': 'object','properties': {'data': {'type': 'string', 'description': '执行孙悟空算法的数据集'}},'required': ['data']}}}

#打印参数信息
sunwukong['function']['parameters']

输出：

{'type': 'object','properties': {'data': {'type': 'string', 'description': '执行孙悟空算法的数据集'}},'required': ['data']}

11、调用API生成JSON格式函数信息

system_prompt = '以下是某的函数说明：%s' % function_description
user_prompt = '根据这个函数的函数说明，请帮我创建一个JSON格式的字典，这个字典有如下5点要求：\1.字典总共有三个键值对；\2.第一个键值对的Key是字符串name，value是该函数的名字：%s，也是字符串；\3.第二个键值对的Key是字符串description，value是该函数的函数的功能说明，也是字符串；\4.第三个键值对的Key是字符串parameters，value是一个JSON Schema对象，用于说明该函数的参数输入规范。\5.输出结果必须是一个JSON格式的字典，且不需要任何前后修饰语句' % function_name
response = client.chat.completions.create(model="gpt-3.5-turbo",messages=[{"role": "system", "content": system_prompt},{"role": "user", "content": user_prompt}]
)
response.choices[0].message.content

输出：
在这里插入图片描述

清理特殊字符后，转化JSON格式输出

json_function_description=json.loads(response.choices[0].message.content.replace("```","").replace("json",""))
json_function_description

输出：

{'name': 'sunwukong_function','description': '孙悟空算法函数，该函数定义了数据集计算过程','parameters': {'type': 'object','properties': {'data': {'type': 'string','description': '必要参数，表示带入计算的数据表，用字符串进行表示'}},'required': ['data']}}

12、输出原始函数对比

# 输出悟空函数，和生成的函数信息对比
sunwukong

输出：

{'type': 'function','function': {'name': 'sunwukong_function','description': '用于执行孙悟空算法函数，定义了一种特殊的数据集计算过程','parameters': {'type': 'object','properties': {'data': {'type': 'string', 'description': '执行孙悟空算法的数据集'}},'required': ['data']}}}

补充缺少的部分信息

# 补充缺少的部分信息
json_str={"type": "function","function":json_function_description}
json_str

输出：

{'type': 'function','function': {'name': 'sunwukong_function','description': '孙悟空算法函数，该函数定义了数据集计算过程','parameters': {'type': 'object','properties': {'data': {'type': 'string','description': '必要参数，表示带入计算的数据表，用字符串进行表示'}},'required': ['data']}}}

再次输出悟空函数，进行对比，基本上已经一摸一样了

三、定义自动输出function 参数的函数

继前文的探讨和实验验证了利用大模型自动生成function参数的函数的可行性之后，本章节将专注于如何有效地封装这一功能，并通过提供多个函数工具，进行具体的调用测试来展示其实用性。

1、自动输出funcation的函数

def auto_functions(functions_list):"""Chat模型的functions参数编写函数:param functions_list: 包含一个或者多个函数对象的列表；:return：满足Chat模型functions参数要求的functions对象"""def functions_generate(functions_list):# 创建空列表，用于保存每个函数的描述字典functions = []# 对每个外部函数进行循环for function in functions_list:# 读取函数对象的函数说明function_description = inspect.getdoc(function)# 读取函数的函数名字符串function_name = function.__name__system_prompt = '以下是某的函数说明：%s' % function_descriptionuser_prompt = '根据这个函数的函数说明，请帮我创建一个JSON格式的字典，这个字典有如下5点要求：\1.字典总共有三个键值对；\2.第一个键值对的Key是字符串name，value是该函数的名字：%s，也是字符串；\3.第二个键值对的Key是字符串description，value是该函数的函数的功能说明，也是字符串；\4.第三个键值对的Key是字符串parameters，value是一个JSON Schema对象，用于说明该函数的参数输入规范。\5.输出结果必须是一个JSON格式的字典，且不需要任何前后修饰语句' % function_nameresponse = client.chat.completions.create(model="gpt-3.5-turbo",messages=[{"role": "system", "content": system_prompt},{"role": "user", "content": user_prompt}])json_function_description=json.loads(response.choices[0].message.content.replace("```","").replace("json",""))json_str={"type": "function","function":json_function_description}functions.append(json_str)return functions## 最大可以尝试4次max_attempts = 4attempts = 0while attempts < max_attempts:try:functions = functions_generate(functions_list)break  # 如果代码成功执行，跳出循环except Exception as e:attempts += 1  # 增加尝试次数print("发生错误：", e)if attempts == max_attempts:print("已达到最大尝试次数，程序终止。")raise  # 重新引发最后一个异常else:print("正在重新运行...")return functions

定义函数列表

functions_list = [sunwukong_function]

2、自动生成funcation函数调用测试

tools = auto_functions(functions_list)

查看生成后的工具函数

tools'description': '孙悟空算法函数，该函数定义了数据集计算过程','parameters': {'type': 'object','properties': {'data': {'type': 'string','description': '表示带入计算的数据表，用字符串进行表示'}},'required': ['data']}}}]

3、定义参数数据

df_str = pd.DataFrame({'x1':[1, 2], 'x2':[3, 4]}).to_string()
df_str

在这里插入图片描述

4、调用API测试

使用自动生成的funcation call函数，调用OpenAI测试，看大模型能否找到函数

messages=[{"role": "system", "content": "数据集data：%s，数据集以字符串形式呈现" % df_str},{"role": "user", "content": "请在数据集data上执行孙悟空算法"}
]
response = client.chat.completions.create(model="gpt-3.5-turbo",messages=messages,tools=tools,tool_choice="auto",  )
response.choices[0].message

输出：从输出结构中可以看到，已经正常找到生成的工具函数
在这里插入图片描述

5、定义第二个函数

#在定义一个工具函数，一起测试
def tangseng_function(data):"""唐僧算法函数，该函数定义了数据集计算过程:param data: 必要参数，表示带入计算的数据表，用字符串进行表示:return：tangseng_function函数计算后的结果，返回结果为表示为JSON格式的Dataframe类型对象"""data = io.StringIO(data)df_new = pd.read_csv(data, sep='\s+', index_col=0)res = df_new * 1000000return json.dumps(res.to_string())

#两个函数一起放入工具列表
functions_list=[sunwukong_function,tangseng_function]

6、两个函数生成测试

# 使用gpt3.5发现有时候生成正确，但是有时候生成的json信息还是有些缺少，gpt.4会更稳定
tools = auto_functions(functions_list)
tools

输出：

[{'type': 'function','function': {'name': 'sunwukong_function','description': '孙悟空算法函数，该函数定义了数据集计算过程','parameters': {'type': 'object','properties': {'data': {'type': 'string', 'description': '表示带入计算的数据表'}},'required': ['data']}}},{'type': 'function','function': {'name': 'tangseng_function','description': '唐僧算法函数，该函数定义了数据集计算过程','parameters': {'type': 'object','properties': {'data': {'type': 'string','description': '必要参数，表示带入计算的数据表，用字符串进行表示'}},'required': ['data']}}}]

7、两个工具函数一起调用API测试

messages=[{"role": "system", "content": "数据集data：%s，数据集以字符串形式呈现" % df_str},{"role": "user", "content": "请在数据集data上执行唐僧算法函数"}
]
response = client.chat.completions.create(model="gpt-3.5-turbo",messages=messages,tools=tools,tool_choice="auto", )
response.choices[0].message

输出：根据输出可以看到，已经成功找到工具函数
在这里插入图片描述

四、结语

在本文的探讨和实践过程中，我们深入探索了利用大规模语言模型的生成能力来自动构建function函数的可能性和方法。通过精心设计的实验和不断的调优，我们成功实现了利用这些先进模型自动生成高质量的function函数，这不仅大大提高了开发效率，还为函数的多样性和创新性打开了新的大门。
此外，我们还专注于提高这些自动生成的函数在实际应用中的通用性和扩展性。这意味着所开发的函数不仅适用于当前的特定任务，还能在不同的应用环境和项目中轻松调整和扩展，从而保证长远的可用性和持续的价值。这一目标的实现显著增强了代码的复用性和适应性，为软件开发行业带来了新的工作效率和创新思路。

在这里插入图片描述

🎯🔖更多专栏系列文章：AIGC-AI大模型探索之路

如果文章内容对您有所触动，别忘了点赞、⭐关注，收藏！加入我，让我们携手同行AI的探索之旅，一起开启智能时代的大门！

这篇关于AI大模型探索之路-实战篇7：Function Calling技术实战：自动生成函数的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/1003855。

相关文章

网页解析 lxml 库--实战

网页解析 lxml 库--实战

lxml库使用流程 lxml 是 Python 的第三方解析库，完全使用 Python 语言编写，它对 XPath表达式提供了良好的支 持，因此能够了高效地解析 HTML/XML 文档。本节讲解如何通过 lxml 库解析 HTML 文档。 pip install lxml lxm| 库提供了一个 etree 模块，该模块专门用来解析 HTML/XML 文档，下面来介绍一下 lxml 库
阅读更多...
Ilya-AI分享的他在OpenAI学习到的15个提示工程技巧

Ilya-AI分享的他在OpenAI学习到的15个提示工程技巧

Ilya（不是本人，claude AI）在社交媒体上分享了他在OpenAI学习到的15个Prompt撰写技巧。 以下是详细的内容： 提示精确化:在编写提示时,力求表达清晰准确。清楚地阐述任务需求和概念定义至关重要。例:不用"分析文本",而用"判断这段话的情感倾向:积极、消极还是中性"。 快速迭代:善于快速连续调整提示。熟练的提示工程师能够灵活地进行多轮优化。例:从"总结文章"到"用
阅读更多...
AI绘图怎么变现？想做点副业的小白必看！

AI绘图怎么变现？想做点副业的小白必看！

在科技飞速发展的今天，AI绘图作为一种新兴技术，不仅改变了艺术创作的方式，也为创作者提供了多种变现途径。本文将详细探讨几种常见的AI绘图变现方式，帮助创作者更好地利用这一技术实现经济收益。 更多实操教程和AI绘画工具，可以扫描下方，免费获取 定制服务：个性化的创意商机 个性化定制 AI绘图技术能够根据用户需求生成个性化的头像、壁纸、插画等作品。例如，姓氏头像在电商平台上非常受欢迎，
阅读更多...
大模型研发全揭秘：客服工单数据标注的完整攻略

大模型研发全揭秘：客服工单数据标注的完整攻略

在人工智能（AI）领域，数据标注是模型训练过程中至关重要的一步。无论你是新手还是有经验的从业者，掌握数据标注的技术细节和常见问题的解决方案都能为你的AI项目增添不少价值。在电信运营商的客服系统中，工单数据是客户问题和解决方案的重要记录。通过对这些工单数据进行有效标注，不仅能够帮助提升客服自动化系统的智能化水平，还能优化客户服务流程，提高客户满意度。本文将详细介绍如何在电信运营商客服工单的背景下进行
阅读更多...
从去中心化到智能化：Web3如何与AI共同塑造数字生态

从去中心化到智能化：Web3如何与AI共同塑造数字生态

在数字时代的演进中，Web3和人工智能（AI）正成为塑造未来互联网的两大核心力量。Web3的去中心化理念与AI的智能化技术，正相互交织，共同推动数字生态的变革。本文将探讨Web3与AI的融合如何改变数字世界，并展望这一新兴组合如何重塑我们的在线体验。 Web3的去中心化愿景 Web3代表了互联网的第三代发展，它基于去中心化的区块链技术，旨在创建一个开放、透明且用户主导的数字生态。不同于传统
阅读更多...
AI一键生成 PPT

AI一键生成 PPT

AI一键生成 PPT 操作步骤 作为一名打工人，是不是经常需要制作各种PPT来分享我的生活和想法。但是，你们知道，有时候灵感来了，时间却不够用了！😩直到我发现了Kimi AI——一个能够自动生成PPT的神奇助手！🌟 什么是Kimi？ 一款月之暗面科技有限公司开发的AI办公工具，帮助用户快速生成高质量的演示文稿。 无论你是职场人士、学生还是教师，Kimi都能够为你的办公文
阅读更多...
性能分析之MySQL索引实战案例

性能分析之MySQL索引实战案例

文章目录 一、前言二、准备三、MySQL索引优化四、MySQL 索引知识回顾五、总结 一、前言 在上一讲性能工具之 JProfiler 简单登录案例分析实战中已经发现SQL没有建立索引问题，本文将一起从代码层去分析为什么没有建立索引？ 开源ERP项目地址：https://gitee.com/jishenghua/JSH_ERP 二、准备 打开IDEA找到登录请求资源路径位置
阅读更多...
深入探索协同过滤：从原理到推荐模块案例

深入探索协同过滤：从原理到推荐模块案例

文章目录 前言一、协同过滤1. 基于用户的协同过滤（UserCF）2. 基于物品的协同过滤（ItemCF）3. 相似度计算方法 二、相似度计算方法1. 欧氏距离2. 皮尔逊相关系数3. 杰卡德相似系数4. 余弦相似度 三、推荐模块案例1.基于文章的协同过滤推荐功能2.基于用户的协同过滤推荐功能 前言     在信息过载的时代，推荐系统成为连接用户与内容的桥梁。本文聚焦于
阅读更多...
Andrej Karpathy最新采访：认知核心模型10亿参数就够了，AI会打破教育不公的僵局

Andrej Karpathy最新采访：认知核心模型10亿参数就够了，AI会打破教育不公的僵局

夕小瑶科技说 原创  作者 | 海野 AI圈子的红人，AI大神Andrej Karpathy，曾是OpenAI联合创始人之一，特斯拉AI总监。上一次的动态是官宣创办一家名为 Eureka Labs 的人工智能+教育公司 ，宣布将长期致力于AI原生教育。 近日，Andrej Karpathy接受了No Priors（投资博客）的采访，与硅谷知名投资人 Sara Guo 和 Elad G
阅读更多...
hdu1171（母函数或多重背包）

hdu1171（母函数或多重背包）

题意：把物品分成两份，使得价值最接近 可以用背包，或者是母函数来解，母函数（1 + x^v+x^2v+.....+x^num*v）（1 + x^v+x^2v+.....+x^num*v）（1 + x^v+x^2v+.....+x^num*v） 其中指数为价值，每一项的数目为（该物品数+1）个 代码如下： #include<iostream>#include<algorithm>
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2