SK入门第一篇(设置baseurl)

2024-01-15 07:52

本文主要是介绍SK入门第一篇(设置baseurl),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

问题说明

之前在一些公众号就看到了关于SK的开发文章,然后说自己也试试看。然后就遇到一个关于如何设置baseurl的问题。啥意思呢?同样是SK,用python语言的话,OpenAI的baseurl是可以直接设置的,但是在C#下没法直接设置。

然后,开始调试,找野路子…

解决方式1

官方案例初始化OpenAIClient的构造函数,只有一个OpenAIKey的参数

但是,可以看到,这个构造函数,其实是调用了另一个构造函数,参数有Endpoint(即baseurl信息)、OpenAIKey,以及OPenAIClientOptions。

这个时候,脑海里有了一个想法,我通过下面的构造函数搞起来不就行了,为了方便后续统一调整,自己搞一个通用类实现

public class OpenAIClientExtend
{/// <summary>/// 创建一个OpenAIClient对象,通过apikey和baseurl/// </summary>/// <param name="openAIApiKey"></param>/// <param name="openAIApiKeyBaseUrl"></param>/// <returns></returns>public static OpenAIClient CreateOpenAIClient(string openAIApiKey, string openAIApiBaseUrl){OpenAIClient openAIClient = new OpenAIClient(new Uri(openAIApiBaseUrl), CreateDelegatedToken(openAIApiKey), new OpenAIClientOptions());return openAIClient;}/// <summary>/// 直接把OPenAIClient代码的相关逻辑拿来,通过apikey生成token/// </summary>/// <param name="token">实际这里是OPenAIKey</param>/// <returns></returns>private static TokenCredential CreateDelegatedToken(string token){var accessToken = new AccessToken(token, DateTimeOffset.Now.AddDays(180));return DelegatedTokenCredential.Create((_, _) => accessToken);}

试了下,发现还是不行啊。。

然后又回到那个构造函数那里,想起来它在调用了另一个构造函数后,其实还写了一句:

_isConfiguredForAzureOpenAI = false;

看字面意思,是否是针对AzureOpenAI设置,默认值是true,那就知道为啥了,不过看了下这个字段是private,那么只能通过反射修改了。

//通过反射冬天修改私有字段,否则按照原来的逻辑,会初始化AzureOpenAI,导致无法使用报错
OpenAIClientExtend.ModifyObj<OpenAIClient>(openAIClient, "_isConfiguredForAzureOpenAI", false);

 具体修改实例类字段的代码如下:

public static void ModifyObj<T>(object obj,string filedName,object newVal)
{Type type = typeof(T);FieldInfo? field = type.GetField(filedName, BindingFlags.NonPublic | BindingFlags.Instance);if (field != null && field.IsPrivate){object? value = field.GetValue(obj); // 获取私有字段的值Console.WriteLine("原始私有字段的值为:" + value);field.SetValue(obj, newVal); // 修改私有字段的值Console.WriteLine("修改后的私有字段的值为:" + field.GetValue(obj));}
}

这个时候,baseurl的设置终于生效了,可以愉快的开始后面的coding了

完整的OPenAIClient初始化代码

public static Kernel CreateKernel()
{OpenAIClient openAIClient = OpenAIClientExtend.CreateOpenAIClient(OPENAI_API_KEY, OPENAI_BASE_URL);//通过反射冬天修改私有字段,否则按照原来的逻辑,会初始化AzureOpenAI,导致无法使用报错OpenAIClientExtend.ModifyObj<OpenAIClient>(openAIClient, "_isConfiguredForAzureOpenAI", false);// Create a kernelvar builder = Kernel.CreateBuilder();// Add a text or chat completion service using either:// builder.Services.AddAzureOpenAIChatCompletion()// builder.Services.AddAzureOpenAITextGeneration()//IServiceCollection serviceCollection = builder.Services.AddLogging(c => c.SetMinimumLevel(LogLevel.Trace).AddDebug());//这里使用的是OpenAI的聊天模型,不太理想,需要改进,更好的方法是在Add方法中实例化大模型对象builder.Services.AddOpenAIChatCompletion("gpt-3.5-turbo", openAIClient);// builder.Services.AddOpenAITextGeneration()builder.Plugins.AddFromType<AuthorEmailPlanner>();builder.Plugins.AddFromType<EmailPlugin>();var kernel = builder.Build();return kernel;
}

解决方式2

隔了有几天,在公众号看到有大佬也提到了这个问题,不过还是大佬技高一筹,解决方式更好,直接上代码。 

    var kernel = Kernel.CreateBuilder()
.AddOpenAIChatCompletion(modelId: "gpt-3.5-turbo",apiKey: Util.OPENAI_API_KEY,httpClient: new HttpClient(new MyOpenAIHandler())
).Build();

可以看到,最后一个参数httpClient即动态设置baseurl的

/// <summary>
/// 自定义baseurl
/// </summary>
class MyOpenAIHandler : DelegatingHandler
{public MyOpenAIHandler(): base(new HttpClientHandler()){}protected override Task<HttpResponseMessage> SendAsync(HttpRequestMessage request, CancellationToken cancellationToken){var newUriBuilder = new UriBuilder(request.RequestUri);newUriBuilder.Scheme = "https";newUriBuilder.Host = "api.xx.com";//newUriBuilder.Port = 21000;request.RequestUri = newUriBuilder.Uri;return base.SendAsync(request, cancellationToken);}
}

测试可用,大概思路,动态修改了原来OPenAI的base地址。

不过和方式1的差别,方式1 直接修改完整地址,方式2在OPenAI地址基础上,修改了http或https标记,修改域名部分,修改端口,即部分修改。

这篇关于SK入门第一篇(设置baseurl)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/608176

相关文章

Spring Security 从入门到进阶系列教程

Spring Security 入门系列 《保护 Web 应用的安全》 《Spring-Security-入门(一):登录与退出》 《Spring-Security-入门(二):基于数据库验证》 《Spring-Security-入门(三):密码加密》 《Spring-Security-入门(四):自定义-Filter》 《Spring-Security-入门(五):在 Sprin

Android实现任意版本设置默认的锁屏壁纸和桌面壁纸(两张壁纸可不一致)

客户有些需求需要设置默认壁纸和锁屏壁纸  在默认情况下 这两个壁纸是相同的  如果需要默认的锁屏壁纸和桌面壁纸不一样 需要额外修改 Android13实现 替换默认桌面壁纸: 将图片文件替换frameworks/base/core/res/res/drawable-nodpi/default_wallpaper.*  (注意不能是bmp格式) 替换默认锁屏壁纸: 将图片资源放入vendo

数论入门整理(updating)

一、gcd lcm 基础中的基础,一般用来处理计算第一步什么的,分数化简之类。 LL gcd(LL a, LL b) { return b ? gcd(b, a % b) : a; } <pre name="code" class="cpp">LL lcm(LL a, LL b){LL c = gcd(a, b);return a / c * b;} 例题:

Java 创建图形用户界面(GUI)入门指南(Swing库 JFrame 类)概述

概述 基本概念 Java Swing 的架构 Java Swing 是一个为 Java 设计的 GUI 工具包,是 JAVA 基础类的一部分,基于 Java AWT 构建,提供了一系列轻量级、可定制的图形用户界面(GUI)组件。 与 AWT 相比,Swing 提供了许多比 AWT 更好的屏幕显示元素,更加灵活和可定制,具有更好的跨平台性能。 组件和容器 Java Swing 提供了许多

【IPV6从入门到起飞】5-1 IPV6+Home Assistant(搭建基本环境)

【IPV6从入门到起飞】5-1 IPV6+Home Assistant #搭建基本环境 1 背景2 docker下载 hass3 创建容器4 浏览器访问 hass5 手机APP远程访问hass6 更多玩法 1 背景 既然电脑可以IPV6入站,手机流量可以访问IPV6网络的服务,为什么不在电脑搭建Home Assistant(hass),来控制你的设备呢?@智能家居 @万物互联

poj 2104 and hdu 2665 划分树模板入门题

题意: 给一个数组n(1e5)个数,给一个范围(fr, to, k),求这个范围中第k大的数。 解析: 划分树入门。 bing神的模板。 坑爹的地方是把-l 看成了-1........ 一直re。 代码: poj 2104: #include <iostream>#include <cstdio>#include <cstdlib>#include <al

MySQL-CRUD入门1

文章目录 认识配置文件client节点mysql节点mysqld节点 数据的添加(Create)添加一行数据添加多行数据两种添加数据的效率对比 数据的查询(Retrieve)全列查询指定列查询查询中带有表达式关于字面量关于as重命名 临时表引入distinct去重order by 排序关于NULL 认识配置文件 在我们的MySQL服务安装好了之后, 会有一个配置文件, 也就

音视频入门基础:WAV专题(10)——FFmpeg源码中计算WAV音频文件每个packet的pts、dts的实现

一、引言 从文章《音视频入门基础:WAV专题(6)——通过FFprobe显示WAV音频文件每个数据包的信息》中我们可以知道,通过FFprobe命令可以打印WAV音频文件每个packet(也称为数据包或多媒体包)的信息,这些信息包含该packet的pts、dts: 打印出来的“pts”实际是AVPacket结构体中的成员变量pts,是以AVStream->time_base为单位的显

C语言指针入门 《C语言非常道》

C语言指针入门 《C语言非常道》 作为一个程序员,我接触 C 语言有十年了。有的朋友让我推荐 C 语言的参考书,我不敢乱推荐,尤其是国内作者写的书,往往七拼八凑,漏洞百出。 但是,李忠老师的《C语言非常道》值得一读。对了,李老师有个官网,网址是: 李忠老师官网 最棒的是,有配套的教学视频,可以试看。 试看点这里 接下来言归正传,讲解指针。以下内容很多都参考了李忠老师的《C语言非

MySQL入门到精通

一、创建数据库 CREATE DATABASE 数据库名称; 如果数据库存在,则会提示报错。 二、选择数据库 USE 数据库名称; 三、创建数据表 CREATE TABLE 数据表名称; 四、MySQL数据类型 MySQL支持多种类型,大致可以分为三类:数值、日期/时间和字符串类型 4.1 数值类型 数值类型 类型大小用途INT4Bytes整数值FLOAT4By