Java8对接三方流式接口,并实时输出(GPT)

2024-09-06 06:52

本文主要是介绍Java8对接三方流式接口,并实时输出(GPT),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Java对接模型流式接口,并流式输出

核心依赖

  		<dependency><groupId>com.alibaba</groupId><artifactId>fastjson</artifactId><version>2.0.33</version></dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency>

Demo代码

@GetMapping(value = "/test", produces = MediaType.APPLICATION_OCTET_STREAM_VALUE)public DeferredResult<ResponseBodyEmitter> proxyModel22() throws IOException {DeferredResult<ResponseBodyEmitter> deferredResult = new DeferredResult<>();// 创建 URLURL url = new URL("Third-party API");// 打开连接HttpURLConnection connection = (HttpURLConnection) url.openConnection();connection.setRequestMethod("POST");connection.setRequestProperty("Content-Type", "application/json; charset=utf-8");connection.setDoOutput(true); // 设置为 POST 请求connection.setDoInput(true); // 允许读取响应// 构建请求体String bodyJSON = "{\n" +"    \"input\": \"Who are you?\",\n" +"    \"user\": \"guest\",\n" +"    \"stream\": true,\n" +"    \"increase\": true,\n" +"    \"sessionId\": \"9xxxxxx\",\n" +"    \"history\": []\n" +"}";JSONObject jsonObject = JSON.parseObject(bodyJSON);try (OutputStream os = connection.getOutputStream()) {os.write(jsonObject.toString().getBytes(StandardCharsets.UTF_8)); // 写入请求体os.flush();}// 检查响应状态码int responseCode = connection.getResponseCode();if (responseCode == HttpURLConnection.HTTP_OK) {ResponseBodyEmitter emitter = new ResponseBodyEmitter();InputStream inputStream = connection.getInputStream();Thread thread = new Thread(() -> {byte[] buffer = new byte[4096]; // 缓冲区大小int length;try {while ((length = inputStream.read(buffer)) != -1) {// 只发送实际读取的数据长度byte[] dataToSend = new byte[length];System.arraycopy(buffer, 0, dataToSend, 0, length);emitter.send(dataToSend);}inputStream.close();emitter.complete(); // 完成发送} catch (IOException e) {log.error("错误信息为: " + e);}});thread.start();deferredResult.setResult(emitter);} else {// 如果第三方服务返回错误状态码deferredResult.setErrorResult(new RuntimeException("Third-party API returned an error: " + responseCode));}return deferredResult;}

这篇关于Java8对接三方流式接口,并实时输出(GPT)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1141310

相关文章

Java中ArrayList和LinkedList有什么区别举例详解

《Java中ArrayList和LinkedList有什么区别举例详解》:本文主要介绍Java中ArrayList和LinkedList区别的相关资料,包括数据结构特性、核心操作性能、内存与GC影... 目录一、底层数据结构二、核心操作性能对比三、内存与 GC 影响四、扩容机制五、线程安全与并发方案六、工程

JavaScript中的reduce方法执行过程、使用场景及进阶用法

《JavaScript中的reduce方法执行过程、使用场景及进阶用法》:本文主要介绍JavaScript中的reduce方法执行过程、使用场景及进阶用法的相关资料,reduce是JavaScri... 目录1. 什么是reduce2. reduce语法2.1 语法2.2 参数说明3. reduce执行过程

如何使用Java实现请求deepseek

《如何使用Java实现请求deepseek》这篇文章主要为大家详细介绍了如何使用Java实现请求deepseek功能,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录1.deepseek的api创建2.Java实现请求deepseek2.1 pom文件2.2 json转化文件2.2

Java调用DeepSeek API的最佳实践及详细代码示例

《Java调用DeepSeekAPI的最佳实践及详细代码示例》:本文主要介绍如何使用Java调用DeepSeekAPI,包括获取API密钥、添加HTTP客户端依赖、创建HTTP请求、处理响应、... 目录1. 获取API密钥2. 添加HTTP客户端依赖3. 创建HTTP请求4. 处理响应5. 错误处理6.

Spring AI集成DeepSeek的详细步骤

《SpringAI集成DeepSeek的详细步骤》DeepSeek作为一款卓越的国产AI模型,越来越多的公司考虑在自己的应用中集成,对于Java应用来说,我们可以借助SpringAI集成DeepSe... 目录DeepSeek 介绍Spring AI 是什么?1、环境准备2、构建项目2.1、pom依赖2.2

Spring Cloud LoadBalancer 负载均衡详解

《SpringCloudLoadBalancer负载均衡详解》本文介绍了如何在SpringCloud中使用SpringCloudLoadBalancer实现客户端负载均衡,并详细讲解了轮询策略和... 目录1. 在 idea 上运行多个服务2. 问题引入3. 负载均衡4. Spring Cloud Load

Springboot中分析SQL性能的两种方式详解

《Springboot中分析SQL性能的两种方式详解》文章介绍了SQL性能分析的两种方式:MyBatis-Plus性能分析插件和p6spy框架,MyBatis-Plus插件配置简单,适用于开发和测试环... 目录SQL性能分析的两种方式:功能介绍实现方式:实现步骤:SQL性能分析的两种方式:功能介绍记录

在 Spring Boot 中使用 @Autowired和 @Bean注解的示例详解

《在SpringBoot中使用@Autowired和@Bean注解的示例详解》本文通过一个示例演示了如何在SpringBoot中使用@Autowired和@Bean注解进行依赖注入和Bean... 目录在 Spring Boot 中使用 @Autowired 和 @Bean 注解示例背景1. 定义 Stud

如何通过海康威视设备网络SDK进行Java二次开发摄像头车牌识别详解

《如何通过海康威视设备网络SDK进行Java二次开发摄像头车牌识别详解》:本文主要介绍如何通过海康威视设备网络SDK进行Java二次开发摄像头车牌识别的相关资料,描述了如何使用海康威视设备网络SD... 目录前言开发流程问题和解决方案dll库加载不到的问题老旧版本sdk不兼容的问题关键实现流程总结前言作为

SpringBoot中使用 ThreadLocal 进行多线程上下文管理及注意事项小结

《SpringBoot中使用ThreadLocal进行多线程上下文管理及注意事项小结》本文详细介绍了ThreadLocal的原理、使用场景和示例代码,并在SpringBoot中使用ThreadLo... 目录前言技术积累1.什么是 ThreadLocal2. ThreadLocal 的原理2.1 线程隔离2