ChatGPT 变懒最新解释!或和系统Prompt太长有关

2024-02-09 07:28

本文主要是介绍ChatGPT 变懒最新解释!或和系统Prompt太长有关,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

大家好我是二狗。

ChatGPT变懒这件事又有了最新解释了。

这两天,推特用户Dylan Patel发文表示:

你想知道为什么 ChatGPT 和 6 个月前相比会如此糟糕吗?

那是因为ChatGPT系统Prompt是竟然包含1700 tokens,看看这个prompt里面有多少垃圾,这是导致ChatGPT变懒的部分原因。

Dylan Patel 通过下面的 prompt输入把ChatGPT4版本的系统Prompt给“骗了出来”:

有用户对ChatGPT的系统prompt表示怀疑:

于是Dylan Patel把完整视频放了出来:

详细的系统Prompt可以从下面的地址中查看:

https://pastebin.com/vnxJ7kQk

有用户对ChatGPT 3.5版本进行了同样的操作,发现同样可以「召唤出来」类似的系统Prompt。

比如我们可以看一下系统Prompt中对Dalle的限制:

每当给出图像的描述时,请创建 dalle 可用于生成图像的提示并遵守以下策略:提示必须是英文。如果需要的话,翻译成英文。

请勿请求生成图像的许可,直接执行即可!

请勿在生成图像之前或之后列出或参考描述。

即使用户请求更多图像,也不要创建超过 1 个图像。

请勿创建政客或其他公众人物的形象。推荐其他想法。

请勿以 1912 年之后最新作品创作的艺术家、创意专业人士或工作室的风格创作图像(例如毕加索、卡罗)。

仅当艺术家、创意专业人士或工作室的最新作品创作于 1912 年之前(例如梵高、戈雅)时,您才可以在提示中命名他们。

关于生成公众人物这块,二狗我找朋友对此亲自试了一下,果然如此:

有用户表示原来prompt真的会让其变懒:

OpenAI声称懒惰行为被修复

前不久OpenAI将GPT-4 Turbo 预览模型更新为gpt-4-0125-preview,新模型还修复了影响非英语 UTF-8 生成的错误。

另外更重要的是OpenAI声称新模型相比之前的预览模型可以更彻底地完成代码生成等任务,这将减少模型未完成任务的“懒惰”情况!

芜湖!要知道前一段时间,GPT-4模型变懒惹的多少人来吐槽,OpenAI官方也亲自承认了。

之前有网友认为GPT-4变懒可能和季节有关系,GPT-4也会和学生一样“放寒假”,到了冬天的时候就自己变的懒起来。

在前不久的一篇论文中,加州大学圣克鲁斯分校研究者的新发现或可解释 GPT-4 性能下降的深层原因:

“我们发现,在训练数据创建日期之前发布的数据集上,LLM 的表现出奇地好于之后发布的数据集。”它们在“见过的”任务上表现出色,而在新任务上则表现糟糕。这意味着,LLM 只是基于近似检索的模仿智能方法,主要是记忆东西,而没有任何程度的理解。

说白了,就是 LLM 的泛化能力“没有说的那么强”,造成这种结果的一大原因是「任务污染」,这是数据污染的其中一种形式。

当时为了应对GPT-4变懒,众多网友祭出了魔法prompt:

最后,希望ChatGPT越来越好用起来~

参考资料

 [1]https://twitter.com/dylan522p/status/1755086111397863777

这篇关于ChatGPT 变懒最新解释!或和系统Prompt太长有关的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/693524

相关文章

Spring AI集成DeepSeek的详细步骤

《SpringAI集成DeepSeek的详细步骤》DeepSeek作为一款卓越的国产AI模型,越来越多的公司考虑在自己的应用中集成,对于Java应用来说,我们可以借助SpringAI集成DeepSe... 目录DeepSeek 介绍Spring AI 是什么?1、环境准备2、构建项目2.1、pom依赖2.2

PyCharm 接入 DeepSeek最新完整教程

《PyCharm接入DeepSeek最新完整教程》文章介绍了DeepSeek-V3模型的性能提升以及如何在PyCharm中接入和使用DeepSeek进行代码开发,本文通过图文并茂的形式给大家介绍的... 目录DeepSeek-V3效果演示创建API Key在PyCharm中下载Continue插件配置Con

Deepseek R1模型本地化部署+API接口调用详细教程(释放AI生产力)

《DeepseekR1模型本地化部署+API接口调用详细教程(释放AI生产力)》本文介绍了本地部署DeepSeekR1模型和通过API调用将其集成到VSCode中的过程,作者详细步骤展示了如何下载和... 目录前言一、deepseek R1模型与chatGPT o1系列模型对比二、本地部署步骤1.安装oll

在不同系统间迁移Python程序的方法与教程

《在不同系统间迁移Python程序的方法与教程》本文介绍了几种将Windows上编写的Python程序迁移到Linux服务器上的方法,包括使用虚拟环境和依赖冻结、容器化技术(如Docker)、使用An... 目录使用虚拟环境和依赖冻结1. 创建虚拟环境2. 冻结依赖使用容器化技术(如 docker)1. 创

Spring AI Alibaba接入大模型时的依赖问题小结

《SpringAIAlibaba接入大模型时的依赖问题小结》文章介绍了如何在pom.xml文件中配置SpringAIAlibaba依赖,并提供了一个示例pom.xml文件,同时,建议将Maven仓... 目录(一)pom.XML文件:(二)application.yml配置文件(一)pom.xml文件:首

CentOS系统Maven安装教程分享

《CentOS系统Maven安装教程分享》本文介绍了如何在CentOS系统中安装Maven,并提供了一个简单的实际应用案例,安装Maven需要先安装Java和设置环境变量,Maven可以自动管理项目的... 目录准备工作下载并安装Maven常见问题及解决方法实际应用案例总结Maven是一个流行的项目管理工具

SpringBoot整合DeepSeek实现AI对话功能

《SpringBoot整合DeepSeek实现AI对话功能》本文介绍了如何在SpringBoot项目中整合DeepSeekAPI和本地私有化部署DeepSeekR1模型,通过SpringAI框架简化了... 目录Spring AI版本依赖整合DeepSeek API key整合本地化部署的DeepSeek

MySQL 缓存机制与架构解析(最新推荐)

《MySQL缓存机制与架构解析(最新推荐)》本文详细介绍了MySQL的缓存机制和整体架构,包括一级缓存(InnoDBBufferPool)和二级缓存(QueryCache),文章还探讨了SQL... 目录一、mysql缓存机制概述二、MySQL整体架构三、SQL查询执行全流程四、MySQL 8.0为何移除查

MySql9.1.0安装详细教程(最新推荐)

《MySql9.1.0安装详细教程(最新推荐)》MySQL是一个流行的关系型数据库管理系统,支持多线程和多种数据库连接途径,能够处理上千万条记录的大型数据库,本文介绍MySql9.1.0安装详细教程,... 目录mysql介绍:一、下载 Mysql 安装文件二、Mysql 安装教程三、环境配置1.右击此电脑

在 Windows 上安装 DeepSeek 的完整指南(最新推荐)

《在Windows上安装DeepSeek的完整指南(最新推荐)》在Windows上安装DeepSeek的完整指南,包括下载和安装Ollama、下载DeepSeekRXNUMX模型、运行Deep... 目录在www.chinasem.cn Windows 上安装 DeepSeek 的完整指南步骤 1:下载并安装