首页
Python
Java
前端
数据库
Linux
Chatgpt专题
开发者工具箱
moerration专题
#LLM入门|Prompt#2.4_检查输入_审核合法性|Prompt注入|Prompt injection:指令注入攻击_Moerration
如何使用 OpenAI 的 Moderation API 来进行内容审查,以及如何使用不同的提示来检测提示注入(Prompt injections)。 一、审核 接使用 OpenAI 的审核函数接口(Moderation API )对用户输入的内容进行审核。帮助开发者识别和过滤用户输入。 审核函数会审查以下类别: 性/未成年(sexual/minors):旨在引起性兴奋的内容,例如对性活动的
阅读更多...