本文主要是介绍机器学习笔记 大语言模型是如何运作的?一、语料库和N-gram模型,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
一、语料库
语言模型、ChatGPT和人工智能似乎无处不在。了解大型语言模型(LLM)“背后”发生的事情将是驾驭数字世界的关键。
首先在提示中键入一个单词,然后点击提交。您可以尝试新的提示,并根据需要多次重新生成响应。
这个我们称之为“T&C”的语言模型是在一组被称为语料库的文本上训练的。该语料库是大型科技公司的条款和条件。
语料库决定了语言模型的词汇以及它可以生成哪些单词。
如果在测试过程中出现输入错误之类的提示,是因为你在提示中使用的单词在语料库中不存在。
如果你给这个模型一个它在训练过程中没有看到的单词,它将无法建议下一个单词是什么,因为它没有存储任何关于这个单词的信息。这个模型只知道语料库中的单词。
对于大型语言模型,语料库通常是来自聊天室、维基百科、小说等不同来源的文本的组合。
较小的语言模型可能只有一种类型的文本ÿ
这篇关于机器学习笔记 大语言模型是如何运作的?一、语料库和N-gram模型的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!