人工和AI大语言模型成本对比 ai语音模型

2024-06-24 13:04

本文主要是介绍人工和AI大语言模型成本对比 ai语音模型,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

这里既有AI,又有生活大道理,无数渺小的思考填满了一生。

上一专题搭建了一套GMM-HMM系统,来识别连续0123456789的英文语音。
但若不是仅针对数字,而是所有普通词汇,可能达到十几万个词,解码过程将非常复杂,识别结果组合太多,识别结果不会理想。因此只有声学模型是完全不够的,需要引入语言模型来约束识别结果。让“今天天气很好”的概率高于“今天天汽很好”的概率,得到声学模型概率高,又符合表达的句子。

人工和AI大语言模型成本对比 ai语音模型_语言模型

1 语言模型
真面目

定义:对于语言序列词ω1,ω2,ω3,…,ωn,语言模型就是计算该词序列的概率,即P(ω1,ω2,ω3,…,ωn)。

本质:语言模型是对语句的概率分布建模。

通俗:语言模型用来计算一个句子出现的概率,也是判断一句话是否合理的概率。

公式:给定一个词序列S=(w1,w2,w3…wn),它的概率表示为:

人工和AI大语言模型成本对比 ai语音模型_语言模型_02

其中:

人工和AI大语言模型成本对比 ai语音模型_语音识别_03

例子:给定一个词序列S=(无数渺小的思考填满了一生)

人工和AI大语言模型成本对比 ai语音模型_算法_04

其中:

人工和AI大语言模型成本对比 ai语音模型_算法_05

问题:
自由参数问题
:模型的自由参数是随着字符串长度的增加而指数级暴增的,这使我们几乎不可能正确的估计出这些参数;

零概率问题(OOV问题):每一个w都具有V种取值,这样构造出了非常多的词对,但实际中训练语料是不会出现这么多种组合的,那么依据最大似然估计,最终得到的概率实际是很可能是0。

2 N-gram语言模型
近似

为了解决自由参数数目过多的问题,引入了马尔科夫假设:随意一个词出现的概率只与它前面出现的有限的n-1个词有关。基于上述假设的统计语言模型被称为N-gram语言模型。

即用前N-1个词作为历史,估计当前(第N个)词。

公式:给定一个词序列S=(w1,w2,w3…wn),它的概率表示为:

人工和AI大语言模型成本对比 ai语音模型_语言模型_06

其中:

人工和AI大语言模型成本对比 ai语音模型_语音识别_07

人工和AI大语言模型成本对比 ai语音模型_算法_08

一般用来标记开头结尾,没有在vocabulary中的词(OOV, out of vocabulary),标记为。

当n=1时,即一个词的出现与它周围的词是独立,称为unigram。

当n=2时,即一个词的出现仅与它前面的一个词有关时,称为bigram。

当n=3时,即一个词的出现仅与它前面的两个词有关,称为trigram。

自由参数的数量级是n取值的指数倍。

从模型的效果来看,理论上n的取值越大,效果越好。但随着n取值的增加,效果提升的幅度是在下降的。同时还涉及到一个可靠性和可区别性的问题,参数越多,可区别性越好,但同时单个参数的实例变少从而降低了可靠性。

3 数据平滑算法

为了解决零概率问题,即由于语料的稀疏性,有些词序列找不到,需要对数据进行平滑。

(1)加一平滑(Add-one Smoothing)

**思想:**将每个计数加一,从而使得任何词序列都有计数,这样的话就可以把本来概率为0结果变为一个很小的值。为了保证所有实例的概率总和为1,将分母增加实例的种类数;即:

人工和AI大语言模型成本对比 ai语音模型_语音识别_09

人工和AI大语言模型成本对比 ai语音模型_算法_10

**优点:**算法简单,解决了概率为0的问题

**缺点:**Add-one给训练语料中没有出现过的 N-grams 分配了太多的概率空间,认为所有未出现的N-grams概率相等也有点不合理。

(2)古德-图灵平滑(Good-turing Smoothing)

思想:用你看见过一次的事情(Seen Once)估计你未看见的事件(Unseen Events),并依次类推,用看见过两次的事情估计看见过一次的事情等等。

对于任何一个发生r次的n-gram,都假设它发生r*次,即:

人工和AI大语言模型成本对比 ai语音模型_人工和AI大语言模型成本对比_11

则在样本中出现r事件的概率为:

人工和AI大语言模型成本对比 ai语音模型_算法_12

(3)回退平滑(Katz smoothing)

思想:又称为Back-off 回退,是对古德图灵模型的改进。若N阶语言模型存在,直接使用打折后的概率(常使用Good-turing算法进行打折);若高阶语言模型不存在,将打折节省出的概率量,依照N-1阶的语言模型概率进行分配,依此类推。

人工和AI大语言模型成本对比 ai语音模型_算法_13

(4)插值平滑(Jelinek-Mercer smoothing)

思想:用线性差值把不同阶的 N-gram 结合起来,这里结合了 trigram,bigram 和 unigram。用 lambda 进行加权。

人工和AI大语言模型成本对比 ai语音模型_语音识别_14

其中,

人工和AI大语言模型成本对比 ai语音模型_算法_15

(5)Witten-Bell smoothing

思想:如果在训练语料中对应的n元文法出现次数大于1,则使用高阶模型;否则,后退到低阶模型。

人工和AI大语言模型成本对比 ai语音模型_机器学习_16

(6)Kneser-Ney Smoothing

思想:对于一个词,如果它在语料库中出现更多种不同上下文(context) 时,它可能应该有更高的概率。

为了刻画这种想法,定义接续概率(continuation probability):

人工和AI大语言模型成本对比 ai语音模型_算法_17

人工和AI大语言模型成本对比 ai语音模型_机器学习_18

4 困惑度
PPL

N-gram语言模型与评价方法:

实用方法:通过查看该模型在实际应用(如拼写检查、机器翻译)中的表现来评价,优点是直观、实用,缺点是缺乏针对性、不够客观。

理论方法:困惑度(preplexity),其基本思想是给测试集的句子赋予较高概率值的语言模型较好。

人工和AI大语言模型成本对比 ai语音模型_算法_19

Perplexity另一种表达:

人工和AI大语言模型成本对比 ai语音模型_语音识别_20

理解:句子越好(概率大),困惑度越小,也就是模型对句子越不困惑。

困惑度->困难度,求出来的困惑度值相当于一个虚拟词典大小,下一个词就从这个虚拟词典中选。值越大,选择就越多,选对就越困难,说明语言模型训练的就越差。值越小,选择就越少,选对的可能性就越大,越简单,说明语言模型训练的越好。

源头

熵(****entropy):又称自信息,描述一个随机变量的不确定性的数量,熵越大,不确定性越大,正确估计其值的可能性越小。越不确定的随机变量越需要大的信息量以确定其值。

人工和AI大语言模型成本对比 ai语音模型_机器学习_21

其中,p(x)表示x的分布概率。

相对熵(relativeentropy):又称KL距离,Kullback-Leibler divergence。

衡量相同事件空间里两个概率分布相对差距的测度,当p=q的时候,相对熵为0,当p和q差距变大时,交叉熵也变大。

人工和AI大语言模型成本对比 ai语音模型_语音识别_22

其中,p(x)和q(x)代表x的两种概率分布。

交叉熵(crossentropy):衡量估计模型和真实概率分布之间的差异。

人工和AI大语言模型成本对比 ai语音模型_语音识别_23

困惑度(perplexity):困惑度是交叉熵的指数形式。

人工和AI大语言模型成本对比 ai语音模型_语音识别_24

5 语言模型搭建
语言模型训练

语言模型训练流程:

人工和AI大语言模型成本对比 ai语音模型_语言模型_25

系统文件:

人工和AI大语言模型成本对比 ai语音模型_语音识别_26

步骤一:Witten-Bell smoothing算法与实现

人工和AI大语言模型成本对比 ai语音模型_算法_27

人工和AI大语言模型成本对比 ai语音模型_机器学习_28

步骤二:实现ngram计数

人工和AI大语言模型成本对比 ai语音模型_语音识别_29

步骤三:词频统计count

人工和AI大语言模型成本对比 ai语音模型_语言模型_30

人工和AI大语言模型成本对比 ai语音模型_语言模型_31

分别对minitrain2.txt和minitrain.txt文件进行count,生成p1a.counts和p1b.counts文件。其中minitrain2.txt和minitrain.txt语料大小不一样,

minitrain2.txt,语料已经分好词,共10个句子,minitrain.txt,语料已经分好词,共100个句子。

步骤四:语言模型训练与测试

平滑算法使用Witten-Bell smoothing。

测试文件使用test2.txt。

人工和AI大语言模型成本对比 ai语音模型_人工和AI大语言模型成本对比_32

训练3-gram模型与测试结果:

人工和AI大语言模型成本对比 ai语音模型_语音识别_33

6 SRILM
语言模型工具

上面搭建的系统进行了词频统计和n-gram模型训练与测试,针对相同数据使用SRILM语言模型工具包进行对比。

步骤一:词频统计

词频统计的对象是minitrain2.txt,语料已经分好词,共10个句子。

词频统计的对象是minitrain.txt,语料已经分好词,共100个句子。

人工和AI大语言模型成本对比 ai语音模型_人工和AI大语言模型成本对比_34

人工和AI大语言模型成本对比 ai语音模型_语音识别_35

其中,ngram-count是srilm的命令,词频统计的对象是minitrain2.txt和minitrain.txt,order3表示3-gram语言模型,生成train2.count文件和train.count。

人工和AI大语言模型成本对比 ai语音模型_语音识别_36

人工和AI大语言模型成本对比 ai语音模型_机器学习_37

(与搭建的系统统计结果看似不一样,实际上只是排序不一样,上面的系统按照字典里面的词顺序进行排序,使用SRILM进行统计按照文本里面的词顺序进行排序。)

人工和AI大语言模型成本对比 ai语音模型_人工和AI大语言模型成本对比_38

步骤二:语言模型训练

100个句子的****语言模型训练。分别使用Kneser-Ney平滑算法、witten bell平滑算法、Good-Turing平滑算法进行数据平滑。

人工和AI大语言模型成本对比 ai语音模型_算法_39

得到3个模型:

人工和AI大语言模型成本对比 ai语音模型_语言模型_40

10个句子的****语言模型训练,使用Kneser-Ney平滑算法进行语言模型训练命令:

人工和AI大语言模型成本对比 ai语音模型_人工和AI大语言模型成本对比_41

**问题:**出现error。

原因:其中一个修改后的KneserNey折扣为负,数据集太少,发现高阶n-gram没有出现统计次数。

使用witten bell平滑算法进行语言模型训练命令:

人工和AI大语言模型成本对比 ai语音模型_算法_42

**问题:**3-grams只有9组数据

原因:丢弃281个3-gram,因为折扣为零。

使用Good-Turing平滑算法进行语言模型训练命令:

人工和AI大语言模型成本对比 ai语音模型_语音识别_43

人工和AI大语言模型成本对比 ai语音模型_语言模型_44

步骤三:语言模型评价(计算 PPL)

-ppl为对测试集句子进行评分(logP(T),其中P(T)为所有句子的概率乘积)和计算测试集困惑度的参数。

10个句子的****语言模型,测试文件使用的是 text2.txt文件,测试模型使用witten bell平滑算法训练和Good-Turing平滑算法训练。

人工和AI大语言模型成本对比 ai语音模型_算法_45

100个句子的****语言模型,测试文件使用的是 text2.txt文件,测试模型使用Kneser-Ney平滑算法训练、witten bell平滑算法训练、Good-Turing平滑算法训练。

人工和AI大语言模型成本对比 ai语音模型_人工和AI大语言模型成本对比_46

ppl与ppl1的区别:

ppl考虑词数和句子数(i.e. 考虑); PPL1只考虑词数。

ppl = 10^(-logprob / (words - OOVs + sentences))

ppl1 = 10^(-logprob / (words - OOVs))

步骤四:语言模型剪枝(可选)

用于减小语言模型的大小。
-prune threshold 删除一些ngram,满足删除以后模型的ppl增加值小于threshold,越大剪枝剪得越狠。

人工和AI大语言模型成本对比 ai语音模型_人工和AI大语言模型成本对比_47

7 总结

(RNN语言模型很好,可以对很长的上下文关系进行建模。但是它在语音识别中不常用。因为用RNN语言模型的话,解码出每一个词都得现算语言模型分数,效率不高。它一般用在二次解码rescore中。

N-gram可以编译成加权有限状态转换器,可以看成一种有向图。这样解码就变成了在图中搜索的过程,比较高效。所以语音识别一般用的还是N-gram)

语言模型如何配合声学模型来提高整个识别结果?

这就是解码器所做的事情。

人工和AI大语言模型成本对比 ai语音模型_语音识别_48

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

这篇关于人工和AI大语言模型成本对比 ai语音模型的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1090220

相关文章

Ilya-AI分享的他在OpenAI学习到的15个提示工程技巧

Ilya(不是本人,claude AI)在社交媒体上分享了他在OpenAI学习到的15个Prompt撰写技巧。 以下是详细的内容: 提示精确化:在编写提示时,力求表达清晰准确。清楚地阐述任务需求和概念定义至关重要。例:不用"分析文本",而用"判断这段话的情感倾向:积极、消极还是中性"。 快速迭代:善于快速连续调整提示。熟练的提示工程师能够灵活地进行多轮优化。例:从"总结文章"到"用

AI绘图怎么变现?想做点副业的小白必看!

在科技飞速发展的今天,AI绘图作为一种新兴技术,不仅改变了艺术创作的方式,也为创作者提供了多种变现途径。本文将详细探讨几种常见的AI绘图变现方式,帮助创作者更好地利用这一技术实现经济收益。 更多实操教程和AI绘画工具,可以扫描下方,免费获取 定制服务:个性化的创意商机 个性化定制 AI绘图技术能够根据用户需求生成个性化的头像、壁纸、插画等作品。例如,姓氏头像在电商平台上非常受欢迎,

大模型研发全揭秘:客服工单数据标注的完整攻略

在人工智能(AI)领域,数据标注是模型训练过程中至关重要的一步。无论你是新手还是有经验的从业者,掌握数据标注的技术细节和常见问题的解决方案都能为你的AI项目增添不少价值。在电信运营商的客服系统中,工单数据是客户问题和解决方案的重要记录。通过对这些工单数据进行有效标注,不仅能够帮助提升客服自动化系统的智能化水平,还能优化客户服务流程,提高客户满意度。本文将详细介绍如何在电信运营商客服工单的背景下进行

从去中心化到智能化:Web3如何与AI共同塑造数字生态

在数字时代的演进中,Web3和人工智能(AI)正成为塑造未来互联网的两大核心力量。Web3的去中心化理念与AI的智能化技术,正相互交织,共同推动数字生态的变革。本文将探讨Web3与AI的融合如何改变数字世界,并展望这一新兴组合如何重塑我们的在线体验。 Web3的去中心化愿景 Web3代表了互联网的第三代发展,它基于去中心化的区块链技术,旨在创建一个开放、透明且用户主导的数字生态。不同于传统

AI一键生成 PPT

AI一键生成 PPT 操作步骤 作为一名打工人,是不是经常需要制作各种PPT来分享我的生活和想法。但是,你们知道,有时候灵感来了,时间却不够用了!😩直到我发现了Kimi AI——一个能够自动生成PPT的神奇助手!🌟 什么是Kimi? 一款月之暗面科技有限公司开发的AI办公工具,帮助用户快速生成高质量的演示文稿。 无论你是职场人士、学生还是教师,Kimi都能够为你的办公文

Andrej Karpathy最新采访:认知核心模型10亿参数就够了,AI会打破教育不公的僵局

夕小瑶科技说 原创  作者 | 海野 AI圈子的红人,AI大神Andrej Karpathy,曾是OpenAI联合创始人之一,特斯拉AI总监。上一次的动态是官宣创办一家名为 Eureka Labs 的人工智能+教育公司 ,宣布将长期致力于AI原生教育。 近日,Andrej Karpathy接受了No Priors(投资博客)的采访,与硅谷知名投资人 Sara Guo 和 Elad G

阿里开源语音识别SenseVoiceWindows环境部署

SenseVoice介绍 SenseVoice 专注于高精度多语言语音识别、情感辨识和音频事件检测多语言识别: 采用超过 40 万小时数据训练,支持超过 50 种语言,识别效果上优于 Whisper 模型。富文本识别:具备优秀的情感识别,能够在测试数据上达到和超过目前最佳情感识别模型的效果。支持声音事件检测能力,支持音乐、掌声、笑声、哭声、咳嗽、喷嚏等多种常见人机交互事件进行检测。高效推

让树莓派智能语音助手实现定时提醒功能

最初的时候是想直接在rasa 的chatbot上实现,因为rasa本身是带有remindschedule模块的。不过经过一番折腾后,忽然发现,chatbot上实现的定时,语音助手不一定会有响应。因为,我目前语音助手的代码设置了长时间无应答会结束对话,这样一来,chatbot定时提醒的触发就不会被语音助手获悉。那怎么让语音助手也具有定时提醒功能呢? 我最后选择的方法是用threading.Time

Retrieval-based-Voice-Conversion-WebUI模型构建指南

一、模型介绍 Retrieval-based-Voice-Conversion-WebUI(简称 RVC)模型是一个基于 VITS(Variational Inference with adversarial learning for end-to-end Text-to-Speech)的简单易用的语音转换框架。 具有以下特点 简单易用:RVC 模型通过简单易用的网页界面,使得用户无需深入了

科研绘图系列:R语言扩展物种堆积图(Extended Stacked Barplot)

介绍 R语言的扩展物种堆积图是一种数据可视化工具,它不仅展示了物种的堆积结果,还整合了不同样本分组之间的差异性分析结果。这种图形表示方法能够直观地比较不同物种在各个分组中的显著性差异,为研究者提供了一种有效的数据解读方式。 加载R包 knitr::opts_chunk$set(warning = F, message = F)library(tidyverse)library(phyl