重点解码效果总结#####论文阅读——《Towards a Human-like Open-Domain Chatbot》

2024-05-07 13:48
文章标签 总结 重点 效果 阅读 解码 论文 open like domain human towards chatbot #####

本文主要是介绍重点解码效果总结#####论文阅读——《Towards a Human-like Open-Domain Chatbot》，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

Introduction

开放的chatbot API总结

  • cleverbot API: https://www.cleverbot.com/api/
    • https://github.com/plasticuproject/cleverbotfree
  • xiaobing: https://www.msxiaobing.com/
  • mitsuku: https://www.pandorabots.com/mitsuku/
    • https://github.com/hanwenzhu/mitsuku-api

主要贡献

  • 模型架构：Evolved Transformer
    • 模型输入：多轮对话（最多7轮）
    • 模型输出：回复
    • 最佳模型：2.6B参数，10.2PPL，8K BPE subword vocabulary, 训练数据40B words
  • 评测指标
    • PPL
    • SSA（Sensibleness and Specificity Average）用来评估
      • whether make sense
      • whether specific
    • 人工评测使用static（1477个多轮对话）和interactive（想说啥就说啥）两种数据集，发现SSA和PPL在这两个数据集上高度相关
    • 模型在评测集的表现：
      • 0.72的SSA
      • 经过filtering mechanism 和 tuned decoding后有0.79的SSA，相比于人提供的0.86SSA的回复已经很接近了
  • 方法的局限性
    • 评测数据集的局限性，不能解决所有领域的问题

对话机器人的评价

人工进行评测时的参考标准

  • Sensibleness
    • common sense
    • logical coherence
    • consistency
    • 人工评测时对于可打的标签：confusing, illogical, out of context, factually wrong, make sense
    • 缺陷：对于安全的回答，如I don’t know，无法区分
  • Specificity
    • A: I love tennis. B: That’s nice 应该被标记为not specific，如果 B：Me too, I can’t get enough of Roger Federer!则被标记为specific
    • 已经被标记为not sensible的直接标记为not specific
  • SSA
    • 可以使用Sensibleness和Specificity标记在所有responses的比例来作为参考标准
    • 使用SSA将Sensibleness和Specificity的比例进行了结合

可进行对比的几个开源chatbot框架

  • 基于RNN：https://github.com/lukalabs/cakechat
  • 基于Transformer: https://github.com/microsoft/DialoGPT
    • 762M参数的模型效果更好一些
    • dialogpt没有公开其解码和MMI-reranking的过程，gpt2bot实现了解码：https://github.com/polakowo/gpt2bot
    • 附加一个中文的基于DialoGPT开发的闲聊模型
      • https://github.com/yangjianxin1/GPT2-chitchat
      • https://blog.csdn.net/kingsonyoung/article/details/103803067

构建静态评测集

  • 从单轮开始：http://ai.stanford.edu/~quocle/QAresults.pdf
  • 增加一些个性化问题，如：Do you like cats?
    • A: Do you like movies?; B: Yeah. I like sci-fi mostly; A: Really? Which is your favorite?期待I love Back to the Future这样的回答，对于I don’t like movies这样的回复应标记为not sensible

进行动态评测

  • 机器人以Hi开始，评测人员自由与bot对话，并对每一个bot的回复进行评测。每一个对话至少14轮，至多28轮。

Meena Chatbot

训练数据

  • 来源于public social media
  • 清洗流程
    • 去掉 subword 数目<=2 或 subword 数目 >= 128
    • 去掉 字母比例<0.7
    • 去掉 包含URL
    • 去掉 作者名字bot
    • 去掉 出现100次以上
    • 去掉 跟上文n-gram重复比例过高
    • 去掉 敏感句子
    • 去掉 括号中内容
    • 当一个句子被删除时，则上文全部被删除
  • 共清洗出867M的(context, response)对
  • 使用sentence piece进行BPE分词，得到8K的BPE vocab
  • 最终语料包含341GB的语料(40B word)

模型框架

  • Evolved Transformer
    • 2.6B parameter
    • 1 ET encoder + 13 ET decoder
  • 最大的模型可达到10.2的PPL
  • 最大的传统Transformer模型（32层decoder）可达到10.7的PPL
  • hidden size: 2560
  • attention head: 32
  • 共享编码、解码、softmax的embedding
  • 编码、解码最长是128

训练细节

  • 使用Adafactor optimizer，初始学习率0.01，在前10k step保持不变，使用inverse square root of the number of steps进行衰减
  • 使用https://github.com/tensorflow/tensor2tensor代码进行训练

解码细节

  • 为了避免产生乏味的回复，可以使用多种方法进行解码
    • reranking
    • 基于profiles, topics, and styles
    • 强化学习
    • 变分自编吗
  • 当PPL足够小时，可以使用sample-and-rank策略进行解码
    • 使用temperature T随机产生N个独立的候选

      • T=1产生不经过修正的分布
      • T越大，越容易产生不常见的词，如相关的实体名词，但可能产生错误的词
      • T越小，越容易产生常见的词，如冠词或介词，虽然安全但不specific
      • 解释1
温度是神经网络的超参数，用于在应用softmax之前通过缩放对数来控制预测的随机性。 例如，在TensorFlow的LSTM中，温度代表在计算softmax之前将logit除以多少。当温度为1时，我们直接在logits（较早层的未缩放输出）上计算softmax，并使用温度为0.6的模型在logits/0.6上计算softmax，从而得出较大的值。 在更大的值上执行softmax可使LSTM 更加自信 （需要较少的输入来激活输出层），但在其样本中也更加保守 （从不太可能的候选样本中进行抽样的可能性较小）。 使用较高的温度会在各个类上产生较软的概率分布，并使RNN更容易被样本“激发”，从而导致更多的多样性和更多的错误 。softmax函数通过确保网络输出在每个时间步长都在零到一之间，基于其指数值对候选网络的每次迭代进行归一化。因此，温度增加了对低概率候选者的敏感
      • 解释2
当T很大时，即趋于正无穷时，所有的激活值对应的激活概率趋近于相同（激活概率差异性较小）；而当T很低时，即趋于0时，不同的激活值对应的激活概率差异也就越大。
    • 发现使用beam-search解码会产生重复且无趣的回复，使用sample-and-rank产生的回复会丰富一些
    • 使用N=20，T=0.88
  • response score的计算：logP/T，P是response的likelihood，T是token的个数
  • 解码时增加detect cross turn repetitions
    • 当两个turn的n-gram重复超过一定比例时，则从候选中删除
  • 增加一个分类层，用来过滤掉敏感回复

结论

SSA和PPL是相关的

  • 基本呈线性关系

效果的比较

  • 小冰：呈现出个性化的回复，但有时也会无意义，且经常回复得太平常。小冰另一个特点就是具有同情心，可以在以后的评价指标中考虑这一点。小冰有near-human-level engagingness但not very close to human-level humanness，因此在我们的评测指标上SSA不高。
  • mitsuku：56%SSA（72%sensibility 40%specifity）, 网站上的对话并不是它参加图灵测试的版本
  • DialoGPT：48%SSA（57%sensibility 49%specifity）
  • CleverBot：在interactive评测表现比static上稍微好一些（56% interactive SSA，44% static SSA）。发现cleverbot更擅长将话题引入到它更擅长的领域中，缺少personality
  • Meena：base（72% SSA），full（79% SSA）

这篇关于重点解码效果总结#####论文阅读——《Towards a Human-like Open-Domain Chatbot》的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/967525。

相关文章

关于C++中的虚拟继承的一些总结（虚拟继承，覆盖，派生，隐藏）

关于C++中的虚拟继承的一些总结（虚拟继承，覆盖，派生，隐藏）

1.为什么要引入虚拟继承 虚拟继承是多重继承中特有的概念。虚拟基类是为解决多重继承而出现的。如:类D继承自类B1、B2，而类B1、B2都继承自类A，因此在类D中两次出现类A中的变量和函数。为了节省内存空间，可以将B1、B2对A的继承定义为虚拟继承，而A就成了虚拟基类。实现的代码如下： class A class B1:public virtual A; class B2:pu
阅读更多...
十五.各设计模式总结与对比

十五.各设计模式总结与对比

1.各设计模式总结与对比 1.1.课程目标 1、 简要分析GoF 23种设计模式和设计原则,做整体认知。 2、 剖析Spirng的编程思想，启发思维,为之后深入学习Spring做铺垫。 3、 了解各设计模式之间的关联，解决设计模式混淆的问题。 1.2.内容定位 1、 掌握设计模式的"道" ，而不只是"术" 2、 道可道非常道，滴水石穿非一日之功，做好长期修炼的准备。 3、 不要为了
阅读更多...
人工智能机器学习算法总结神经网络算法(前向及反向传播)

人工智能机器学习算法总结神经网络算法(前向及反向传播)

1.定义，意义和优缺点 定义: 神经网络算法是一种模仿人类大脑神经元之间连接方式的机器学习算法。通过多层神经元的组合和激活函数的非线性转换，神经网络能够学习数据的特征和模式，实现对复杂数据的建模和预测。(我们可以借助人类的神经元模型来更好的帮助我们理解该算法的本质，不过这里需要说明的是，虽然名字是神经网络，并且结构等等也是借鉴了神经网络，但其原型以及算法本质上还和生物层面的神经网络运行原理存在
阅读更多...
以canvas方式绘制粒子背景效果，感觉还可以

以canvas方式绘制粒子背景效果，感觉还可以

这个是看到项目中别人写好的，感觉这种写法效果还可以，就存留记录下 就是这种的背景效果。如果想改背景颜色可以通过canvas.js文件中的fillStyle值改。 附上demo下载地址。 https://download.csdn.net/download/u012138137/11249872
阅读更多...
echarts省份标注加散点效果

echarts省份标注加散点效果

这个是安徽的效果图，鼠标移到红色标注或者对应的市区位置都会显示对应的数值。 先直接上代码： import anhuiMapJson from './anhui.json'getCoords: function(city) {var res = [];if (city != null) {for (var c in this.cityMap.features) {if (this.cityMa
阅读更多...
Java注解详细总结

Java注解详细总结

什么是注解？         Java注解是代码中的特殊标记，比如@Override、@Test等，作用是：让其他程序根据注解信息决定怎么执行该程序。         注解不光可以用在方法上，还可以用在类上、变量上、构造器上等位置。 自定义注解  现在我们自定义一个MyTest注解 public @interface MyTest{String aaa();boolean bbb()
阅读更多...
tensorboard-----summary用法总结

tensorboard-----summary用法总结

Tensorflow学习笔记——Summary用法         最近在研究tensorflow自带的例程speech_command,顺便学习tensorflow的一些基本用法。 其中tensorboard 作为一款可视化神器，可以说是学习tensorflow时模型训练以及参数可视化的法宝。 而在训练过程中，主要用到了tf.summary()的各类方法，能够保存训练过程以及参数分布图并在
阅读更多...
七种排序方式总结

七种排序方式总结

/*2018.01.23*A:YUAN*T:其中排序算法：冒泡排序，简单排序，直接插入排序，希尔排序，堆排序，归并排序，快速排序*/#include <stdio.h>#include <math.h>#include <malloc.h>#define MAXSIZE 10000#define FALSE 0#define TRUE 1typedef struct {i
阅读更多...
Java实现MD5加密总结

Java实现MD5加密总结

Java实现MD5加密总结 大家好，我是免费搭建查券返利机器人省钱赚佣金就用微赚淘客系统3.0的小编，也是冬天不穿秋裤，天冷也要风度的程序猿！ 1. 什么是MD5加密 MD5是一种常用的哈希算法，用于将任意长度的数据通过哈希运算转换为固定长度的数据串，通常为128位的二进制串，常用于对密码等敏感信息进行加密存储或传输。 2. Java实现MD5加密的方法 2.1 使用java.sec
阅读更多...
XMG 抽屉效果

XMG 抽屉效果

1.比如说我创建了3个View -(void)viewDidLoad{  [ super viewDidLoad]; [self setUpChild] ;         UIPanGestureRecognizer *pan=[UIPanGestureRecognizer alloc]initWithTarget:self action:@selector(pan:)];
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2