论文中引入 transformer 的结构,其中注意力模型在对话轮的顺序上面起了了作用.最近我们使用递归神经网络多轮对话的上下文中用户说的话,但是我们原本认为注意力模型会更适合多轮场景.默认情况下,RNN假设每个选项和完整的序列有关,但是一轮对话当中包括一些交错的对话逻辑在里面. transformer 模型可以选择忽略或者选择对话的一部分内容.们比较了 Transformer Embedding Dialogue对话策略对LSTM和REDP的政策.旨在克服 ......

   本文描述了一个基于计划的、独立于任务的对话管理框架RavenClaw。该框架的一个关键特点是，它将对话控制逻辑的特定领域方面与独立于领域的对话技巧隔离开来，并在这个过程中促进了在复杂的、面向任务的领域中运行的混合主动系统的快速发展。系统开发人员可以专注于描述对话框任务控制逻辑，而RavenClaw对话框引擎则透明地支持和执行大量与领域无关的会话技能，如错误处理、计时和轮流。

   最近可能是闲的蛋疼，所以打算在自己博客上面接入广告。

   给出两个整数 a 和 b , 求他们的和。

   Gogs 更新功能比 Gitea 少很多，虽然不一定用得到。 Gitea 更新快，一些 bug 解决的快一点(虽然我没发现什么 bug) 可能是因为我 Gogs 用的时间久了，出现了视觉疲劳？

   在 2020 年 3 月 2 号左右，可能是当时我脑子抽了的原因，就在博客名字上面加了 万恶的 BLOG 字眼。终于在 同月 4 号，本人收到了腾讯备案组的电话警告，要求我在七天之内进行整改。

   最近一直再刷纪录片，索性就把好看的纪录片记录下来。

   vim 是一款比较好用的编辑器，被称为编辑器之神。当然linux或者unix默认的vim编辑器比较丑，要经过一系列的美化，对于使用者的要求比较高，没有耐心者勿用。

   一直沿用至今的“M-P神经元模型”正是对这一结构进行了抽象，也称“阈值逻辑单元“，其中树突对应于输入部分，每个神经元收到n个其他神经元传递过来的输入信号，这些信号通过带权重的连接传递给细胞体，这些权重又称为连接权（connection weight）。细胞体分为两部分，前一部分计算总输入值（即输入信号的加权和，或者说累积电平），后一部分先计算总输入值与该神经元阈值的差值，然后通过激活函数（activation function）的处理，产生输出从轴突传送给其 ......

   卷积神经网络沿用了普通的神经元网络即多层感知器的结构，是一个前馈网络。以应用于图像领域的CNN为例，大体结构如图。

   深度网络随着层数不断加深,可能会引起梯度消失/梯度爆炸的问题: “梯度消失”：指的是即当梯度（小于1.0）在被反向传播到前面的层时，重复的相乘可能会使梯度变得无限小。 “梯度爆炸”：指的是即当梯度（大于1.0）在被反向传播到前面的层时，重复的相乘可能会使梯度变得非常大甚至无限大导致溢出。 随着网络深度的不断增加，常常会出现以下两个问题: 长时间训练但是网络收敛变得非常困难甚至不收敛 网络性能会逐渐趋于饱和，甚至还会开始下降，可以观察到下图中56层的误差 ......

   叶斯分类器是一种概率框架下的统计学习分类器，对分类任务而言，假设在相关概率都已知的情况下，贝叶斯分类器考虑如何基于这些概率为样本判定最优的类标。在开始介绍贝叶斯决策论之前，我们首先来回顾下概率论委员会常委--贝叶斯公式。

   计算机视觉中关于图像识别有四大类任务： 分类-Classification：解决“是什么？”的问题，即给定一张图片或一段视频判断里面包含什么类别的目标。 定位-Location：解决“在哪里？”的问题，即定位出这个目标的的位置。 检测-Detection：解决“是什么？在哪里？”的问题，即定位出这个目标的的位置并且知道目标物是什么。 分割-Segmentation：分为实例的分割（Instance-level）和场景分割（Scene-level），解决“每 ......

   机器学习数学基础，学习机器学习的必备知识。

   主要是为了列个机器学习相关的提纲,方便对已经学过的知识进行整理,相同的知识点,每次或者每个阶段都会有不同的想法,而我需要做的就是把自己的想法写下来.