今天稍微描述一下模型深度的度量方式,第一种为基于评估构架所需执行的顺序指令的数目。即对应的流程图中的最长路径视为模型的深度。然而不同的定义方法和不同的函数可能导致模型流程图的计算方法的不同能图的深度也存在一定的差异。第二种为在深度概率模型中使用的方法,他不是将计算图的深度视为模型深度,而是将描述概念彼此如何关联的图的深度视为模型的深度。
实际上通过深度图来判断模型是不是深度学习模型,所以对于模型深度的计算也不一定总是能够达成共识,但是与传统的基于浅层学习的方法相比,基于深度学习的方法模型更加复杂,具有更多的组合特征。
实际上机器学习的数学原理主要有两个,一个是线性代数,另一个为概率论,线性代数在这里就不详细介绍,实际上就是一些矩阵,,张量的操作,在以前的学习和分析中也介绍过,下面主要介绍一下概率论在机器学习中的应用。
实际上在程序设计中处理的大部分实体都是确定且必然的,对于确定的输入通常会有一个确定的输出,但是对于机器学习来说处理的问题往往是一些直觉性的问题,这类问题的特点在于需要在不确定的情况下进行计算或推理,具体的来说不确定性有三种来源

  • 1.被建模系统内在的随机性;
  • 2.部分观测,由于实际上机器学习的过程通常是通过样本去估计总体或通过样本去推测总体,在此情况下样本往往是对总体的部分观测,由此出现观测样本的随机性;
  • 3.建模的不完全性,实际上在建模的过程中由于模型过于复杂或对模型的理解不够全面,建模过程通常是一些简化和拟合的过程,

概率有两种形式,1是说明事件发生的可能性,比如丢硬币出现正面向上的概率是50%;2.说明信任度,比如病人可能患病的概率为10%,概率论的主要作用就是处理不确定性问题。在下一章中我们将详细介绍概率论及其应用。