《神经网络与机器学习》学习笔记之二

1）上次课程小结与认识

上次课程内容是《神经网络与机器学习》的第一部分，主要内容包括1.讲述神经网络的形成阶段 2.介绍感知器的基本形式 3.讨论感知器收敛定理 4.高斯环境下感知器和贝叶斯分类器的关系 5.实验说明感知器的模式分类能力 6.推导感知器收敛定理的批量版本 7.总结和讨论。

（1）神经网络的形成阶段（1943-1958）： 1943年，McCulloch and Pitts引入神经网络的概念作为计算工具；1949年，Hebb提出自组织学习的第一个规则；1958年，Rosenblatt提出感知器作为有教师学习的第一个模型。

（2）感知器是用于线性可分模式分类的最简单的神经网络模型。基本上它由一个具有可调突出权值和偏置的神经元组成。

（3）当感知器的基本理论用于模式分类时，只需考虑单个神经单元情况（通常认为只能完成两类的模式分类）.因为通过扩展感知器的输出层可以使感知器包括不止一个神经元，相应地可以进行多于两类的分类。

2 学习了高斯环境下感知器与贝叶斯分类器的关系

   问题：

（1）高斯环境下，最小二乘法和最大后验估计为什么是等价的？

（2）最大后验估计和最大似然估计二者的基本差别。

来源：丁凯博客（微信/QQ号：269419279），转载请保留出处！

本文链接：http://www.zixuepai.com/post/42.html