吴恩达机器学习008神经元和大脑

机器学习 算法

---

非线性假设

对于分类问题，我们也可以加上多次项来得到决策边界，当特征量很大时，来建立非线性分类器就不是一个很好的想法。



当处理计算机视觉问题时，对于一张50px*50px的图片时，仍然有2500个特征值，如果有RGB值的话将会有更多的特征（7500），这时候单纯依靠多次项来寻找决策边界不是一个好注意

神经元和大脑

大脑可以处理各种接入的传感器

模型展示I

下图为神经元的工作示意图



单个神经模型，sigmoid函数又呗叫做激活函数



多个神经元的组合，有最左边的输入层和右边的输出层，还有介于之间的隐藏层，隐藏层可以有多层，用于处理输入信息



对于神经网络的模型，我们有如下的表示方式：
首先先介绍一些表达方式
$a^{(j)}_i$表示第j层的第i个神经元。
$\Theta^{(j)}$表示第j层到第j+1层的映射

$$a_1^{(2)}=g(\Theta_{10}^{(1)}x_0+\Theta_{11}^{(1)}x_1+\Theta_{12}^{(1)}x_2+\Theta_{13}^{(1)}x_3)$$
$$a_2^{(2)}=g(\Theta_{20}^{(1)}x_0+\Theta_{21}^{(1)}x_1+\Theta_{22}^{(1)}x_2+\Theta_{23}^{(1)}x_3)$$
$$a_3^{(2)}=g(\Theta_{30}^{(1)}x_0+\Theta_{31}^{(1)}x_1+\Theta_{32}^{(1)}x_2+\Theta_{33}^{(1)}x_3)$$
$$h_{\Theta}(x)=a_1^{(3)}=g(\Theta_{10}^{(2)}a_0^{(2)}+\Theta_{11}^{(2)}a_1^{(2)}+\Theta_{12}^{(2)}a_2^{(2)}+\Theta_{13}^{(2)}a_3^{(2)})$$

模型展示II

神经网络计算的向量化把$\Theta_{10}^{(1)}x_0+\Theta_{11}^{(1)}x_1+\Theta_{12}^{(1)}x_2+\Theta_{13}^{(1)}x_3$看作$z_1^{(2)}$,同理对剩下的进行推导。



其他架构

例子与直觉理解I

例子，用神经网络计算逻辑与



例子，用神经网络计算逻辑或

例子与直觉理解II

计算逻辑非



结合逻辑与逻辑或和$(NOT x_1)AND(NOT x_2)$来计算$XOR$

多元分类

一对多问题最后往往有多个分类器，输出各自的判断来输出总的结果