神经网络是什么? 神经网络应用案例

导读相信目前很多小伙伴对于神经网络是什么?都比较感兴趣,那么小搜今天在网上也是收集了一些与神经网络是什么?相关的信息来分享给大家,希望...相信目前很多小伙伴对于神经网络是什么?都比较感兴趣,那么小搜今天在网上也是收集了一些与神经网络是什么?相关的信息来分享给大家,希望能够帮助到大家哦 。
1、1. 神经元咱们假设分类器的输入是通过某种途径获得的两个值,输出是0和1,比如分别代表猫和狗 。现在有一些样本:<img src=https://www.scwdwl.com/n/"/wp-content/uploads/article/2022/06/10/182175.jpg" data-rawwidth="420" data-rawheight="315" width="420">大家想想,最简单地把这两组特征向量分开的方法是啥?当然是在两组数据中间画一条竖直线,直线左边是狗,右边是猫,分类器就完成了 。以后来了新的向量,凡是落在直线左边的都是狗,落在右边的都是猫 。
2、一条直线把平面一分为二,一个平面把三维空间一分为二,一个n-1维超平面把n维空间一分为二,两边分属不同的两类,这种分类器就叫做神经元 。大家都知道平面上的直线方程是,等式左边大于零和小于零分别表示点在直线的一侧还是另一侧,把这个式子推广到n维空间里,直线的高维形式称为超平面,它的方程是:神经元就是当h大于0时输出1,h小于0时输出0这么一个模型,它的实质就是把特征空间一切两半,认为两瓣分别属两个类 。你恐怕再也想不到比这更简单的分类器了,它是McCulloch和Pitts在1943年想出来了 。这个模型有点像人脑中的神经元:从多个感受器接受电信号,进行处理(加权相加再偏移一点,即判断输入是否在某条直线的一侧),发出电信号(在正确的那侧发出1,否则不发信号,可以认为是发出0),这就是它叫神经元的原因 。
【神经网络是什么? 神经网络应用案例】3、当然,上面那幅图我们是开了上帝视角才知道“一条竖直线能分开两类”,在实际训练神经元时,我们并不知道特征是怎么抱团的 。神经元模型的一种学习方法称为Hebb算法:先随机选一条直线/平面/超平面,然后把样本一个个拿过来,如果这条直线分错了,说明这个点分错边了,就稍微把直线移动一点,让它靠近这个样本,争取跨过这个样本,让它跑到直线正确的一侧;如果直线分对了,它就暂时停下不动 。因此训练神经元的过程就是这条直线不断在跳舞,最终跳到两个类之间的竖直线位置 。
4、2. 神经网络MP神经元有几个显著缺点 。首先它把直线一侧变为0,另一侧变为1,这东西不可微,不利于数学分析 。人们用一个和0-1阶跃函数类似但是更平滑的函数Sigmoid函数来代替它(Sigmoid函数自带一个尺度参数,可以控制神经元对离超平面距离不同的点的响应,这里忽略它),从此神经网络的训练就可以用梯度下降法来构造了,这就是有名的反向传播算法 。神经元的另一个缺点是:它只能切一刀!你给我说说一刀怎么能把下面这两类分开吧 。<img src=https://www.scwdwl.com/n/"/wp-content/uploads/article/2022/06/10/182176.jpg" data-rawwidth="420" data-rawheight="315" width="420">解决办法是多层神经网络,底层神经元的输出是高层神经元的输入 。我们可以在中间横着砍一刀,竖着砍一刀,然后把左上和右下的部分合在一起,与右上的左下部分分开;也可以围着左上角的边沿砍10刀把这一部分先挖出来,然后和右下角合并 。
5、3. 大型神经网络我们不禁要想了,假如我们的这个网络有10层神经元,第8层第25个神经元,它有什么含义呢?我们知道它把第七层的一大堆神经元的输出作为输入,第七层的神经元又是以第六层的一大堆神经元做为输入,那么这个特殊第八层的神经元,它会不会代表了某种抽象的概念?就好比你的大脑里有一大堆负责处理声音、视觉、触觉信号的神经元,它们对于不同的信息会发出不同的信号,那么会不会有这么一个神经元(或者神经元小集团),它收集这些信号,分析其是否符合某个抽象的概念,和其他负责更具体和更抽象概念的神经元进行交互 。