第5讲:从生物大脑到人工神经网络

学习目标

  • 理解生物神经元的结构和信息传递方式
  • 了解从生物神经元到人工神经网络的演化过程
  • 认识深度学习的革命性进展

5.1 生物神经系统——亿万年的智慧结晶

5.1.1 生物神经元的结构

人脑包含约860亿个神经元,每个神经元通过突触与数千个其他神经元相连,形成了人类已知最复杂的计算网络。一个典型的生物神经元包括三个主要部分:

  • 树突:接收来自其他神经元的信号(输入端)
  • 细胞体:整合接收到的信号,决定是否产生神经冲动
  • 轴突:将神经冲动传递给下一个神经元(输出端)

5.1.2 神经元如何传递信息?

神经元通过电化学信号传递信息。当一个神经元接收到的刺激超过某个阈值时,它会产生一个"全或无"的动作电位(即脉冲),沿着轴突传递给下游神经元。传递的"信息"不是脉冲的形状(所有脉冲都一样),而是脉冲的时间频率

几个关键概念:

  • 静息电位:神经元未受刺激时的膜电位(约-70mV)
  • 动作电位:超过阈值时产生的电脉冲
  • "全或无"定律:要么不产生脉冲,产生了就是同样大小
  • 突触:神经元之间的连接点,分为兴奋性(促进放电)和抑制性(抑制放电)

5.2 人工神经网络——对大脑的数学抽象

5.2.1 感知机——最简单的神经元模型(1958年)

感知机是人工神经网络最基本的模型,它将生物神经元抽象为数学函数:接收多个输入,每个输入乘以权重后求和,再经过激活函数输出结果。尽管简单,感知机在模式分类问题上表现出了能力,并奠定了神经网络的基础。

5.2.2 多层感知机与深度学习

单层感知机只能解决线性可分的问题。为了处理更复杂的任务,研究者将多个神经元分层组织,形成了多层感知机。随着层数加深("深度"学习),网络可以学习越来越抽象的特征——从边缘检测到物体识别,再到语义理解。

5.2.3 深度学习的革命(2010年代至今)

关键突破包括:

  • 大数据:互联网时代海量训练数据的可用性
  • GPU加速:大规模并行计算使深层网络的训练成为可能
  • 反向传播算法:让深层网络的参数可以被有效优化
  • 新型网络结构:卷积神经网络(CNN)处理图像,循环神经网络(RNN)处理序列

5.3 从第一代到第三代神经网络

  • 第一代:感知机和多层感知机,基于McCulloch-Pitts神经元模型
  • 第二代:深度神经网络(DNN/CNN/RNN),使用连续激活函数和反向传播
  • 第三代:脉冲神经网络(SNN),基于脉冲时间编码,更接近生物神经元

5.4 为什么需要类脑计算?

尽管深度学习取得了巨大成功,但它面临几个根本性挑战:

  • 高能耗:训练一个大模型消耗的电力可以供应一个家庭数年
  • 算力瓶颈:传统芯片的算力增长接近物理极限(摩尔定律放缓)
  • 缺乏生物合理性:深度学习的机制与人脑有显著差异

而人脑仅消耗约20瓦功率,却能完成远超AI的复杂认知任务。类脑计算正是要从生物大脑的结构和机制中汲取灵感,构建全新的计算范式。

思考题

  1. 生物神经元和人工神经元的"激活"方式有什么本质区别?
  2. 你认为深度学习在哪些任务上已经超越了人类?在哪些方面仍然不及?
  3. 如果你要设计一个像人脑一样高效的计算系统,你会从哪些方面入手?

延伸阅读

  • Goodfellow, I., Bengio, Y., & Courville, A. Deep Learning. MIT Press.
  • 方滨兴. 人工智能安全. 电子工业出版社, 2020.