[[Python基础语法]] [[深度学习入门常用库]] 001深度学习入门——感知机 002深度学习入门——神经网络 003深度学习入门——神经网络的学习 004深度学习入门——误差反向传播法 005深度学习入门——与学习相关的技巧 006深度学习入门——卷积神经网络
合集请查看：深度学习入门合集 参考书籍：深度学习入门 基于Python的理论与实现 作者：斋藤康毅 卷积神经网络（Convolutional Neural Network，CNN） 整体结构 较神经网络多出了卷积层（Convolution层）和池化层（Pooling层） 之前的神经网络中，相邻层的所有神经元之间都有连接，这成为[[全连接(fully…
合集请查看：深度学习入门合集 参考书籍：深度学习入门 基于Python的理论与实现 作者：斋藤康毅 参数的更新 SGD ![[SGD]] class SGD: def __init__(self, lr=0.01): self.lr = lr def update(self, params, grads): for key in params.ke…
合集请查看：深度学习入门合集 参考书籍：深度学习入门 基于Python的理论与实现 作者：斋藤康毅 前置：[[计算图]] 激活函数层的实现 ReLU层 激活函数ReLU（Rectified Linear Unit）由下式表示 $$y= \begin{cases} x & \text {($x>0$)} \ 0 & \text{…
合集请查看：深度学习入门合集 参考书籍：深度学习入门 基于Python的理论与实现 作者：斋藤康毅 损失函数 ![[Loss Function]] ![[均方误差]] ![[交叉熵误差]] mini-batch学习 机器学习使用训练数据进行学习。使用训练数据进行学习，严格来说，就是针对训练数据计算损失函数的值，找出使该值尽可能小的参数。因此，计算损…
合集请查看：深度学习入门合集 参考书籍：深度学习入门 基于Python的理论与实现 作者：斋藤康毅 什么是神经网络 用图来表示就是下图↓ 感知机和神经网络的主要区别在于激活函数 激活函数 定义： [[Activation Function]] 激活函数是连接感知机和神经网络的桥梁。 阶跃函数 一旦输入超过阈值，就切换输出。这样的函数称为“阶跃函数 …
合集请查看：深度学习入门合集 参考书籍：深度学习入门 基于Python的理论与实现 作者：斋藤康毅 是什么 感知机接收多个输入信号，输出一个信号。感知机的信号只有“流/不流”（1/0）两种取值。在本书中，0对应“不传递信号”，1对应“传递信号”。 下图是一个接收两个输入信号的感知机的例子。x1、x2是输入信号，y是输出信号，w1、w2是权重。图中的…