合集请看：pyTorch入门合集 [[Python基础语法]] [[深度学习入门合集]] Python深度学习：安装Anaconda、PyTorch（GPU版）库与PyCharm_哔哩哔哩_bilibili
参考视频：https://www.bilibili.com/video/BV1hE411t7RN/?spm_id_from=333.337.search-card.all.click [[什么是tensor]] [[配置anaconda镜像源]] 001pyTorch入门——前置 002pyTorch入门——Dataset和DataLoader 0…
合集请查看：深度学习入门合集 参考书籍：深度学习入门 基于Python的理论与实现 作者：斋藤康毅 卷积神经网络（Convolutional Neural Network，CNN） 整体结构 较神经网络多出了卷积层（Convolution层）和池化层（Pooling层） 之前的神经网络中，相邻层的所有神经元之间都有连接，这成为[[全连接(fully…
合集请查看：深度学习入门合集 参考书籍：深度学习入门 基于Python的理论与实现 作者：斋藤康毅 参数的更新 SGD ![[SGD]] class SGD: def __init__(self, lr=0.01): self.lr = lr def update(self, params, grads): for key in params.ke…
合集请查看：深度学习入门合集 参考书籍：深度学习入门 基于Python的理论与实现 作者：斋藤康毅 前置：[[计算图]] 激活函数层的实现 ReLU层 激活函数ReLU（Rectified Linear Unit）由下式表示 $$y= \begin{cases} x & \text {($x>0$)} \ 0 & \text{…
合集请查看：深度学习入门合集 参考书籍：深度学习入门 基于Python的理论与实现 作者：斋藤康毅 损失函数 ![[Loss Function]] ![[均方误差]] ![[交叉熵误差]] mini-batch学习 机器学习使用训练数据进行学习。使用训练数据进行学习，严格来说，就是针对训练数据计算损失函数的值，找出使该值尽可能小的参数。因此，计算损…
合集请查看：深度学习入门合集 参考书籍：深度学习入门 基于Python的理论与实现 作者：斋藤康毅 什么是神经网络 用图来表示就是下图↓ 感知机和神经网络的主要区别在于激活函数 激活函数 定义： [[Activation Function]] 激活函数是连接感知机和神经网络的桥梁。 阶跃函数 一旦输入超过阈值，就切换输出。这样的函数称为“阶跃函数 …
合集请查看：深度学习入门合集 参考书籍：深度学习入门 基于Python的理论与实现 作者：斋藤康毅 是什么 感知机接收多个输入信号，输出一个信号。感知机的信号只有“流/不流”（1/0）两种取值。在本书中，0对应“不传递信号”，1对应“传递信号”。 下图是一个接收两个输入信号的感知机的例子。x1、x2是输入信号，y是输出信号，w1、w2是权重。图中的…