作者文章归档：course

链式法则

246 views

定义
链式法则（Chain Rule）是微积分中的一个重要法则，用于计算复合函数的导数。如果有一个复合函数(y = f(g(x)))，那么它的导数(\frac{dy}{dx}=\frac{df}{dg}\cdot\frac{dg}{dx})。也就是说，复合函数的导数是外层函数对内层函数的导数乘以内层函数对自变量的导数。
例如，设(y=(x^2 + 1)^3)，可以把它看作是(y = f(g(x)))的形式，其中(g(x)=x^2+1)，(f(u)=u^3)（这里(u = g(x))）。首先求(\frac{df}{du}=3u^2)，再求(\frac{dg}{dx}=2x)，然后根据链式...

反向传播

236 views

Backpropagation即反向传播，是一种在神经网络中用于计算梯度的算法，通常用于训练神经网络以最小化损失函数，以下是对其详细介绍：

基本原理

前向传播：输入数据通过神经网络的各层进行正向传播，经过一系列的线性变换和激活函数运算，最终得到输出结果。
计算损失：将输出结果与真实标签进行比较，通过损失函数计算出预测误差，即损失值。
反向传播：从输出层开始，根据损失函数对输出层的偏导数，以及各层之间的权重和激活函数的导数，依次计算出每一层的梯度。然后根据这些梯度，使用优化算法来更新网络中的权重，以减小损失函数的值。

数学推导

链式法则：反向传播算法的核心是链式法则，用于计算复合函数...

梯度下降-

252 views

梯度下降（Gradient Descent）是一种用于优化目标函数的迭代算法，广泛应用于机器学习和深度学习中，尤其是在最小化损失函数时。其核心思想是通过计算目标函数的梯度（即导数）来确定参数的更新方向，逐步逼近最优解。

梯度下降的基本原理

目标：最小化目标函数 ( J(\theta) )，其中 ( \theta ) 是模型的参数。
梯度：计算目标函数对参数的梯度 ( \nabla J(\theta) )，梯度方向是函数值上升最快的方向。
更新规则：沿着梯度的反方向更新参数，因为梯度下降的目标是最小化函数值。 [ \theta_{\text{new}} = \theta_{\...

矩阵运算-

197 views

矩阵运算（Matrix Operation）是线性代数中的重要内容，主要包括以下几种：

矩阵加法

定义：两个矩阵相加，要求它们的行数和列数分别相等。相加时，是将对应位置的元素相加。例如，对于两个矩阵$A = \begin{bmatrix}a_{11}&a_{12}\a_{21}&a_{22}\end{bmatrix}$和$B=\begin{bmatrix}b_{11}&b_{12}\b_{21}&b_{22}\end{bmatrix}$，它们的和$C = A + B=\begin{bmatrix}a_{11}+b_{11}&a_{12}+b_{1...

EverCam-屏幕录制工具

199 views

该网页主要介绍了 Camdemy 平台，其为用户提供免费的优质录制工具 EverCam，在台湾超 70%民众借此创作电子学习视频。网页还展示了丰富的精选影片，如问题处理经验分享、美食推荐、非洲科技建设报道、安全卫生教育训练简报、资管个案分析及资讯安全稽核等内容，主题涵盖生活经验、学术知识、行业资讯等多领域，充分体现平台内容的多元性与实用性，为用户提供广泛知识与资讯获取途径及创作便利。

EverCam 是一款在电子学习视频创作领域发挥重要作用的工具。它具备屏幕录制功能，能精准捕捉电脑屏幕的各类操作，无论是软件演示、教学课件讲解，还是编程过程展示，都可完整记录，且支持自定义录制区域与画质...

前馈网络-AI

220 views

前馈网络（Feedforward Network）是一种常见的人工神经网络架构。在这种网络中，信息从输入层单向流向输出层，其间无反馈回路，神经元分层排列，信号依次传递。它主要包含输入层接收数据、隐藏层处理特征（可多层）及输出层给出结果。其特点有： - 高效计算：因结构简单，计算复杂度低，数据处理快，适处理大规模数据，如图像识别中快速处理像素数据。 - 易于训练：多采用反向传播算法优化权重，基于误差梯度调整权重以减预测误差，能快速收敛达优性能，像语音识别模型可借此高效学习语音特征与模式关联。 - 功能强大：通过合理设计网络结构与参数，可拟合复杂非线性函数关系，在图像、语音、自然语言处理领域...