- 定义与概念
-
在卷积神经网络(CNN)中,特征图(Feature Map)是卷积层(Convolutional Layer)的输出。它是通过卷积核(Filter)在输入数据(如图像、文本序列等)上进行卷积操作后得到的结果。例如,将一个大小为(28\times28)的灰度图像输入到一个卷积层,经过卷积操作后,会得到一个新的二维数组,这个二维数组就是该卷积层对应的特征图。
-
生成过程
- 卷积操作:假设输入数据是一个大小为(W_{in}\times H_{in})(宽度和高度)的二维矩阵,卷积核大小为(k\times k),步长为(s),填充为(p)。卷积核从输入数据的左上角开始,以步长(...
作者文章归档:course
参数共享-
- 定义与概念
-
在卷积神经网络(CNN)中,参数共享(Parameter Sharing)是指在卷积层(Convolutional Layer)中,同一个卷积核(Filter)在整个输入数据的不同位置进行卷积操作时,使用相同的一组参数(即权重)。例如,在对一幅图像进行卷积操作时,一个3x3的卷积核在图像的左上角位置计算特征时使用的权重,与它在图像右下角位置计算特征时使用的权重是完全相同的。
-
工作原理
-
假设我们有一个大小为(n\times n)的输入图像和一个大小为(k\times k)((k\lt n))的卷积核。卷积核从图像的左上角开始,以一定的步长(例如步长为1)向右和向下滑...
卷积层-
- 定义与基本概念
- 在卷积神经网络(CNN)中,卷积层(Convolutional Layer)是核心组成部分。它通过使用卷积核(也称为滤波器)在输入数据(例如图像、文本序列等)上进行卷积操作,从而提取数据中的特征。可以将卷积层看作是一个自动特征提取器,它能够学习到输入数据中不同的局部模式。
-
例如,在处理图像数据时,卷积层中的卷积核会在图像的像素矩阵上滑动,通过计算卷积核与对应像素区域的加权和,来检测图像中的各种特征,如边缘、角落、纹理等。就像用一个小的“探测器”在图像上移动,寻找特定的图案。
-
工作原理
- 卷积操作细节
- 假设输入数据是一个二维矩阵(如单通道的灰度图像),大小为(W_{...
偏差-
- 偏差(Bias)的概念
- 在机器学习领域,模型的偏差是指模型预测值与真实值之间的系统性差异。简单来说,偏差反映了模型本身的拟合能力,即模型在学习数据模式时是否存在某种倾向性的错误。例如,假设真实的数据分布是一个复杂的二次函数曲线,但我们使用一个简单的线性模型去拟合,这个线性模型就会因为其自身结构的限制,存在一种固定的、偏离真实值的倾向,这就是高偏差。
- 高偏差模型的特点与表现
- 欠拟合(Underfitting)现象:高偏差模型通常会出现欠拟合问题。这意味着模型过于简单,无法捕捉到数据中的复杂模式和细节。以图像分类任务为例,如果使用一个仅包含一层且神经元数量很少的神经网络来分类具有多种复杂特...
填充-
- 定义与概念
-
在深度学习领域,特别是卷积神经网络(CNN)中,“padding”(填充)是一种操作。它是指在输入数据(通常是图像、文本序列等)的边缘添加额外的像素(对于图像)或元素(对于序列)。例如,在一个二维图像卷积操作前,在图像的四周添加一圈像素值,这些添加的像素就是填充。
-
目的和作用
- 保持输出特征图尺寸:在卷积操作中,不使用填充时,输出特征图的尺寸会随着卷积操作而逐渐减小。例如,对于一个大小为(n\times n)的输入图像,使用大小为(k\times k)的卷积核,步长为(1),若不进行填充,每次卷积操作后,输出特征图的边长会减少((k - 1))。通过填充合适数量的像素...
步长-
“stride”这个词在不同的语境中有不同的含义,在计算机科学,特别是深度学习领域以及日常用语中有以下解释:
一、在深度学习(卷积神经网络 - CNN)中的含义
- 定义
-
在卷积神经网络中,“stride”(步长)是指卷积核在输入数据(如图像、序列等)上滑动的步长大小。它决定了卷积操作后输出特征图(Feature Map)的尺寸。例如,在一个二维图像的卷积操作中,卷积核从左上角开始,按照指定的步长向右和向下滑动,对覆盖的区域进行卷积计算。
-
对输出特征图尺寸的影响
- 对于输入数据大小为(W_{in})(宽度)、(H_{in})(高度),卷积核大小为(k)(假设为正方形卷积核),步长为(...
部署架构图-ONE
- 单机版
- 集群版
-
高可用版
-
前端
- 后端
- 预测服务
- 存储服务 mongodb
-
缓存服务
-
接入层 7层
- 接入层4 层
- 接入层 网关层
- 业务逻辑层
- 缓存集群
- 存储集群
- 预测计算集群
弗罗贝尼乌斯范数-
- 定义
- Frobenius范数(弗罗贝尼乌斯范数)是一种矩阵范数,用于衡量矩阵的大小或“长度”。对于一个(m\times n)的矩阵(A=(a_{ij})),它的Frobenius范数定义为(\left\lVert A\right\rVert_F=\sqrt{\sum_{i = 1}^{m}\sum_{j = 1}^{n}\vert a_{ij}\vert^2})。例如,对于矩阵(A = \begin{bmatrix}1&2\3&4\end{bmatrix}),其Frobenius范数(\left\lVert A\right\rVert_F=\sqrt{1^2 + 2^2...
哈达码积-
- 定义
- 哈达码积(Hadamard product)也称为元素对应乘积,是一种特殊的矩阵乘法。对于两个相同维度的矩阵(A=(a_{ij}))和(B=(b_{ij})),它们的哈达码积(A\circ B)是一个同样维度的矩阵(C=(c_{ij})),其中(c_{ij}=a_{ij}b_{ij})。例如,若(A = \begin{bmatrix}1&2\3&4\end{bmatrix}),(B=\begin{bmatrix}5&6\7&8\end{bmatrix}),则(A\circ B=\begin{bmatrix}1\times5&2\times6...
对称矩阵-
- 定义与基本性质
- 定义:对于一个方阵(A=(a_{ij})),如果(a_{ij}=a_{ji}),对所有的(i)和(j)都成立,那么矩阵(A)就是对称矩阵。例如,(A = \begin{bmatrix}1&2&3\2&4&5\3&5&6\end{bmatrix})是一个对称矩阵,因为(a_{12}=a_{21}=2),(a_{13}=a_{31}=3),(a_{23}=a_{32}=5)。
- 性质:
- 对称矩阵的转置等于它本身,即(A = A^T)。这是对称矩阵的本质特征。
- 对称矩阵的主对角线元素可以是任意实数,主对角线就像一面“镜子”,使得矩...