1. 定义
2. Frobenius范数（弗罗贝尼乌斯范数）是一种矩阵范数，用于衡量矩阵的大小或“长度”。对于一个(m\times n)的矩阵(A=(a_{ij}))，它的Frobenius范数定义为(\left\lVert A\right\rVert_F=\sqrt{\sum_{i = 1}^{m}\sum_{j = 1}^{n}\vert a_{ij}\vert^2})。例如，对于矩阵(A = \begin{bmatrix}1&2\3&4\end{bmatrix})，其Frobenius范数(\left\lVert A\right\rVert_F=\sqrt{1^2 + 2^2...

Read more

1. 定义
2. 哈达码积（Hadamard product）也称为元素对应乘积，是一种特殊的矩阵乘法。对于两个相同维度的矩阵(A=(a_{ij}))和(B=(b_{ij}))，它们的哈达码积(A\circ B)是一个同样维度的矩阵(C=(c_{ij}))，其中(c_{ij}=a_{ij}b_{ij})。例如，若(A = \begin{bmatrix}1&2\3&4\end{bmatrix})，(B=\begin{bmatrix}5&6\7&8\end{bmatrix})，则(A\circ B=\begin{bmatrix}1\times5&2\times6...

Read more

1. 定义与基本性质
2. 定义：对于一个方阵(A=(a_{ij}))，如果(a_{ij}=a_{ji})，对所有的(i)和(j)都成立，那么矩阵(A)就是对称矩阵。例如，(A = \begin{bmatrix}1&2&3\2&4&5\3&5&6\end{bmatrix})是一个对称矩阵，因为(a_{12}=a_{21}=2)，(a_{13}=a_{31}=3)，(a_{23}=a_{32}=5)。
3. 性质：
   • 对称矩阵的转置等于它本身，即(A = A^T)。这是对称矩阵的本质特征。
   • 对称矩阵的主对角线元素可以是任意实数，主对角线就像一面“镜子”，使得矩...

Read more

1. 零向量
2. 定义：在向量空间中，所有分量都为零的向量称为零向量。例如，在二维向量空间中，零向量表示为(\vec{0}=(0,0))，在三维向量空间中为(\vec{0}=(0,0,0))。
3. 性质：零向量是唯一的。对于任意向量(\vec{v})，都有(\vec{v}+\vec{0}=\vec{v})，并且(0\cdot\vec{v}=\vec{0})（这里第一个(0)是标量(0)，第二个(\vec{0})是零向量）。它在向量空间的运算中起到类似数字运算中(0)的作用。例如，在求解线性方程组(A\vec{x}=\vec{b})时，如果(\vec{b}=\vec{0})，这个方程组就是齐次线性方程...

Read more

1. 对角矩阵
2. 定义：对角矩阵是一种方阵，除了主对角线（从左上角到右下角的对角线）上的元素外，其余元素都为零。例如，一个(3\times3)的对角矩阵(A)可以写成(A = \begin{bmatrix}a_{11}&0&0\0&a_{22}&0\0&0&a_{33}\end{bmatrix})。
3. 性质和应用：对角矩阵在矩阵乘法运算中有特殊的优势。当对角矩阵与另一个矩阵相乘时，相当于对另一个矩阵的行或列进行缩放。假设(A)是对角矩阵，(B)是一个(n\times m)的矩阵，那么(AB)的结果是将(B)的每一行按照(A)主对角线上对应的元素进行...

Read more

1. 线性代数基础概念与扭曲空间的联系
2. 向量空间：线性代数主要研究向量空间。在常规的三维欧几里得空间（这是一种“未扭曲”的空间概念）中，向量可以用坐标来表示，如((x,y,z))。向量空间具有加法和数乘运算等基本性质。而在扭曲空间中，向量的概念变得更加复杂。例如，在一个弯曲的二维曲面（如球面）上，切向量的定义依赖于曲面的局部几何。我们可以把球面上某一点的切向量看作是在该点处与球面“相切”的向量，它所在的“平面”是曲面在该点的切平面。
3. 基向量和坐标变换：在线性代数中，基向量是用来表示向量空间的基本框架。在欧几里得空间中，我们可以很方便地选择标准基向量，如在三维空间中的(\vec{i}=(1,0...

Read more

1. MECE原则的起源与在麦肯锡的地位

MECE（Mutually Exclusive, Collectively Exhaustive）即相互独立、完全穷尽，是麦肯锡思维过程的一条基本准则。它是麦肯锡顾问在解决复杂商业问题时的核心工具之一，帮助团队梳理混乱的问题，构建清晰的思维架构，确保分析全面且有条理。这一原则已经深深融入麦肯锡的咨询文化之中，成为麦肯锡方法论的重要标志。

1. 相互独立（Mutually Exclusive）的具体应用和案例

2. 企业战略中的业务单元划分：在分析大型企业的业务组合时，麦肯锡顾问会运用MECE原则来划分业务单元。例如，一家跨国企业经营多种业务，包括电子产...

Read more

动手学深度学习在线课程

官网

github

这是动手学深度学习在线课程的相关介绍，课程于2021年3月20日开始，预计7月结束，内容涵盖深度学习基础、卷积神经网络、计算机视觉、循环神经网络、自然语言处理等方面，具有以下特点：

1. 课程背景与特点

2. 背景：深度学习发展迅速但模型复杂，本课程从零开始教授，只需基础Python编程和数学知识。

3. 特点：讲述模型算法同时用PyTorch实现细节，含四次课程竞赛，内容紧靠《动手学深度学习》第二版，被近200所大学采用。

4. 讲师与参与方式

5. 讲师：AWS资深首席科学家、美国卡内基梅隆大学计算机系博士李沐。

6. 参与方式：无需注册或缴费，直播时...

Read more

1. 定义
2. Sigmoid函数，也称为逻辑函数（Logistic Function），其数学表达式为(y = \frac{1}{1 + e^{-x}})，其中(e)是自然常数（约为(2.71828)），(x)是自变量。

3. 这个函数的定义域是((-\infty,+\infty))，值域是((0,1))。例如，当(x = 0)时，(y=\frac{1}{1 + e^{0}}=\frac{1}{2})；当(x\to+\infty)时，(y\to1)；当(x\to-\infty)时，(y\to0)。

4. 函数性质

5. 单调性：Sigmoid函数是单调递增函数。这意味着当(x)的值增加时，(y)的值也会...

Read more

1. 定义
2. 函数集（Function Set）是指一组具有某种共同性质或用于特定目的的函数的集合。这些函数可以是数学函数、编程语言中的函数或者机器学习模型中的函数族。

3. 例如，在数学中，所有的多项式函数构成一个函数集。一个(n)次多项式函数的一般形式为(y = a_0 + a_1x + a_2x^2+\cdots+a_nx^n)，其中(a_0,a_1,\cdots,a_n)是系数，所有这样的多项式函数（无论(n)取何值，系数如何取值）组成了多项式函数集。

4. 分类

5. 按函数类型分类
   • 线性函数集：包括所有形如(y = mx + b)的函数，其中(m)是斜率，(b)是截距。例如(y = 2x +...

Read more