作者文章归档:course

多层感知机-


  1. 定义
  2. 多层感知机(Multilayer Perceptron,MLP)是一种前馈神经网络,它由多个神经元组成,这些神经元分布在不同的层次中。一个典型的MLP包括输入层、一个或多个隐藏层和输出层。输入层接收外部数据,如在图像分类任务中,输入层的神经元数量可能与图像的像素数量有关;隐藏层用于对输入数据进行特征提取和转换,每个隐藏层的神经元通过权重与前一层的神经元相连,并通过激活函数进行非线性变换;输出层则根据任务的要求输出最终结果,例如在分类任务中输出类别概率,在回归任务中输出预测值。

  3. 结构组成

  4. 输入层:输入层神经元的数量取决于输入数据的特征数量。例如,在一个预测房屋价格的任务中,...

Read more

Dropout-


  1. 定义
  2. Dropout是一种在神经网络训练过程中广泛使用的正则化方法。它是在训练阶段,以一定的概率(称为dropout概率,通常用 $p$ 表示)随机地将神经元的输出设置为0,就好像这些神经元被“丢弃”了一样。例如,在一个全连接神经网络层中,如果dropout概率为0.5,那么在每次前向传播过程中,大约有一半的神经元输出会被强制变为0。而在测试阶段,神经元的输出通常会根据训练阶段的dropout概率进行缩放,以保证期望输出与训练阶段的相同。

  3. 作用原理

  4. 防止过拟合:过拟合是指神经网络过度学习训练数据中的细节和噪声,而对新的数据泛化能力差。Dropout通过随机丢弃神经元,使得网络不...

Read more

无差别的加入噪音


  1. 定义
  2. “无差别的加入噪音”是一种数据处理操作。通常是指在数据集中以一种相对均匀、没有特定偏向的方式添加随机干扰因素(即噪音)。例如,在一个时间序列数据集中,对于每一个数据点,按照相同的概率分布(如高斯分布、均匀分布等)随机地添加一个数值作为噪音。
  3. 目的和应用场景
  4. 模型鲁棒性测试:在机器学习和数据分析中,为了测试模型的鲁棒性,会无差别地加入噪音。例如,在训练好一个图像分类模型后,在测试图像数据上无差别地加入高斯噪音,观察模型的准确率变化。如果模型在加入噪音后的准确率下降幅度较小,说明模型具有较好的鲁棒性。以人脸识别模型为例,在实际应用场景中,图像可能会受到光照变化、轻微抖动等因素产生噪音...

Read more

岭回归


  1. 定义
  2. Tikhonov正则化(Tikhonov Regularization)也被称为岭回归(Ridge Regression),是一种用于解决线性回归中可能出现的过拟合问题的正则化方法。给定一个线性回归模型(y = X\beta+\epsilon),其中(y)是观测值向量((n\times1)),(X)是设计矩阵((n\times p)),(\beta)是系数向量((p\times1)),(\epsilon)是误差向量。传统的最小二乘估计是求(\hat{\beta}=(X^{T}X)^{-1}X^{T}y),使得残差平方和(\left|y - X\beta\right|^{2})最小...

Read more

AI大模型技术架构全景图


以下是AI大模型技术架构全景图的详细介绍:

基础设施层

  • GPU(图形处理单元):针对并行计算进行了优化,在处理大规模数据时优势显著,尤其适用于图像处理和神经网络训练等深度学习任务,能大幅提升计算效率。
  • CPU(中央处理单元):作为通用处理器,承担大部分计算任务,在执行逻辑运算和控制任务时表现高效,是计算机系统的关键部分。
  • RAM(随机存取存储器):提供计算过程中快速读写数据的临时存储空间,存放正在运行的程序和数据,以便CPU能够迅速访问,从而提升整体计算效率。
  • HDD(硬盘驱动器):主要用于存储大量训练数据和模型文件,虽然其访问速度不及RAM,但凭借较大的存储容量,成为长期保存数据的主...

Read more

机器学习及其应用2023


这本书名为《机器学习及其应用2023》,属于中国计算机学会学术著作丛书 - 知识科学系列,由黄圣君、张利军、钱超主编,由清华大学出版社出版。

一、书籍概要

  1. 核心主题

• 本书聚焦于机器学习及其在2023年的相关应用,内容涵盖了机器学习的多个方面,包括基础理论、算法、模型以及实际应用案例等,旨在为读者呈现机器学习领域的最新进展和应用成果。

  1. 主要内容章节

• 内容简介

• 提到本书介绍了2022 - 2023年部分专家在以视觉形式进行机器学习教育方面的研究进展,内容涉及机器学习基础理论、算法和实际应用等方面。

• 目录相关

• 从目录可以看出,书中包含多个专题,如“‘生成一切’背后的...

Read more

图解深度学习:可视化、交互式的人工智能指南


这本书名为《图解深度学习:可视化、交互式的人工智能指南》(DEEP LEARNING ILLUSTRATED: A Visual, Interactive Guide to Artificial Intelligence),由[美]乔恩·克罗恩(Jon Krohn)、格兰特·贝利费尔德(Grant Beyleveld)、阿格莱·巴森斯(Aglaé Bassens)著,刘乐平、刘芳、程璐华译,由人民邮电出版社出版,属于中国工信出版集团。

一、书籍概要

  1. 核心主题

• 本书通过可视化和交互式的方式介绍深度学习的相关知识,旨在帮助读者轻松理解人工智能领域中的深度学习概念、技术和应用。

  1. 主要...

Read more

机器学习开发实战


这本书名为《机器学习开发实战》(Introducing Machine Learning),属于智能系统与技术丛书,由[意]迪诺·埃斯波西托(Dino Esposito)著,杨延华、邓成译,由机械工业出版社出版。

一、书籍概要

  1. 核心主题

• 本书专注于机器学习的开发实践,通过对机器学习概念、技术和应用场景的介绍,结合实际案例,帮助读者掌握如何进行机器学习项目的开发。

  1. 主要内容章节

• 机器学习基础(第一部分)

• 包括人类是如何学习的、学习机理、人工智能的形式、本章小结等内容,为读者建立对机器学习基础概念的认知。

• 智能软件(第2章)

• 阐述应用人工智能、软件智能的发展、专家...

Read more

机器学习原理及应用


这本书名为《机器学习原理及应用》,由安俊秀、靳宇倡、陈宏松、陶全坤、马振明等编著,由人民邮电出版社出版,属于中国工信出版集团。

一、书籍概要

  1. 核心主题

• 本书全面介绍机器学习的原理及其应用,通过对机器学习算法、模型和应用场景的详细阐述,帮助读者掌握机器学习的基础知识和实践方法。

  1. 主要内容章节

• 机器学习概述(第1章)

• 包括人工智能发展历程、人工智能与机器学习、机器学习的两大学派、机器学习的三要素、机器学习算法的四种类型、机器学习的应用等内容,为读者建立对机器学习的宏观认识。

• 回归算法概述(第2章)

• 阐述回归算法简介,介绍常见的回归算法,帮助读者理解回归算法在机器学...

Read more

进化深度学习:遗传算法和神经网络


这本书名为《进化深度学习:遗传算法和神经网络》,作者是[加]迈克尔·兰哈姆(Micheal Lanham),译者是殷海英,由清华大学出版社出版。

一、书籍概要

  1. 核心主题

• 本书主要探讨进化深度学习,重点阐述遗传算法和神经网络的相关知识及其在深度学习中的应用,帮助读者了解如何利用进化算法来优化神经网络。

  1. 主要内容章节

• 进化深度学习简介(第1章)

• 包括什么是进化深度学习、深度学习优化的需求、用自动化机器学习实现学习、进化深度学习的应用等内容,为读者建立对进化深度学习的初步认知。

• 进化计算简介(第2章)

• 阐述Google Colab中的康威生命游戏、用Python进行...

Read more