分类目录归档：基础设施

MLOps-知识体系-全景图

评论
80 views

  • ML 生命周期

以下是一个较为常见的MLOps（机器学习运维）知识体系全景图的大致介绍：

数据管理

  • 数据采集：从各种数据源（如传感器、数据库、文件系统、网络爬虫等）收集原始数据，确保数据的质量和完整性在这一环节有基本把控，例如去除明显错误或重复的数据记录。
  • 数据清洗与预处理：处理缺失值、异常值，进行数据标准化、归一化等操作，让数据符合后续机器学习模型训练的要求，像将图像数据统一尺寸等。
  • 数据标注（若需要）：对于有监督学习任务，通过人工标注或者利用标注工具、众包平台等方式给数据添加合适的标签，比如给图像中的物体标注类别名称。
  • 数据版本控制：类似代码版本控制，跟踪数据的不同版本变化，便...

Read more

随机相位生成

评论
74 views

  1. 定义
  2. 随机相位生成（Random Phase Generation）是指创建具有随机相位值的过程。在信号处理、光学、量子物理等众多领域都有应用。相位是描述周期性现象（如正弦波、电磁波等）的一个重要参数，它决定了信号在时间或空间中的相对位置。随机相位生成主要是为了引入不确定性或者多样性到信号或波的表示中。
  3. 方法
  4. 均匀分布随机数法（基于概率分布）
    • 一种常见的方法是利用均匀分布的随机数来生成随机相位。在数学上，相位通常用弧度来表示，范围是([0, 2\pi))。可以使用一个能够生成均匀分布在([0,1])区间的随机数生成器，将生成的随机数(r)乘以(2\pi)，得到的结果就是一个在([0, ...

Read more

时域反演

评论
93 views

  1. 定义
  2. 时域反演（Time - Domain Inversion）是一种信号处理和地球物理领域广泛使用的技术。从广义上来说，它是一种通过对观测到的时域信号进行逆向操作，以推断产生这些信号的系统特性或源信息的方法。在地球物理勘探中，例如地震勘探，时域反演主要用于根据地面接收到的地震波信号（时间序列数据）来反推地下地质结构的特性，如速度、密度等参数。
  3. 基本原理
  4. 正向问题与反向问题：
    • 首先要理解正向问题，即已知地下地质结构（包括介质的速度、密度等参数）和震源的位置及激发方式，通过波动方程（如弹性波方程）来计算地面或其他观测点处接收到的地震波信号的时间序列和波形。而时域反演则是反向问题，是在已知...

Read more

差分进化

评论
77 views

  1. 定义
  2. 差分进化（Differential Evolution，DE）是一种用于优化问题的启发式算法。它主要用于求解连续变量的全局优化问题，在函数优化、工程设计、机器学习等众多领域都有广泛的应用。
  3. 其基本思想是通过对种群中个体之间的差分向量进行操作来产生新的个体，然后根据一定的选择策略来确定新个体是否能够替代原来的个体，从而逐步引导种群向最优解的方向进化。
  4. 算法流程
  5. 初始化种群：
    • 首先确定种群规模（NP），通常是一个正整数，表示种群中个体的数量。然后在给定的搜索空间（由变量的上下界确定）内随机生成初始种群。每个个体（也称为染色体）是一个包含多个变量的向量。例如，对于一个优化函数(f(x_...

Read more

虚拟机监视器-Hypervisor（

评论
63 views

一、定义

Hypervisor（也称为虚拟机监视器，VMM）是一种软件或固件，它能够创建和运行虚拟机。虚拟机是对物理计算机系统的虚拟模仿，使得在一台物理主机上可以同时运行多个操作系统（如Windows、Linux等），这些操作系统彼此隔离，就好像它们在独立的物理机器上运行一样。

二、类型

  1. 类型一（裸金属型）Hypervisor
  2. 这种Hypervisor直接安装在物理服务器的硬件上，它不需要底层操作系统的支持。例如VMware ESXi和Citrix XenServer。
  3. 优点：
    • 性能较高，因为它直接与硬件交互，减少了中间层的开销。可以更好地利用硬件资源，如CPU、内存和I/O设备。
    • 安...

Read more

调参的步骤？

评论
85 views

调参是一个反复试验和优化的过程，旨在找到一组最优或较优的参数，使模型在特定任务上达到最佳性能。以下是调参的一般具体步骤：

明确目标和任务

  • 确定评估指标：根据具体任务确定合适的评估指标，如分类任务中常用的准确率、召回率、F1值等；回归任务中常用的均方误差（MSE）、平均绝对误差（MAE）等。这些指标将用于衡量模型性能的好坏。
  • 了解数据特点：对数据进行深入分析，包括数据规模、特征分布、数据的噪声情况等。例如，如果数据存在严重的不平衡问题，可能需要在调参过程中特别关注对少数类的处理。

选择初始参数

  • 参考经验值：查阅相关文献、研究报告或以往类似项目的经验，获取模型参数的常见取值范围或推荐值...

Read more

可调参数

评论
66 views

在AI领域，可调参数是模型构建和优化过程中的关键要素，以下是关于AI中可调参数的详细介绍：

深度学习模型中的主要可调参数

  • 神经网络架构参数
    • 层数：如在卷积神经网络（CNN）用于图像识别时，浅层网络可能难以学习到复杂的图像特征，而深层网络能提取更高级的语义信息，但也可能导致过拟合。像经典的LeNet-5有5层，而ResNet系列可达上百层。
    • 神经元数量：每层神经元数量决定了模型的表达能力。例如在自然语言处理中，Transformer架构的编码器和解码器每层神经元数量需要根据任务和数据规模调整，处理复杂任务时通常需要更多神经元来捕捉语义信息。
    • 卷积核大小和步幅：在CNN中，卷积核大小影响感...

Read more

Transformer可视化

评论
63 views

Transformer可视化是一种将Transformer模型的结构、工作原理以及内部数据流动等以直观图形的方式展示出来的技术手段，有助于人们更好地理解Transformer模型的复杂机制。以下是一些常见的Transformer可视化方法和工具：

模型结构可视化

  • 使用Graphviz：这是一款开源的图形可视化软件，可通过定义节点和边来绘制Transformer的整体架构图，清晰展示出编码器、解码器的多层结构，以及多头注意力机制、前馈神经网络等组件之间的连接关系。
  • 借助PyTorch或TensorFlow的可视化工具：如TensorBoard，在使用PyTorch或TensorFlow搭...

Read more