分类目录归档：人工智能

AutoGluon概述

82 views

AutoGluon概述 1.1 定义与目标 AutoGluon是一个开源的自动机器学习（AutoML）框架，由亚马逊AWS团队开发，旨在通过自动化机器学习工作流程中的关键环节，降低机器学习的使用门槛，使开发者能够更高效地构建高性能模型。它支持多种数据类型，包括结构化数据、文本、图像和时间序列，能够自动完成从数据预处理、特征工程到模型选择、超参数调优以及模型集成等一系列复杂任务，为用户提供了一站式的机器学习解决方案，其目标是让机器学习初学者能够快速上手，同时也能帮助专家提升现有模型和数据管道的性能。 1.2 开发背景随着数据驱动决策的普及，机器学习在现代科技和商业领域的重要性日益凸显。...

AutoGluon：原理、架构与应用场景-视频文字

103 views

AutoGluon：原理、架构与应用场景

一、引言

在当今快速发展的机器学习领域，自动化机器学习（AutoML）逐渐成为研究热点。AutoGluon 是一款开源的自动机器学习框架，旨在帮助用户更轻松地构建和优化机器学习模型，尤其适合初学者和希望快速迭代模型的开发者。它通过自动化的特征工程、模型选择、超参数调优等流程，极大地简化了机器学习的复杂性，同时也能为专家提供强大的工具来提升现有模型和数据管道的性能。

二、AutoGluon 的原理

（一）自动化特征工程

AutoGluon 会自动对输入数据进行特征分析和处理。它能够识别数据中的缺失值、异常值，并进行填充和修正。同时，它会根据数据类型...

KV Cache-视频文字

50 views

KV Cache（键值缓存）是Transformer架构中优化大语言模型（LLM）推理性能的核心技术，尤其在自回归生成任务中表现突出。以下是关于KV Cache的详细解析：

1. KV Cache的核心作用

KV Cache通过缓存注意力机制中的Key和Value矩阵，避免重复计算历史token的中间结果，从而显著提升推理效率。
- 加速推理：在自回归生成过程中，每一步仅需计算当前新token的Query，而Key和Value从缓存中复用，计算量从与序列长度平方相关（O(n²)）降至线性（O(n)）。
- 降低计算资源消耗：实验表明，开启KV Cache后，生成1000个token的耗...

遗憾-ML

70 views

在机器学习（ML）中，“遗憾”（Regret）是衡量在线学习或强化学习算法性能的重要指标，表示算法累积损失与最优策略之间的差距。以下是近年来的关键研究进展及其应用场景的总结：

1. 在线线性规划与Regret优化

突破性框架：针对在线线性规划问题，研究提出了一种新框架，当线性规划对偶问题满足特定误差边界条件时，一阶学习算法的Regret可突破传统的$\mathcal{O}(\sqrt{T})$限制。在连续支持场景下实现$o(\sqrt{T})$ Regret，而在有限支持场景下达到$\mathcal{O}(\log T)$ Regret，显著优于现有方法。
应用场景：适用于资源分配和...

RLHF-文字视频

65 views

基于人类反馈的强化学习（Reinforcement Learning from Human Feedback, RLHF）的全面分析，涵盖原理、架构、关键过程和应用场景：

一、原理

RLHF 的核心目标是通过人类偏好信号优化AI模型的行为，解决传统强化学习（RL）中奖励函数难以设计的难题。其原理可分解为： 1. 人类偏好建模
将人类对模型输出的主观评价（如A回复优于B）转化为可量化的奖励信号。 2. 策略优化
基于奖励信号，通过强化学习算法（如PPO、DPO）调整模型策略，使其输出更符合人类价值观。

理论依据：
- Bradley-Terry模型：将成对偏好转化为概率分布，...

值函数近似-VFA

56 views

值函数近似（VFA）在强化学习中的应用与原理

1. 动机与背景
在传统强化学习（如Q-learning）中，状态和动作空间较小时，可通过表格（如Q表）直接存储每个状态的值。但当状态空间庞大（如围棋）或连续（如机器人控制）时，表格方法因存储和计算成本过高而失效。
值函数近似（VFA）通过参数化函数（如线性模型、神经网络）泛化值估计，使算法能处理高维或连续状态。

2. 核心方法
2.1 函数选择
- 线性模型：
值函数表示为 ( V(s) = \theta^T \phi(s) )，其中 (\phi(s)) 是人工设计的特征向量（如位置、速度），(\theta) 是权重参数。
优点：计算...

矩阵分解-

58 views

矩阵分解是将一个矩阵表示为几个更简单的矩阵的乘积的过程。这在数学和计算机科学中是一个重要的概念，因为它可以简化许多矩阵运算，如求解线性方程组、计算矩阵的逆、以及进行特征值分析等。常见的矩阵分解方法包括：

LU分解：将一个矩阵分解为一个下三角矩阵（L）和一个上三角矩阵（U）的乘积。这种分解对于求解线性方程组非常有用。 QR分解：将一个矩阵分解为一个正交矩阵（Q）和一个上三角矩阵（R）的乘积。这种分解在最小二乘问题和特征值问题中非常有用。奇异值分解（SVD）：将一个矩阵分解为一个正交矩阵（U）、一个对角矩阵（Σ）和另一个正交矩阵（V）的乘积。这种分解在数据压缩、信号处理和统计学中非常有用...

AutoML-视频文字

75 views

AutoML（Automated Machine Learning）旨在通过自动化机器学习流程中的关键步骤，降低技术门槛并提升效率。其核心知识体系涵盖以下核心模块：

一、AutoML核心架构

AutoML Architecture （注：此处可插入典型AutoML系统架构图）

1. 自动化数据预处理

数据清洗增强：自动处理缺失值（插值/删除）、异常检测（Isolation Forest）、数据增强（SMOTE过采样）
特征工程自动化：通过遗传编程自动生成高阶特征组合（如乘除运算），特征选择（LASSO正则化）
类型自动识别：智能识别时间序列、文本（TF-IDF）、图像（自动维度匹配）

2. 智能模型选择

元学习系统：构...

大模型微调-视频文字-

64 views

大模型微调（Fine-tuning）是迁移学习的一种重要技术，其核心思想是在预训练模型（Pre-trained Model）的基础上，通过特定任务的数据对模型参数进行进一步调整，使其适配下游任务。以下是其原理的概述：

1. 预训练阶段

目标：利用大规模无标注数据（如文本、图像等）训练模型，学习通用的特征表示。
方法：常见的预训练任务包括：
自回归语言建模（如GPT系列）：预测下一个词。
自编码语言建模（如BERT）：通过掩码预测（Masked Language Modeling）学习上下文表示。
对比学习（如CLIP）：学习跨模态的语义对齐。
输出：模型具备对输入数据的通用理解能力（...

自动微分

57 views

Automatic differentiation（自动微分）是一种在计算机科学和数学领域中用于高效计算函数导数的技术，以下是关于它的详细介绍：

定义

自动微分是一种能够自动计算函数导数的方法，它基于计算机程序对函数表达式的解析和计算，利用链式法则等数学原理，将复杂函数的求导过程分解为一系列基本操作的求导组合，从而实现对函数导数的快速、准确计算。

原理

正向累积：从自变量开始，按照函数的计算顺序，依次计算每个中间变量的导数，并将这些导数信息逐步累积，最终得到目标函数对自变量的导数。例如，对于函数(y = f(g(x)))，先计算(g(x))关于(x)的导数(g'(x))，再计算(f(u...

从零构建开源智能系统

构建专属智能系统，AI赋能加速成为领域专家。