分类目录归档:人工智能

查看 Airflow 中 DAG 运行的详细日志-自研课程-0101002


要查看 Apache Airflow 中 DAG 运行的详细日志,您可以通过以下几种方式进行:

  1. 通过 Airflow Web 界面查看任务日志:

  2. 打开 Airflow Web 界面(默认地址为 http://localhost:8080)。

  3. 在“DAGs”视图中,找到并点击您感兴趣的 DAG。
  4. 在 DAG 的“树状图”或“图形”视图中,点击特定任务实例。
  5. 在弹出的窗口中,切换到“日志”标签页,即可查看该任务的详细运行日志。

  6. 直接访问日志文件:

Airflow 将任务日志保存在本地文件系统中,默认路径为 AIRFLOW_HOME/logs。您可以直接访问这些日...

Read more

Airflow 中编写第一个 DAG-自研课程-0101001


要在 Apache Airflow 中编写第一个 DAG(有向无环图),您可以按照以下步骤进行:

  1. 创建 DAG 文件:在 Airflow 的 dags 目录下创建一个 Python 文件,例如 hello_world_dag.py。如果 dags 目录尚不存在,请先创建该目录。

  2. 导入必要的模块:在 DAG 文件中,导入 DAG 类和所需的操作符(Operator),例如 PythonOperatorBashOperator,以及日期时间模块。

python from airflow import DAG from airflow.operators.p...

Read more

残差连接-CNN


残差连接(Residual Connection),又称跳跃连接(Skip Connection),是深度学习中的一种关键结构,由ResNet(Residual Network)首次提出,旨在解决深层网络训练中的梯度消失/爆炸和网络退化问题。以下是关于残差连接的全面解析:


1. 残差连接的背景与意义

  • 核心问题:传统深层网络随着层数增加,训练难度增大,表现为:
  • 梯度消失/爆炸:反向传播时梯度逐层衰减或激增。
  • 网络退化(Degradation):更深网络的训练误差反而高于浅层网络,并非由过拟合引起。
  • 解决方案:残差学习通过引入跨层直连路径,使网络更容易学习恒等映射(Identity Ma...

Read more

感受野-CNN


感受野(Receptive Field) 是深度学习中卷积神经网络(CNN)的核心概念,指输入图像中对网络某一层中特定神经元激活产生影响的区域大小。简单来说,它表示神经元“看到”的输入范围。以下是关于感受野的详细解析:


1. 感受野的重要性

  • 上下文理解:较大的感受野能捕捉更广泛的上下文信息(如物体整体结构),适合分类、分割等任务。
  • 细节捕捉:较小的感受野关注局部特征(如边缘、纹理),适用于细粒度识别。
  • 网络设计:通过调整感受野,可以平衡模型的全局与局部感知能力。

2. 感受野的计算

感受野的计算与网络层的堆叠方式密切相关,常用公式为: [ RF_{l} = RF_{l-1} + ...

Read more

玻尔兹曼机概述


探秘玻尔兹曼机:解锁人工智能的“能量密码”

从统计物理到 AI:玻尔兹曼机的诞生

在科学的广袤版图中,不同学科之间常常存在着奇妙的联系,就像隐藏在宇宙深处的暗线,将看似分离的知识领域悄然连接。统计物理学与人工智能领域的交融,便是这样一段引人入胜的故事,而玻尔兹曼机,正是这段故事中一颗璀璨的明珠。

统计物理学,作为物理学的一个重要分支,主要研究大量微观粒子组成的宏观系统的性质和行为。在这个领域中,玻尔兹曼分布占据着举足轻重的地位。它描述了处于热平衡状态下,粒子在不同能量状态下的概率分布情况,其核心思想在于,系统更倾向于处于能量较低的状态,且温度对粒子的分布有着关键影响。简单来说,就如同在一...

Read more

知识图谱-


知识图谱(Knowledge Graph)是一种结构化的语义网络,用于表示实体(如人、事、物、概念等)及其之间的复杂关系,以图形化形式组织和呈现知识,支持高效的知识存储、查询和推理。以下是其核心内容和应用的详细解析:

一、核心概念

  1. 组成要素
  2. 实体:现实中的客观对象(如“西安”“秦始皇陵”)。
  3. 属性:实体的特征(如“西安”的属性:中国城市、人口1295万)。
  4. 关系:实体间的关联(如“西安”与“陕西”的关系:隶属省份)。
  5. 三元组:知识表示的基本单位(实体1-关系-实体2 或 实体-属性-值),例如(秦始皇陵,位于,西安)。

  6. 技术本质
    融合人工智能(AI)、自然语...

Read more

机器学习超参数:从理论到实践的核心探索



机器学习超参数:从理论到实践的核心探索

一、引言

在构建机器学习模型的过程中,数据、算法与超参数如同“铁三角”,共同决定了模型的最终性能。其中,超参数调优往往是最容易被低估却至关重要的环节。一个优秀的模型架构可能因不当的超参数选择而表现平庸,而简单的算法搭配精细调参却可能实现惊人效果。本文将从基础概念切入,系统解析超参数的优化方法论、实用技巧及前沿趋势,为从业者提供一份兼顾理论与实践的调参指南。


二、超参数基础概念

1. 定义与作用

超参数(Hyperparameters)是模型训练前预设的配置参数,与模型通过数据自动学习的参数(如线性回归的权重)有本质区别。例如,在训练神经网络时,...

Read more

Cot概述


CoT:开启人工智能推理新时代

从 “黑箱” 到透明:CoT 是什么

在人工智能飞速发展的当下,大语言模型(LLM)已成为自然语言处理领域的核心力量。它们能够生成流畅的文本、回答复杂的问题,甚至进行创造性写作,展现出令人惊叹的语言能力。然而,传统大语言模型在处理问题时,就像一个神秘的 “黑箱”。以 GPT-3 为例,当你向它提出一个问题,它会迅速给出答案,但却无法清晰展示得出这个答案的具体思考过程。这种缺乏透明度的决策机制,使得用户难以理解答案的来源和可靠性,也限制了模型在一些对推理过程要求严格的领域中的应用。

直到 2022 年,谷歌研究人员在《Chain-of-Thought Pro...

Read more

Cot思维链:人工智能推理能力的革命性突破


Cot思维链:人工智能推理能力的革命性突破

近年来,随着大语言模型(LLM)的快速发展,人工智能在文本生成、问答系统等任务中展现出惊人的能力。然而,模型如何得出答案的"黑箱"特性始终是制约其可信度的关键瓶颈。2022年,Google研究人员在《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》论文中提出的思维链(Chain-of-Thought, CoT)技术,通过让AI展示完整的推理步骤,不仅显著提升了复杂问题的解决能力,更打开了理解机器认知过程的窗口。这项技术正在重塑人机协作的范式,成为AI可解...

Read more