这个仓库名为 AISystem
,是一个专注于人工智能系统相关知识的开源课程仓库,旨在帮助学习者全面了解 AI 计算机系统架构,掌握 AI 完整生命周期下的系统设计。以下是该仓库的详细介绍:
课程背景
本开源课程英文名为 AI System(AISys),中文名为 AI 系统。课程围绕作者在工作中积累、梳理和构建的 AI 系统全栈内容展开,旨在与关注 AI 开源课程的朋友共同探讨研究,促进学习交流。
课程内容大纲
课程主要包含以下五大模块: | 教程内容 | 简介 | 地址 | | --- | --- | --- | | AI 系统全栈概述 | 涵盖 AI 基础知识、AI 系统全栈概述以及深度学习系统的系统性设计和方法论,帮助学习者整体了解 AI 训练和推理全栈的体系结构。 | [Slides] | | AI 芯片与体系架构 | 深入介绍 AI 芯片相关知识,包括 CPU、GPU 芯片基础,AI 芯片的原理、设计和应用场景。强调 AI 芯片设计需综合考虑 AI 计算加速、应用算法和 AI 框架等中间件。 | [Slides] | | AI 编程与计算架构 | 从系统设计角度出发,探讨现代机器学习系统设计中的编译器问题,特别是中间表达和后端优化。 | [Slides] | | AI 推理系统与引擎 | 聚焦实际应用中的推理系统与引擎,分享推理系统涉及的核心算法和注意事项,使行业和企业能够将相关技术应用到实际业务中。 | [Slides] | | AI 框架核心技术 | 介绍 AI 框架的核心技术,包括自动微分、神经网络图和算子表示、AI 框架前端优化以及大模型分布式训练的关键技术。 | [Slides] |
课程设立目的
本课程主要面向本科生高年级、硕博研究生和 AI 系统从业者,帮助他们: 1. 全面了解 AI 的计算机系统架构,通过实际问题和案例掌握 AI 完整生命周期下的系统设计。 2. 了解前沿系统架构与 AI 相结合的研究工作,熟悉主流框架、平台和工具。
课程具体部分
一. AI 系统概述
介绍算法、框架和体系结构的结合,形成 AI 系统。
二. AI 芯片体系结构
包含多个子模块,如 AI 计算体系、AI 芯片基础、图形处理器 GPU、英伟达 GPU 详解、国外 AI 处理器、国内 AI 处理器以及对 AI 芯片编程模式和发展的总结。
三. AI 编译原理
涵盖传统编译器、AI 编译器、前端优化、后端优化等内容,还有关于 PyTorch2.0 编译技术栈的介绍。
四. AI 推理系统
包括推理系统整体介绍、轻量网络、模型压缩、转换与优化以及 Kernel 层和算子层的优化。
五. AI 框架核心技术
介绍 AI 框架的基础、自动微分、计算图等核心技术。
备注
- 最新大模型的内容归档在 AIFoundation 仓库。
- 文字课程开源在 AISys,系列视频托管在 B 站 和 油管,PPT 开源在 github。
- 由于仓库文件较大(约 10G),建议优先从 Releases · chenzomi12/AISystem 下载所需内容。
- 鼓励学习者参与开源课程,可在 B 站给 ZOMI 留言。若发现 bug 或需要勘误,可直接提交代码 PR 到开源社区。引用 PPT 内容时,请规范转载并标明出处。