目录
• 第1章 绪论
• 1.1 人工智能
• 1.1.1 人工智能技术的发展历程
• 1.1.2 人工智能技术的流派
• 1.2 深度学习与神经网络概述
• 1.2.1 深度学习与神经网络技术的发展历程
• 1.2.2 深度学习与神经网络的前沿技术
• 1.3 深度学习系统架构
• 1.4 深度学习的应用
• 1.5 深度学习的学习方法
• 1.6 人工智能潜在的安全风险
• 1.6.1 数据层面的风险
• 1.6.2 算法模型层面的风险
• 1.6.3 智能计算框架层面的风险
• 1.6.4 基础软硬件层面的风险
• 1.6.5 应用服务层面的风险
• 第2章 预备知识
• 2.1 相关数学基础
• 2.1.1 线性代数
• 2.1.2 概率论
• 2.1.3 优化理论
• 2.2 机器学习基础
• 2.2.1 机器学习算法的基本流程
• 2.2.2 机器学习常用评价指标
• 第3章 前馈神经网络
• 3.1 感知器
• 3.1.1 单层感知器
• 3.1.2 多层感知器
• 3.2 前馈神经网络的基本结构
• 3.3 激活函数
• 3.3.1 Sigmoid函数
• 3.3.2 ReLU函数
• 3.3.3 Tanh函数
• 3.3.4 Softmax函数
• 3.4 误差反向传播
• 3.4.1 梯度下降法
• 3.4.2 链式法则
• 3.4.3 反向传播
• 第4章 深度模型的优化
• 4.1 神经网络的优化问题
• 4.1.1 局部最优和振荡陷阱
• 4.1.2 梯度爆炸和梯度消失
• 4.2 常见的优化算法
• 4.2.1 梯度下降优化算法
• 4.2.2 二阶优化算法
• 4.3 自适应学习率算法
• 4.3.1 AdaGrad算法
• 4.3.2 RMSprop算法
• 4.3.3 Adam算法
• 4.4 参数初始化方法
• 4.4.1 随机初始化
• 4.4.2 Xavier初始化
• 4.4.3 He初始化
• 第5章 深度学习中的正则化
• 5.1 范数惩罚
• 5.1.1 L1正则化
• 5.1.2 L2正则化
• 5.2 数据集增强与噪声注入
• 5.2.1 数据集增强
• 5.2.2 噪声注入
• 5.3 提前停止
• 5.4 Dropout
• 5.5 批归一化
• 第6章 卷积神经网络
• 6.1 卷积神经网络的发展历程
• 6.2 卷积神经网络的基本组成
• 6.2.1 卷积层
• 6.2.2 池化层
• 6.2.3 全连接层
• 6.3 常见卷积神经网络结构
• 6.3.1 VGG网络
• 6.3.2 GoogleNet网络
• 6.3.3 ResNet网络
• 6.4 深度生成网络
• 6.4.1 生成对抗网络
• 6.4.2 深度卷积生成对抗网络
• 6.5 图像分类案例
• 6.5.1 步骤1：搭建环境
• 6.5.2 步骤2：导入依赖库
• 6.5.3 步骤3：获取数据
• 6.5.4 步骤4：定义AlexNet网络
• 6.5.5 步骤5：模型初始化
• 6.5.6 步骤6：模型训练
• 第7章 循环神经网络
• 7.1 循环神经网络的原理
• 7.1.1 单向循环神经网络
• 7.1.2 双向循环神经网络
• 7.2 循环神经网络在实际中的应用
• 7.2.1 文本生成
• 7.2.2 语音识别
• 7.2.3 机器翻译
• 7.2.4 生成图像描述
• 7.2.5 视频检测
• 7.3 长短时记忆网络及其他门控循环神经网络
• 7.3.1 长短时记忆网络
• 7.3.2 其他门控循环神经网络
• 7.4 深度学习在文本和序列中的应用
• 7.4.1 文本数据处理
• 7.4.2 文本分类和情感分析
• 7.4.3 机器翻译
• 7.4.4 命名实体识别
• 7.5 卷积神经网络与循环神经网络
• 7.5.1 卷积神经网络与循环神经网络的对比
• 7.5.2 卷积神经网络与循环神经网络的组合应用
• 7.6 案例：深度学习的诗歌生成
• 7.6.1 步骤1：导入依赖库
• 7.6.2 步骤2：读取数据
• 7.6.3 步骤3：构造数据集
• 7.6.4 步骤4：构造模型
• 7.6.5 步骤5：训练过程
• 7.6.6 步骤6：生成文本
• 第8章 案例：基于深度学习的文本分类
• 8.1 步骤1：项目入口
• 8.2 步骤2：训练模块
• 8.2.1 数据预处理
• 8.2.2 模型训练
• 8.3 步骤3：验证和测试函数
• 8.4 步骤4：数据预处理模块
• 8.5 步骤5：定义模型
• 8.6 步骤6：分类结果展示
读书摘要与主要内容介绍
《深度学习与神经网络》是一本全面且深入地介绍深度学习与神经网络相关知识的专业书籍。
在第1章绪论中，作者首先对人工智能进行了概述，包括其发展历程和技术流派，接着引入深度学习与神经网络，阐述了其技术发展和前沿方向，并讨论了深度学习系统架构及其应用。同时，还提及了人工智能潜在的安全风险，从数据、算法、框架、基础软硬件到应用服务层面进行了剖析。
第2章预备知识介绍了深度学习所需的数学基础，如线性代数、概率论和优化理论，以及机器学习的基本流程和常用评价指标，为后续深入学习打下基础。
第3章详细讲解前馈神经网络，包括感知器、多层感知器、激活函数和误差反向传播等内容，这些是神经网络的基本构成要素和关键机制。
第4章围绕深度模型的优化展开，探讨了神经网络在优化过程中遇到的问题，如局部最优、梯度爆炸和消失等，并介绍了常见的优化算法和自适应学习率算法，以及参数初始化方法。
第5章聚焦于深度学习中的正则化，包括范数惩罚、数据集增强、噪声注入、提前停止、Dropout和批归一化等技术，这些方法有助于防止模型过拟合，提高模型的泛化能力。
第6章重点介绍卷积神经网络，从其发展历程、基本组成到常见的网络结构，如VGG、GoogleNet和ResNet等，还涉及深度生成网络和图像分类案例，展示了卷积神经网络在图像领域的应用。
第7章讲解循环神经网络，包括其原理、在实际中的应用、长短时记忆网络及其他门控循环神经网络，以及深度学习在文本和序列中的应用。此外，还对比了卷积神经网络与循环神经网络，并通过深度学习的诗歌生成案例展示了循环神经网络的实践应用。
最后，第8章通过基于深度学习的文本分类案例，详细阐述了从项目入口到分类结果展示的完整流程，包括数据预处理、模型训练、验证和测试等步骤，帮助读者将前面所学的理论知识应用到实际项目中。
这本书通过丰富的理论知识和实践案例，系统地介绍了深度学习与神经网络的各个方面，适合想要深入学习和研究这一领域的专业人士阅读。