作者 |
伊戈尔·利夫申 刘忠雨 李彦霖 周洋 |
丛书名 |
智能系统与技术丛书 |
出版社 |
机械工业出版社 |
ISBN |
9782102031440 |
简要 |
简介 |
内容简介书籍计算机书籍 ---------------------------Java人工神经网络构建--------------------------- 本书涵盖了开发神经网络应用程序的许多方面。从头开始解释神经网络是如何工作的,然后以训练一个小神经网络为例,手动进行所有的计算。本书涵盖了前向和后向传播的内部内容,有助于理解神经网络处理的主要原理。它使你很快熟悉了前向和后向传播技术的所有基本原理。这本书还教你如何准备用于神经网络开发的数据,并为许多非传统的神经网络处理任务提出各种数据准备方法。 ---------------------------深入浅出图神经网络:GNN原理解析--------------------------- 内容简介 这是一本从原理、算法、实现、应用4个维度详细讲解图神经网络的著作,在图神经网络领域具有重大的意义。 本书作者是图神经网络领域的资深技术专家,作者所在的公司极验也是该领域的领先者。本书是作者和极验多年研究和实践经验的总结,内容系统、扎实、深入浅出,得到了白翔、俞栋等几位来自学术界和企业界的领军人物的高度评价和强烈推荐。 全书共10章: 第1~4章全面介绍了图、图数据、卷积神经网络以及表示学习等基础知识,是阅读本书的预备知识; 第5~6章从理论的角度出发,讲解了图信号处理和图卷积神经网络,深入剖析了图卷积神经网络的性质,并提供了GCN实现节点分类的实例。 第7~9章全面的讲解了图神经网络的各种变体及范式、图分类机制及其实践,以及基于GNN的图表示学习; 第10章介绍了图神经网络的最新研究和应用。 . |
目录 |
---------------------------Java人工神经网络构建--------------------------- 前言 第1章 关于神经网络的学习 1 1.1 生物神经元与人工神经元 1 1.2 激活函数 2 1.3 本章小结 4 第2章 神经网络处理的内在机理 5 2.1 逼近函数 5 2.2 网络架构 6 2.3 前向传递计算 7 2.4 输入记录1 8 2.5 输入记录2 8 2.6 输入记录3 9 2.7 输入记录4 9 2.8 反向传播过程计算 10 2.9 函数导数与函数发散 11 2.10 最常用的函数导数 12 2.11 本章小结 13 第3章 人工神经网络处理 14 3.1 示例1:单点函数的手动逼近 14 3.2 构建神经网络 15 3.3 前向传递计算 16 3.3.1 隐藏层 16 3.3.2 输出层 17 3.4 反向传递计算 18 3.4.1 计算输出层神经元的权值调整 18 3.4.2 计算隐藏层神经元的权值调整 20 3.5 更新网络偏差 24 3.6 回到前向传递 25 3.6.1 隐藏层 25 3.6.2 输出层 26 3.7 网络计算的矩阵形式 28 3.8 深入调查 28 3.9 小批次与随机梯度 30 3.10 本章小结 30 第4章 配置开发环境 31 4.1 在Windows计算机上安装 Java 11环境 31 4.2 安装NetBeans IDE 33 4.3 安装Encog Java框架 34 4.4 安装XChart包 34 4.5 本章小结 35 第5章 使用Java Encog框架开发神经网络 36 5.1 示例2:使用Java环境进行函数逼近 36 5.2 网络架构 37 5.3 规范化输入数据集 38 5.4 构建规范化两个数据集的Java程序 38 5.5 构建神经网络处理程序 45 5.6 程序代码 50 5.7 调试和执行程序 66 5.8 训练方法的处理结果 66 5.9 测试网络 67 5.10 测试结果 70 5.11 深入调查 71 5.12 本章小结 72 第6章 训练范围外的神经网络预测 73 6.1 示例3a:逼近训练范围以外的周期函数 73 6.1.1 示例3a的网络架构 76 6.1.2 示例3a的程序代码 76 6.1.3 测试网络 89 6.2 示例3b:逼近训练范围以外的周期函数的正确方法 90 6.2.1 准备训练数据 90 6.2.2 示例3b的网络架构 92 6.2.3 示例3b的程序代码 93 6.2.4 示例3b的训练结果 109 6.2.5 示例3b的测试结果 110 6.3 本章小结 110 第7章 复杂周期函数的处理 112 7.1 示例4:复杂周期函数的逼近 112 7.2 数据准备 114 7.3 反映数据中的函数拓扑 115 7.4 程序代码 120 7.5 训练网络 137 7.6 测试网络 138 7.7 深入调查 140 7.8 本章小结 141 第8章 非连续函数的处理 142 8.1 示例5:非连续函数的逼近 142 8.2 程序代码 145 8.3 训练效果不理想 157 8.4 用微批次方法逼近非连续函数 159 8.5 微批次处理程序代码 160 8.5.1 getChart()方法的程序代码 176 8.5.2 训练方法的代码片段1 179 8.5.3 训练方法的代码片段2 180 8.6 微批次方法的训练结果 184 8.7 测试处理逻辑 188 8.8 微批次方法的测试结果 191 8.9 深入调查 192 8.10 本章小结 196 第9章 具有复杂拓扑的连续函数的处理 197 9.1 示例5a:使用传统的网络过程逼近具有复杂拓扑的连续函数 197 9.1.1 示例5a的网络架构 198 9.1.2 示例5a的程序代码 199 9.1.3 示例5a的训练处理结果 208 9.2 用微批次方法逼近具有复杂拓扑的连续函数 211 9.3 示例5b:螺旋函数的逼近 232 9.3.1 示例5b的网络架构 234 9.3.2 示例5b的程序代码 235 9.4 用微批次方法逼近同一函数 246 9.5 本章小结 267 第10章 用神经网络对对象进行分类 268 10.1 示例6:记录分类 268 10.2 训练数据集 269 10.3 网络架构 271 10.4 测试数据集 272 10.5 数据规范化程序代码 273 10.6 分类程序代码 277 10.7 训练结果 297 10.8 测试结果 304 10.9 本章小结 305 第11章 选择正确模型的重要性 306 11.1 示例7:预测下个月的股市价格 306 11.2 在数据集中包含函数拓扑 311 11.3 生成微批次文件 312 11.4 网络架构 316 11.5 程序代码 317 11.6 训练过程 341 11.7 训练结果 342 11.8 测试数据集 347 11.9 测试逻辑 351 11.10 测试结果 358 11.11 分析测试结果 360 11.12 本章小结 361 第12章 三维空间中的函数逼近处理 362 12.1 示例8:三维空间中函数的逼近 362 12.1.1 数据准备 363 12.1.2 网络架构 364 12.2 程序代码 365 12.3 本章小结 380 ---------------------------深入浅出图神经网络:GNN原理解析--------------------------- 前言 第1章 图的概述 1 1.1 图的基本定义 1 1.1.1 图的基本类型 2 1.1.2 邻居和度 4 1.1.3 子图与路径 4 1.2 图的存储与遍历 5 1.2.1 邻接矩阵与关联矩阵 5 1.2.2 图的遍历 6 1.3 图数据的应用场景 7 1.4 图数据深度学习 10 1.5 参考文献 13 第2章 神经网络基础 17 2.1 机器学习基本概念 17 2.1.1 机器学习分类 17 2.1.2 机器学习流程概述 18 2.1.3 常见的损失函数 21 2.1.4 梯度下降算法 23 2.2 神经网络 25 2.2.1 神经元 25 2.2.2 多层感知器 27 2.3 激活函数 29 2.3.1 S型激活函数 30 2.3.2 ReLU及其变种 30 2.4 训练神经网络 33 2.4.1 神经网络的运行过程 34 2.4.2 反向传播 34 2.4.3 优化困境 36 2.5 参考文献 38 第3章 卷积神经网络 39 3.1 卷积与池化 39 3.1.1 信号处理中的卷积 39 3.1.2 深度学习中的卷积操作 42 3.1.3 池化 46 3.2 卷积神经网络 46 3.2.1 卷积神经网络的结构 47 3.2.2 卷积神经网络的特点 49 3.3 特殊的卷积形式 51 3.3.1 1×1卷积 51 3.3.2 转置卷积 52 3.3.3 空洞卷积 54 3.3.4 分组卷积 55 3.3.5 深度可分离卷积 55 3.4 卷积网络在图像分类中的应用 56 3.4.1 VGG 56 3.4.2 Inception系列 57 3.4.3 ResNet 60 3.5 参考文献 62 第4章 表示学习 65 4.1 表示学习 65 4.1.1 表示学习的意义 65 4.1.2 离散表示与分布式表示 66 4.1.3 端到端学习是一种强大的表示学习方法 68 4.2 基于重构损失的方法—自编码器 69 4.2.1 自编码器 69 4.2.2 正则自编码器 71 4.2.3 变分自编码器 72 4.3 基于对比损失的方法—Word2vec 75 4.4 参考文献 79 第5章 图信号处理与图卷积神经网络 81 5.1 矩阵乘法的三种方式 81 5.2 图信号与图的拉普拉斯矩阵 83 5.3 图傅里叶变换 85 5.4 图滤波器 90 5.4.1 空域角度 93 5.4.2 频域角度 94 5.5 图卷积神经网络 96 5.6 GCN实战 101 5.7 参考文献 109 第6章 GCN的性质 111 6.1 GCN与CNN的联系 111 6.2 GCN能够对图数据进行端对端学习 115 6.3 GCN是一个低通滤波器 120 6.4 GCN的问题—过平滑 122 6.5 参考文献 127 第7章 GNN的变体与框架 129 7.1 GraphSAGE 129 7.1.1 采样邻居 130 7.1.2 聚合邻居 131 7.1.3 GraphSAGE算法过程 132 7.2 GAT 134 7.2.1 注意力机制 134 7.2.2 图注意力层 137 7.2.3 多头图注意力层 138 7.3 R-GCN 140 7.3.1 知识图谱 140 7.3.2 R-GCN 141 7.4 GNN的通用框架 143 7.4.1 MPNN 143 7.4.2 NLNN 146 7.4.3 GN 147 7.5 GraphSAGE实战 148 7.6 参考文献 153 第8章 图分类 155 8.1 基于全局池化的图分类 155 8.2 基于层次化池化的图分类 156 8.2.1 基于图坍缩的池化机制 157 8.2.2 基于TopK的池化机制 165 8.2.3 基于边收缩的池化机制 168 8.3 图分类实战 169 8.4 参考文献 177 第9章 基于GNN的图表示学习 179 9.1 图表示学习 180 9.2 基于GNN的图表示学习 182 9.2.1 基于重构损失的GNN 183 9.2.2 基于对比损失的GNN 184 9.3 基于图自编码器的推荐系统 188 9.4 参考文献 195 第10章 GNN的应用简介 197 10.1 GNN的应用简述 197 10.2 GNN的应用案例 199 10.2.1 3D视觉 199 10.2.2 基于社交网络的推荐系统 203 10.2.3 视觉推理 205 10.3 GNN的未来展望 208 10.4 参考文献 209 附录A 符号声明 211 |