| 作者 |
| 埃拉德·哈赞 塞巴斯蒂安·布贝克 |
| 丛书名 |
| 华章数学译丛 |
| 出版社 |
| 机械工业出版社 |
| ISBN |
| 9782109109501 |
| 简要 |
| 简介 |
| 内容简介书籍数学书籍 ---------------------------8083980 - 在线凸优化：概念、架构及核心算法--------------------------- 本书可作为在线凸优化大量理论的导论教程。第2~5章主要介绍在线凸优化的基本概念、架构和核心算法。本书其余部分则处理更为高级的算法、更为困难的设定和与著名的机器学习范式之间的关系。 ---------------------------8081329 - 凸优化：算法与复杂性--------------------------- 本书介绍了凸优化中的主要复杂性定理及其相应的算法。从黑箱优化的基本理论出发，内容材料是朝着结构优化和随机优化的新进展。我们对黑箱优化的介绍，深受Nesterov的开创性著作和Nemirovski讲稿的影响，包括对切割平面方法的分析，以及（加速）梯度下降方案。我们还特别关注非欧几里德的情况（相关算法包括Frank Wolfe、镜像下降和对偶平均法），并讨论它们在机器中的相关性学习。我们慢慢的介绍了FISTA（优化一个光滑项和一个简单的非光滑项的和）、鞍点镜像代理（Nemirovski平滑替代Nesterov的光滑）和一个对内点方法的简明描述。在随机优化中，我们讨论了随机梯度下降、小批量、随机坐标下降和次线性算法。我们还简单地讨论了组合问题的凸松弛和随机性对取整（四舍五入）解的使用，以及基于随机游动的方法。 |
| 目录 |
| [套装书具体书目] 8081329 - 凸优化：算法与复杂性 - 9787111683513 - 机械工业出版社 - 定价 59 8083980 - 在线凸优化：概念、架构及核心算法 - 9787111690221 - 机械工业出版社 - 定价 69 ---------------------------8083980 - 在线凸优化：概念、架构及核心算法--------------------------- 前言 致谢 第1章 导论 1 1.1 在线凸优化模型 2 1.2 可以用OCO建模的例子 3 1.3 一个温和的开始: 从专家建议中学习 8 1.3.1 加权多数算法 10 1.3.2 随机加权多数算法 12 1.3.3 对冲 14 1.4 习题 16 1.5 文献点评 17 第2章 凸优化的基本概念 18 2.1 基本定义和设定 18 2.1.1 在凸集上的投影 20 2.1.2 最优条件简介 21 2.2 梯度、次梯度下降法 23 2.3 非光滑和非强凸函数的归约27 2.3.1 光滑非强凸函数的归约 28 2.3.2 强凸非光滑函数的归约 29 2.3.3 一般凸函数的归约 32 2.4 例子: 支持向量机训练 33 2.5 习题 35 2.6 文献点评 37 第3章 在线凸优化的一阶算法 38 3.1 在线梯度下降法 39 3.2 下界 42 3.3 对数遗憾 43 3.4 应用: 随机梯度下降法 45 3.5 习题 49 3.6 文献点评 50 第4章 二阶方法 51 4.1 动机: 通用投资组合选择 51 4.1.1 主流投资组合理论 51 4.1.2 通用投资组合理论 52 4.1.3 持续再平衡投资组合 54 4.2 exp-凹函数 55 4.3 在线牛顿步算法 57 4.4 习题 63 4.5 文献点评 64 第5章 正则化 66 5.1 正则函数 67 5.2 RFTL 算法及其分析 69 5.2.1 元算法的定义 70 5.2.2 遗憾界 70 5.3 在线镜像下降法 74 5.3.1 迟缓型OMD算法与RFTL 算法的等价性75 5.3.2 镜像下降的遗憾界 76 5.4 应用及特殊情形 78 5.4.1 在线梯度下降法的导出 79 5.4.2 乘法更新的导出 79 5.5 随机正则化 81 5.5.1 对凸代价函数的扰动 82 5.5.2 对线性代价函数的扰动 86 5.5.3 专家建议中的扰动领袖追随算法 87 5.6 最优正则化（选学） 90 5.7 习题 96 5.8 文献点评 98 第6章 Bandit凸优化 100 6.1 BCO设定 100 6.2 多臂赌博机问题 101 6.3 从有限信息到完整信息的归约 107 6.3.1 第1部分: 使用无偏估计 107 6.3.2 第2部分: 点点梯度估计 110 6.4 不需要梯度的在线梯度下降算法113 6.5 BLO最优遗憾算法（选学）116 6.5.1 自和谐障碍 116 6.5.2 一个近优算法 118 6.6 习题 121 6.7 文献点评 122 第7章 无投影算法 123 7.1 回顾: 与线性代数相关的概念 123 7.2 动机: 矩阵补全与推荐系统 124 7.3 条件梯度法 126 7.4 投影与线性优化 131 7.5 在线条件梯度算法 133 7.6 习题 138 7.7 文献点评 139 第8章 博弈、对偶性和遗憾 140 8.1 线性规划和对偶性 141 8.2 零和博弈与均衡 142 8.3 冯·诺伊曼定理的证明 146 8.4 近似线性规划 148 8.5 习题 150 8.6 文献点评 150 第9章 学习理论、泛化和OCO 152 9.1 统计学习理论的设定 152 9.1.1 过拟合 153 9.1.2 没有免费的午餐 154 9.1.3 学习问题的例子 156 9.1.4 泛化和可学习性的定义 157 9.2 使用OCO的不可知学习 159 9.2.1 余项: 度量集中和鞅 160 9.2.2 对归约的分析 162 9.3 习题 165 9.4 文献点评 166 参考文献 167 ---------------------------8081329 - 凸优化：算法与复杂性--------------------------- 译者序 致谢 第1章绪论1 11机器学习中的若干凸优化问题1 12凸性的基本性质3 13凸性的作用5 14黑箱模型7 15结构性优化8 16结果的概述和免责声明9 第2章有限维的凸优化12 21重心法12 22椭球法14 23Vaidya割平面法18 231体积障碍19 232Vaidya算法20 233Vaidya方法分析20 234限制条件和体积障碍22 24共轭梯度26 第3章维度无关的凸优化30 31Lipschitz函数的投影次梯度下降31 32光滑函数的梯度下降33 33条件梯度下降39 34强凸性43 341 强凸函数和Lipschitz函数44 342强凸光滑函数45 35下限47 36几何下降52 361热身赛：梯度下降的几何学替代方案53 362加速度55 363几何下降法56 37Nesterov加速梯度下降58 371光滑强凸情况58 372光滑的情况62 第4章非欧氏空间几乎维度无关的凸优化65 41镜像映射66 42镜像下降67 43镜像下降的标准设置70 44惰性镜像下降72 45镜像代理74 46关于MD、DA和MP的向量场观点76 第5章超越黑箱模型78 51光滑项与简单非光滑项之和78 52非光滑函数的光滑鞍点表示80 521鞍点计算81 522鞍点镜像下降82 523鞍点镜像代理83 524应用84 53内点法87 531障碍法87 532牛顿法的传统分析88 533自和谐函数90 534ν自和谐障碍92 535路径跟踪方案95 536线性规划和半定规划的内点法96 第6章凸优化与随机性98 61非光滑随机优化99 62光滑随机优化与小批量SGD100 63光滑函数与强凸函数的和103 64随机坐标下降107 641坐标平滑优化的RCD算法108 642用于光滑和强凸优化的RCD110 65鞍点的随机加速112 66凸松弛与随机取整113 67基于随机游动的方法117 参考文献120 |