安徽理工大学图书馆书目检索系统

Online Public Access Catalogue

题名/责任者:

分布式机器学习:系统、工程与实战/柳浩著

出版发行项:

北京:电子工业出版社,2023.07

ISBN及定价:

978-7-121-45814-9/CNY139.00

载体形态项:

XIV, 575页, [16] 页图版:图;26cm

并列正题名:

Distributed machine learning

其它题名:

系统、工程与实战

丛编项:

博文视点

个人责任者:

柳浩 著

学科主题:

分布式算法-机器学习

中图法分类号:

TP181

相关题名附注:

英文题名取自封面

责任者附注:

柳浩, 网名“罗西的思考”, 浙江大学硕士。曾就职于多家世界500强企业, 主导过多个大型项目, 现就职于某新能源车企。

提要文摘附注:

本书共分为5篇, 第1篇是分布式基础, 首先介绍了分布式机器学习的概念、基础设施, 以及机器学习并行化技术、框架和软件系统, 然后对集合通信和参数服务器PS-Lite进行了介绍 ; 第2篇是数据并行, 以PyTorch和Horovod为主对数据并行进行分析 ; 第3篇是流水线并行, 还通过引入额外的流水线来提高效率, 以GPipe/PyTorch/PipeDream为例进行分析 ; 第4篇是模型并行, 首先对NVIDIAMegatron进行分析, 讲解如何进行层内模型并行, 然后讲解PyTorch如何支持模型并行, 最后介绍分布式优化器 ; 第5篇是TensorFlow分布式。

豆瓣简介：