0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

GTC22看点 最大化大型机器学习基础设施上的GPU利用率

NVIDIA英伟达 来源: NVIDIA英伟达 作者: NVIDIA英伟达 2022-09-14 15:47 次阅读

9 月 19-22 日 GTC 大会即将登场!NVIDIA 汇集了开发者、研究人员、企业领袖、创作者、IT 决策者和学生,让所有与会者了解如何利用 AI、计算机图形、数据科学等的力量塑造未来。

精选演讲:聆听行业优秀人才的见解

9 月 21 日星期三北京时间下午 1 点,字节跳动机器学习系统总监朱亦博将带来精彩的演讲。带您了解机器学习(ML)和深度学习(DL)是如何强力推动字节跳动的产品和服务?而他们的团队又是如何构建大型集群?以支持这些工作负载,从模型训练,到实时在线推理。

在本次演讲中,朱亦博也将分享如何充分利用复杂的基础设施,在 GPU 集群中同时运行 ML 训练和推理的工作负载,最大化利用 GPU 资源,同时还提供有保障的客户服务。

最大化大型机器学习基础设施上的 GPU 利用率(含中文互动问答

会议代码

[A41246b]

会议时间

9 月 21 日,星期三,1:00 PM – 1:50 PM

讲师简介

28ca0e12-3041-11ed-ba43-dac502259ad0.png

朱亦博 |字节跳动机器学习系统总监

朱亦博毕业于加利福尼亚大学圣塔芭芭拉分校,并获得计算机科学博士学位,过往从事分布式系统的研究,现在专注于机器学习系统领域。目前领导着字节跳动机器学习系统团队,主要负责深度学习(计算机视觉、自然语言处理、语音和强化学习)训练和推理的基础设施。他和团队致力于机器学习框架、分布式训练、编译器、机器学习数据处理、机器学习平台和集群资源调度。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • gpu
    gpu
    +关注

    关注

    28

    文章

    4743

    浏览量

    128992
  • 机器学习
    +关注

    关注

    66

    文章

    8422

    浏览量

    132714
  • 英伟达
    +关注

    关注

    22

    文章

    3780

    浏览量

    91195

原文标题:GTC22|最大化大型机器学习基础设施上的 GPU 利用率

文章出处:【微信号:NVIDIA_China,微信公众号:NVIDIA英伟达】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    光伏发电如何实现能效最大化

    光伏发电实现能效最大化是一个综合性的问题,需要从多个方面入手。以下是一些关键措施: 一、选用优质设备 太阳能板 :选用具有高光电转化效率和稳定性的太阳能板是基础。例如,单晶硅太阳能板通常比多
    的头像 发表于 12-05 11:06 284次阅读

    华纳云:什么是负载均衡?优化资源利用率的策略

    负载均衡是现代计算机网络架构中不可或缺的一部分,它通过智能分配请求和任务,确保系统资源的高效利用。本文将探讨负载均衡的概念、工作原理、优化资源利用率的策略及其在实际应用中的重要性。 1. 什么是负载
    的头像 发表于 10-28 16:07 170次阅读

    交换机内存利用率过高会是什么问题

    在现代网络架构中,交换机扮演着至关重要的角色,负责在网络设备之间高效地转发数据包。然而,随着网络规模的扩大和数据流量的增加,交换机的内存资源可能会变得紧张,导致内存利用率过高。这种情况如果不加
    的头像 发表于 10-18 09:53 776次阅读

    液冷充电枪线最大化提高充电效率

    法法易提供的液冷充电枪线可以最大化的提升充电效率,让大家的充电时间进一步缩短。  液冷充电枪线使用液体循环来冷却电缆,以避免因高温而导致电缆损坏或充电速度减缓。而且液冷充电枪线采用铜芯导线和耐高温、耐磨损、
    的头像 发表于 09-11 14:25 404次阅读

    异构混训整合不同架构芯片资源,提高算力利用率

    的解决方案。通过混合使用多种异构芯片,可以充分利用不同芯片的优势,提高算力利用率,降低算力成本,并推动AI技术的广泛应用。   异构混训能够整合不同架构芯片资源   在2024年世界人工智能大会AI基础设施论坛
    的头像 发表于 07-18 00:11 3484次阅读

    DC/AC电源模块:提升光伏发电系统的能源利用率

    BOSHIDA DC/AC电源模块:提升光伏发电系统的能源利用率 随着环境保护意识的提高和能源需求的增加,光伏发电系统作为一种清洁能源的代表,受到了越来越多的关注。然而,光伏发电系统在实际应用中还
    的头像 发表于 06-17 13:53 368次阅读
    DC/AC电源模块:提升光伏发电系统的能源<b class='flag-5'>利用率</b>

    IBM发布全新工具:COBOL维护助手,助力大型机程序注释维护

    据悉,IBM于2023年中期发布了Watsonx Code Assistant for Z,旨在协助维护人员将IBM Z大型机上的COBOL程序转化为Java语言,进而加快“大型机”的淘汰进程。
    的头像 发表于 05-22 14:31 498次阅读

    华钦科技:致敬 IBM 大型机 60 载辉煌,深耕大型机人才发展

    华钦科技集团(纳斯达克代码: CLPS ,以下简称"华钦科技"或"集团")宣布致敬 IBM 大型机 60 载辉煌历程,并将继续实施集团大型机人才培养计划。 自 1964 年IBM第一台大型机
    的头像 发表于 05-18 18:10 820次阅读

    恒讯科技全面解析:如何有效降低服务器CPU利用率

    降低服务器CPU利用率是一个涉及监控、诊断和优化的全面过程。以下是一些有效的方法: 1、监控CPU使用率: 使用工具如top, htop, vmstat, 或 iostat实时监控CPU使用情况
    的头像 发表于 05-10 17:24 744次阅读

    大型机械防雷接地电阻的重要性

    防雷接地电阻的重要性 1.人员安全:在雷电发生时,防雷接地电阻可以有效地将雷电流引入地下,避免雷电通过建筑物或大型机械对人员造成伤害。 2.设备保护:对于电子设备和大型机械,雷电可能会
    的头像 发表于 05-08 13:37 405次阅读

    鸿蒙APP开发:【ArkTS类库多线程】TaskPool和Worker的对比

    TaskPool(任务池)和Worker的作用是为应用程序提供一个多线程的运行环境,用于处理耗时的计算任务或其他密集型任务。可以有效地避免这些任务阻塞主线程,从而最大化系统的利用率,降低整体资源消耗,并提高系统的整体性能。
    的头像 发表于 03-26 22:09 659次阅读
    鸿蒙APP开发:【ArkTS类库多线程】TaskPool和Worker的对比

    垂直起降机场:飞行基础设施的未来是绿色的

    是基于垂直停车,这是为城市地点设想的,专为短途跳跃而设计,允许在城市内轻松移动。这些可以放置在现有的基础设施,例如建筑物顶部或其他未使用的空间。第二种型号兼容150英里范围内的市内旅行,恢复了传统航空公司
    发表于 03-25 06:59

    FPGA在深度学习应用中或将取代GPU

    基础设施,人们仍然没有定论。如果 Mipsology 成功完成了研究实验,许多正受 GPU 折磨的 AI 开发者将从中受益。 GPU 深度学习面临的挑战 三维图形是
    发表于 03-21 15:19

    NAND Flash供应商产能利用率提升,今年有望盈利

    据了解,本月以来铠侠和西数产能利用率已接近饱和,而其他业者则生产保持平稳。此外,TrendForce集邦咨询补充道,考虑到明年第四季度原料短缺的情况以及AndES Store新品上市等需求激增
    的头像 发表于 03-20 10:22 492次阅读

    台积电晶圆厂产能利用率将全面提高

    消息来源表示,TSMC 8英寸及12英寸晶圆工厂的利用率已分别回升至70-80%和80%。尤其值得注意的是,28纳米制程的利用率已重返80%的常态范围;而7/6纳米与5/4纳米制程的利用率更分别达到75%以及接近饱和状态。
    的头像 发表于 01-17 13:56 755次阅读