网站首页

b体育产品中心

智能终端处理器 智能云服务器 软件开发环境

b体育新闻中心

关于b体育

公司概况 核心优势 核心团队 发展历程

联系我们b体育

官方微信 官方微博
b体育·(中国)官方入口在线登录网站 > b体育新闻中心

B体育英伟达再抛重磅核弹:全新AI芯片问世 这下遥遥领先了

发布时间:2024-03-20 22:23浏览次数: 来源于:网络

  B体育前不久,英伟达在对GTC2024大会进行预热时称,黄仁勋将在大会上发布加速计算、生成式AI以及机器人领域的最新突破性成果。在AI持续火爆的当下,英伟达GTC2024的官宣无疑成为AI领域的重头戏。果不其然,在今日凌晨,黄仁勋抛出了重磅炸弹。

  英伟达在发表《见证AI的变革时刻》演讲中宣布B体育,正式发布名为Blackwell的新一代AI图形处理器(GPU),称其“非常非常强大”,基于Blackwell技术,英伟达将推出B200和GB200系列芯片。

  据悉,Blackwell平台能够在万亿参数级的大型语言模型(LLM)上构建和运行实时生成式AI,而成本和能耗比前身低25倍。英伟达还称,Blackwell架构系列芯片是迄今为止功能最强大的AI芯片家族。

  据黄仁勋介绍,B200拥有2080亿个晶体管,而H100/H200有800亿个晶体管,采用台积电4NP工艺制程,可以支持多达10万亿个参数的AI大模型。该芯片还通过单个GPU提供20 petaflops的AI性能,而单个H100最多可提供4 petaflops的AI计算。

  Blackwell架构系列芯片也将降低能耗,仁勋举例称,如果要训练一个1.8万亿参数量的GPT模型,需要8000张Hopper GPU,消耗15兆瓦的电力,连续跑上90天。但如果使用Blackwell GPU,只需要2000张,同样跑90天只要消耗四分之一的电力。

  微软Azure、AWS、谷歌云等一众科技巨头都是Blackwell架构的首批用户。“生成式AI是我们这个时代的决定性技术。Blackwell是推动这场新工业革命的引擎。通过与世界上最具活力的公司合作,我们将实现AI在各行各业的承诺。”黄仁勋表示。

  英伟达还宣布新一代AI超级计算机NVIDIA DGX SuperPOD,其搭载NVIDIA GB200 Grace Blackwell超级芯片。黄仁勋称,这台AI超级计算机可以用于处理万亿参数模型,能够保证超大规模生成式AI训练和推理工作负载的持续运行。

  在配置上B体育,全新DGX SuperPOD采用新型高效液冷机架级扩展架构,基于NVIDIA DGX GB200系统构建而成,在FP4精度下可提供11.5 exaflops的AI超级计算性能和240 TB的快速显存,且可通过增加机架来扩展性能。

  基于DGX GB200和DGX B200系统构建而成的NVIDIA DGX SuperPOD将于今年晚些时候提供。“VIDIA DGX AI超级计算机是推进AI产业变革的工厂。新一代DGX SuperPOD集 NVIDIA加速计算、网络和软件方面的最新进展于一体,能够帮助每一个企业、行业和国家完善并生成自己的AI。”黄仁勋表示。

  在演讲中,黄仁勋还宣布推出AI微服务,用于在自己平台上创建和部署定制应用。黄仁勋表示:“未来软件开发或许要依靠NIMs(Nvidia inference micro service)B体育,用与AI聊天的形式调动一堆NIMs来完成训练、应用的部署。”而英伟达的愿景是成为AI软件的“晶圆厂”。

  这些云原生微服务目录在NVIDIA CUDA平台上开发,其中包括NVIDIA NIM微服务,可适用于NVIDIA及合作伙伴生态系统中20多个热门的AI模型进行推理优化。在性能表现上,NIM微服务提供基于NVIDIA推理软件的预构建容器,包括Triton推理服务器和TensorRT-LLM,使开发者能够将部署时间从几周缩短至几分钟。

  同时,用户现能够以NVIDIA CUDA-X微服务的形式使用NVIDIA加速软件开发套件、库和工具,用于检索增强生成(RAG)、护栏、数据处理、HPC等。CUDA-X微服务为数据准备、定制和训练提供端到端的构建模块,助力各行各业加快开发生产级AI。

  NVIDIA还发布20多项医疗NIM和CUDA-X微服务。黄仁勋表示:“这些精心挑选的微服务为NVIDIA全栈计算平台增添了新的一层,连接起了由模型开发人员、平台提供商和企业组成的AI生态系统,使其能够通过标准化的路径来运行针对NVIDIA CUDA安装基础(在云、数据中心、工作站和PC中的数以亿计的GPU)优化的定制AI模型。”

  除了领先的应用提供商外,NVIDIA生态系统中的数据、基础设施和计算平台提供商也在使用NVIDIA微服务,为企业带来生成式AI。

  包括Box、ClouderaB体育、Cohesity、Datastax、Dropbox和NetApp在内的顶级数据平台提供商正在使用NVIDIA微服务,帮助客户优化RAG管道,并将专有数据集成到生成式AI应用中。

  当前关注度较高的人形机器人也出现在黄仁勋的演讲中,他表示:“在我们的世界里,类人机器人很有可能会发挥更大的作用,我们设置工作站、制造和物流的方式,并不是为人类设计的。因此,这些机器人的部署可能会更有成效。”

  黄仁勋在演讲中发布了人形机器人通用基础模型 Project GR00T,并发布基于 NVIDIA Thor系统级芯片(SoC)的新型人形机器人计算机 Jetson Thor,对 NVIDIA Isaac机器人平台进行了重大升级。

  GR00T使用的Isaac工具还能够为在任何环境中的任何机器人创建新的基础模型,包括用于强化学习的Isaac Lab和用于计算编排服务的OSMO。

  新的Isaac Lab是一个GPU加速、性能优化的轻量级应用,基于Isaac Sim而构建,专门用于运行数千个用于机器人学习的并行仿真。而OSMO是在分布式环境中协调数据生成、模型训练和软硬件在环工作流。

  最新发布的Jetson Thor是一个全新的计算平台,能够执行复杂的任务并安全、自然地与人和机器交互,具有针对性能、功耗和尺寸优化的模块化架构。

  在黄仁勋的介绍中,我们了解到,包括一个带有transformer engine的下一代GPU,其采用NVIDIA Blackwell架构,可提供每秒800万亿次8位浮点运算AI性能,以运行GR00T等多模态生成式AI模型。

  英伟达还宣布交通运输领域的领先企业已采用NVIDIA DRIVE Thor集中式车载计算平台,包括新能源汽车(NEV)、卡车、自动驾驶出租车、自动驾驶公交车和无人配送车。

  DRIVE Thor可提供丰富的座舱功能,以及安全可靠的高度自动化驾驶和无人驾驶功能,并将所有功能整合至同一个集中式平台上。黄仁勋在演讲中指出,这款新一代自动驾驶汽车(AV)平台将搭载专为Transformer、大语言模型(LLM)和生成式AI工作负载而打造的全新NVIDIA Blackwell架构。

  据悉,比亚迪、广汽埃安、小鹏、理想汽车和极氪均已宣布将在DRIVE Thor上构建其未来的汽车产品B体育。Plus、Waabi、文远知行、Nuro将选择DRIVE Thor进行创新与验证。DRIVE Thor预计最早将于明年开始量产。

  在演讲中,黄仁勋还发布专为大规模AI量身订制的全新网络交换机X800系列。NVIDIA Quantum-X800 InfiniBand网络和NVIDIA Spectrum-X800以太网络是全球首批高达 800Gb/s端到端吞吐量的网络平台,将计算和AI工作负载的网络性能提升到了一个新的水平。

  技术发展日新月异。文生视频Sora的发布、人形机器人赛道的爆火,人工智能领域正在经历着一次又一次的变革与发展。作为人工智能的重要元素之一,算力尤其是智算已经成为AI领域的刚需。

  在此背景下,我们看到英伟达在算力领域的迭代极为迅速,从算力、硬件端推动AI的进步。当然,除了在算力的发布外,GTC2024上还带来应用层、生态层的诸多惊喜。

  对于此次发布,机构人士认为,2024年英伟达GTC大会超预期火爆,预示着AI商业落地的趋势或将加速,而算力基础设施为AI应用的持续落地的基础,英伟达供应链及其他AI算力及应用相关公司将迎来发展机遇。

  未来已来,2024年英伟达已抛出性能更强的AI处理器Blackwell,新一轮的AI竞赛也将拉开帷幕。

下一篇:存储芯片的苦日子熬过去了?B体育
上一篇:国内首颗汽车智能SBC芯片量产 光谷“芯”闪耀国B体育产汽车芯片“无人区”

咨询我们

输入您的疑问及需求发送邮箱给我们