网站首页

b体育产品中心

智能终端处理器 智能云服务器 软件开发环境

b体育新闻中心

关于b体育

公司概况 核心优势 核心团队 发展历程

联系我们b体育

官方微信 官方微博
b体育·(中国)官方入口在线登录网站 > b体育新闻中心

B体育老黄深夜炸场世界最强AI芯片H200震撼发布性能飙升90%Llama 2推理速度翻倍大批超算中心来袭

发布时间:2023-11-14 21:36浏览次数: 来源于:网络

  B体育刚刚,英伟达发布了目前世界最强的AI芯片H200,性能较H100提升了60%到90%,还能和H100兼容。算力荒下,大科技公司们又要开始疯狂囤货了。

  不仅如此,这两款芯片还是互相兼容的。这意味着,使用H100训练/推理模型的企业,可以无缝更换成最新的H200。

  全世界的AI公司都陷入算力荒,英伟达的GPU已经千金难求。英伟达此前也表示,两年一发布的架构节奏将转变为一年一发布。

  同在明年,英伟达还会发布基于Blackwell架构的B100,并计划在2024年将H100的产量增加两倍,目标是生产200多万块H100。

  而在发布会上,英伟达甚至全程没有提任何竞争对手,只是不断强调「英伟达的AI超级计算平台,能够更快地解决世界上一些最重要的挑战。」

  随着生成式AI的大爆炸,需求只会更大,而且,这还没算上H200呢。赢麻了,老黄线GB超大显存,性能直接翻倍B体育!

  要利用生成式人工智能和高性能计算应用创造智能,必须使用大型B体育、快速的GPU显存,来高速高效地处理海量数据。借助H200B体育,业界领先的端到端人工智能超算平台的速度会变得更快,一些世界上最重要的挑战,都可以被解决。

  跟前代架构相比,Hopper架构已经实现了前所未有的性能飞跃,而H100持续的升级,和TensorRT-LLM强大的开源库,都在不断提高性能标准。

  H200的发布,让性能飞跃又升了一级,直接让Llama2 70B模型的推理速度比H100提高近一倍!

  H200基于与H100相同的Hopper架构。这就意味着,除了新的显存功能外,H200还具有与H100相同的功能,例如Transformer Engine,它可以加速基于Transformer架构的LLM和其他深度学习模型。

  这次,英伟达更是在官方公告中宣布了全新的H200和B100B体育,将过去数据中心芯片两年一更新的速率直接翻倍。

  以推理1750亿参数的GPT-3为例,今年刚发布的H100是前代A100性能的11倍,明年即将上市的H200相对于H100则有超过60%的提升,而再之后的B100,性能更是望不到头B体育。

  云服务方面,除了英伟达自己投资的CoreWeave、Lambda和Vultr之外,亚马逊云科技、谷歌云、微软Azure和甲骨文云基础设施,都将成为首批部署基于H200实例的供应商。

  此外,在新的H200加持之下,GH200超级芯片也将为全球各地的超级计算中心 提供总计约200 Exaflops的AI算力,用以推动科学创新。

  终结扩散模型,IGN单步生成逼真图像,UC伯克利谷歌革新LLM,美剧成灵感来源

  马斯克正式“切脑”,Neuralink内部实验室照片曝光,7年计划22000例手术,全力研发只为对抗超级AI

  后门准确率降至3%,主任务性能几乎不变,华工JHU提出全新“联邦学习后门攻击识别”解决方案

下一篇:B体育芯片IP公司Imagination裁员20% 涉及中国市场
上一篇:2022 年有哪些芯片公司值得不值得加B体育入?

咨询我们

输入您的疑问及需求发送邮箱给我们