网站首页

ng体育产品中心

智能终端处理器 智能云服务器 软件开发环境

ng体育新闻中心

关于ng体育

公司概况 核心优势 核心团队 发展历程

联系我们ng体育

官方微信 官方微博
ng体育 > ng体育新闻中心

NG体育娱乐算力积木AI芯片架构引领新纪元:云天励飞在GACS 2024展现边缘计算新突破

发布时间:2024-09-21 07:45浏览次数: 来源于:网络

  NG体育官网app下载2024全球AI芯片峰会(GACS 2024)近期在北京举行。本届峰会以「智算纪元 共筑芯路」为主题,全面展示AI芯片产业在算力、网络、存储NG体育娱乐、软件、系统及应用方面的前沿技术、最新成果与落地进程。

  云天励飞副总裁、芯片产品线总经理李爱军受邀参加峰会,并在大会上介绍了“算力积木”AI芯片架构。

  场景具有丰富性和碎片性的特点,用于边缘的大模型的参数量从1.8B到13B不等,不同场景应用对算力、内存、带宽的要求也不尽相同。因此,边缘AI芯片需要有很强的灵活性和扩展性,以满足不同大模型落地不同场景的需求。

  在此背景下,云天励飞提出了“算力积木”AI芯片架构,让芯片能够像搭积木一样灵活组建、灵活扩展。

  去年底云天励飞正式发布的DeepEdge10系列芯片就是采用“算力积木”架构设计的。

  DeepEdge10系列芯片基于一个标准化的大模型计算单元打造,可实现1.8B大模型的实时高效推理。通过D2D  Chiplet技术、C2C Mesh技术和C2C Mes  Torus技术,云天励飞将标准计算单元像搭积木一样,封装成不同算力的芯片,可实现7B、14B、130B等不同参数量大模型在边缘端的高效推理。

  在标准化算力单元方面,云天励飞也做了许多技术上的创新,以实现大模型在边缘端的高效推理NG体育娱乐。

  一是设计了近存计算架构,可实现Transformer计算的超低延时。通过可编程路由引擎,可以实现高效分布式的并行计算。

  二是通过自研的多Router协同机制,可以有效地提高大模型的参数数据响应速度,满足高效推理的需求NG体育娱乐NG体育娱乐。

  三是在C2C Mesh Torus结构上,通过自适应Router结构,减少数据搬运次数,减少计算对带宽的需求NG体育娱乐。

  通过上述技术创新,云天励飞实现了8×16个标准“算力积木”单元的Mesh Torus架构互联,可提供2048Tops统一管理智能算力、512GB统一寻址内存容量、3840GB/s统一调度内存带宽。

  未来,云天励飞还会推出基于Mesh Torus架构的大模型边缘推理一体机:IPU X6000-Mesh 4U Server,以高峰值算力与突出的能效比支持大模型的单机部署,包括7B、70B、MoE等主流大模型的边缘侧推理部署。

  云天励飞一直坚持走芯片自主研发路线,希望能够通过架构创新,在国产工艺上实现芯片性能的突破,为行业带来更高性价比的产品。

下一篇:NG体育娱乐2024芯片行业将如期复苏?
上一篇:芯片产业链101

咨询我们

输入您的疑问及需求发送邮箱给我们