-
成都汇阳投资关于大模型如雨后春笋,算力需求促 CXL 速渗透
2023/6/26 17:31:12 来源:财讯网 【字体:大 中 小】【收藏本页】【打印】【关闭】
核心提示:2023年6月19日,腾讯云在北京召开行业大模型及智能应用技术峰会,首次公布腾讯云行业大模型研发进展事件
2023年6月19日,腾讯云在北京召开行业大模型及智能应用技术峰会,首次公布腾讯云行业大模型研发进展,依托肠讯云 T 平台打造行业大模型精选商店,为客户提供 MaaS一站式服务,助力客户构建专属大模型及智能应用,随着大数据 AI/ML 等应用爆发, 内存与算力间技术发展差距逐步加大,成为制约计算系统性能主要因素。
CX 有望突破内存墙1O墙瓶颈,优势星著
当前主流计算系统数据处理方案依赖冯诺依受架构(数据存储与数据处理 分高体系),为满足速度及容量需求,现代计算系统通常采取高速缓存(SRAM)、主存 (DRAM)、外部存储(NAND Flash)三级存储结构。越靠近运算单元存储器速度越快,但受功耗、散热 、芯片面积等因素制约,相应容量越小。如 SRAM 响应时间为纳秒级 ,DRAM为100 纳秒量级 ,NANDFlash为 100 微秒级,当数据在高速缓存I主存I外部存储三级传输时,后级响应时间及传输带宽将拖累整体性能,形成“存储墙”。 IO墙产生于外部存储中,当数据量庞大需借助外部存储,并用网络 IO 访问数据 。
IO方式访问使访问速度成数量级下降,拖累整体性能。CXL(Compute Express Link),作为一种全新互联技术标准 ,可保证与 GPU、FPGA 或其可加速器间实现高速高效互联,满足高性服异构计算要求。且维护CPU内存空间及连接设备内存间一致性,可突破内存墙及10墙瓶颈,缩减整体响应时间。
CXL3.0 共享内存时代有望到来
CXL1.1支持 CXLio,CXL.cache.CXL.mem 协议 。CXL.io 为 PCle5.0 增强版本,运行于PCle 总线物理层 。CXL.cache 用于一致主机缓存访问 ,CXL.mem 用于主机内存访问,三种方法构成连接主机与设备新基础路线。CXL20在 CXL11基础上,增加热插拔 (HotPlug)、安全升级、持久内存 (PersistentMemory), Telemetry,RAS支持及 Switch 等功能 。加入 Switch 层 , 实现多设备连接到一个 rootport,且当设备内存不足时 ,CXL 技术能够让设备在内存池里寻找内存空间 。在该框架下,跨系统设备实现共享内存池成为可能。CXL3.0 建立于PCI-Express6.0之上 (CXL1.0/1.1 和 2.0 版本建立于 PCle50 之上),其带宽提升两倍 ,且简单化部分复杂的标准设计,确保易用性。
CXL 技术发展前景可期 ,国内外芯片大厂加速布局
2021年10月,Rambus发布CXL2.0控制器 。2022年5月,澜起科技发布全球首款CXL内存扩展控制器芯片 (MXC)。2022年5月,美满电子宣布将收购先进CXL 技术领先开发商 Tanzanite 。2022年8月 ,Microchip推出基于CXL新型 SMC2000 系列智能存储控制器,使 CPU、GPU 及 SoC 利用CXL接口连接DDR4 或 DDR5 存储器,2022 年8月,SK 海力士推出首款CXL存储器样品,有望于2023年量产,10月,全行业率先研发出首款将计算功能与 CXL存储器相结合 CMS。2023年1月 ,三星电子展示其 512GBCXL存扩展器 。AMD预计将于2023年推出支持CXL.1 接口新品。
相关公司
澜起科技:公司已推出全球首款符合CXL2.0规范的MXC芯片 ,三星发布的首款512G 内存拓展器DRAM模组的 MXC由公司提供。2022年5月,公司发布全球首款CXL内存扩展控制器芯片; 2023年1月,澜起科技宣布,其PCIe 5.0/CXL 2.0 Retimer 芯片成功实现量产。
神州数码:2022年自研服务器开发取得了重要进展 ,完成海光平台服务器样机开发 ,样机主板配置海光最新推出的HYGON7300 系列处理器 ,系统采用智能化、模块化的设计理念,接口设计标准化;同时 ,模块组合配置灵活,面向 CXL 提供架构扩展能力。
得润电子:公司在互动平台表示,公司具有CXL相关技术储备。
郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如有侵权行为,请第一时间联系我们修改或删除,多谢。
- 上一篇:红杏林:做好信息时代的中医传承者
- 下一篇:名鲜配:健康美味,舌尖上的高品质生活