首页 / ai资讯

SK海力士为未来AI系统打造的新一代存储器

发布时间:2024-08-21 15:46:25

从一开始的字节、千字节和兆字节,发展到吉字节和太字节,现在是泽字节(10亿太字节)、尧字节(1,000泽字节),未来还会有更多。近年来数据的急速增长,意味着将有更多新的计数单位被创造出来,用以度量数据。

如今,全球每天产生超过300,000,000,000,000,000字节的数据1。电子邮件、在线视频、社交媒体、网络搜索、物联网(IoT)设备以及其它五花八门的数据源,共同促成了今天的数据大爆炸。随着AI时代的到来,以及诸如ChatGPT、Sora和Midjourney等应用的快速兴起,数据生成的速率变得愈发迅猛。那么,世界该如何应对和管理如此海量的数据呢?答案就在于高性能的半导体存储器。

正如上面这条品牌视频所展现的,存储器的作用是贮存、处理、计算和学习整个世界的数据。作为领先的存储解决方案供应商,今天SK海力士带来了世界上速度最快、性能最先进的产品,这些产品对AI系统运行至关重要。

1数据来源:“2010年至2020年全球范围内产生、捕获、复制、消费的数据/信息总量,以及对2021年至2025年预测(Volume of data/information created, captured, copied, and consumed worldwide from 2010 to 2020, with forecasts from 2021 to 2025)” Statista (2021年6月)。2023年数据为预测值并换算为每天产生的数据总量。

1存储器如何解锁卓越的AI性能

在AI时代,半导体存储器是AI系统顺畅运行的基础。存储器的关键作用在大语言模型(LLM,Large Language Model)2上得到了充分体现:大语言模型需要使用大型数据集进行训练以提升性能,存储器产品用来贮存和快速检索这些数据集,从而确保AI系统高效地处理数据。在此基础上,具备更高带宽和更高容量的存储器解决方案,能够更快速地读取和处理数据,从而进一步加速AI系统的训练进程。经过训练的AI模型被用来执行预测、处理新数据,或者是由实时更新的应用数据产出结果,在这个过程中,存储器解决方案能够实现对预训练模型和相关数据的高速访问,从而加速AI推理3进程,并缩短响应时间。

作为市场领导者,SK海力士提供的用于AI的高性能存储器产品对AI训练、推理等工作至关重要。所有这些解决方案都经过优化设计,以满足AI系统不断增长的需求。

2大语言模型(LLM,Large Language Model): 语言模型需要使用巨量数据进行训练,LLM能够生成、总结和翻译文本,是执行生成式AI任务的关键基础。

3AI 推理: 在预训练AI模型上运行实时数据,用以进行预测或者解决任务的过程。

2SK海力士为未来AI系统打造的新一代存储器

AI应用越来越复杂,对于推理的需求也越来越高,这就需要更精细的模型、更大的数据集,以及更高的数据处理能力。为了满足这样日益高涨的需求,SK海力士始终致力于通过提升数据传输速率、扩大数据带宽、最大化能源效率,开发出能够全面提升人工智能性能的,用于AI的完备的存储器解决方案。

其中包括一系列为下一代AI服务器开发的解决方案,例如拥有世界最强性能的HBM3E。这一超高性能的用于AI的解决方案,提供了业界领先的数据处理速度和高容量,如此高规格令其成为数据中心AI训练服务器的理想选择。SK海力士已经赢得了HBM4市场上最大的份额,而HBM3E的量产将进一步巩固公司在该领域的领先地位。

SK海力士用于AI服务器的另一关键产品是CXL5,这是一种用来全面提升CPU、GPU、加速器和存储器利用率的标准化接口。由于可以实现内存扩展,并提升系统带宽和处理能力,CXL特别适合处理AI服务器对高性能的极致需求。此外,由SK海力士子公司Solidigm开发的基于QLC6闪存的企业级固态硬盘(Enterprise SSD, eSSD)提供了业界领先的性能和超大容量。对于亟需海量存储空间的AI服务器来说,这些固态硬盘提供了理想的解决方案。

除了这些面向服务器的产品,SK海力士还提供一系列端侧AI7解决方案。例如全球速度最快的移动DRAM产品LPDDR5T8就针对端侧AI 移动设备的特性进行了专门优化。LPDDR5T同时具备惊人的运行速度、无与伦比的低功耗和低电压特性,能够满足移动DRAM对于高性能和能量效率的苛刻需求。

SK海力士最新的GDDR9解决方案也是为AI PC的端侧AI而生的。相比上一代GDDR6,GDDR7在带宽和能源效率等方面都实现了显著的提升,能够从容应对AI推理对于高速、大容量数据处理的高要求。此外,公司PCIe10接口的第五代SSD产品PCB01也将在AI PC上大显身手,其提供了业界最高的连续读取和连续写入速率,可将AI学习和推理过程中加载大语言模型的时间压缩到一秒以内。

4高带宽存储器(HBM,High Bandwidth Memory): 一种高价值、高性能存储器产品,通过硅通孔(TSV)技术将多个DRAM芯片垂直互联,从而给数据处理速度带来巨大提升。

5CXL (Compute Express Link) :基于PCIe的新一代互联协议,旨在高效构建高性能计算机系统。

6四层存储单元(QLC):NAND闪存的一种形式,能够在一个存储单元上存储4比特数据,QLC容纳的数据是单层存储单元的四倍,因此能实现更高容量进而带来更高的成本效益。

7端侧AI(On-Device AI):将AI计算和推理直接放在智能手机、PC等设备上运行,而不像基于云端的AI服务那样需要依赖远端的云服务器才能使用。

8LPDDR(低功耗双倍数据速率):用于手机、平板电脑等移动设备的低功耗DRAM,致力于尽可能降低功耗,并在低电压下运行。LPDDR5T是第七代产品LPDDR5X的升级版,后续的第八代产品将是LPDDR6。

9图形双倍数据传输率存储器(GDDR, Graphics DDR): 由国际半导体标准化组织(JEDEC)规定的标准图形DRAM规格,专门用于快速处理图形。如今已经成为人工智能和大数据应用中最受欢迎的存储器芯片之一。

10Peripheral Component Interconnect Express(PCIe):电子产品主板上串行结构的高速输入/输出接口。

3驱动AI的隐秘力量

作为领先的人工智能存储解决方案供应商,SK海力士致力于不懈推进用于AI的存储器技术创新,以满足全球企业需求。继HBM3E投入批量生产之后,公司计划在2025年将下一代解决方案HBM4投入量产。在数据存储和使用需求越来越高,人们越来越依赖数据的AI时代, SK海力士的高性能解决方案,已经成为驱动AI系统运行强大的隐秘力量。

  • 半导体 半导体 关注

    关注

    334

    文章

    25986

    浏览量

    208451

免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

如有疑问请发送邮件至:bangqikeconnect@gmail.com