在SEMiBAY2024《HBM与存储器技术与应用论坛》上,亿铸科技的创始人、董事长兼CEO熊大鹏博士发表了题为《超越极限:大算力芯片的技术挑战与解决之道》的演讲,深入剖析了AI大模型时代算力芯片所面临的挑战与机遇。
熊大鹏博士指出,AI大模型技术的快速发展推动了算力需求的急剧增长。随着数据、算力和模型参数量的不断提升,AI大模型的能力显著增强,甚至出现了类似人类的“涌现”能力,预示着AI应用的广泛落地即将到来。然而,现有的芯片硬件性能提升速度已难以满足这种急剧增长的算力需求,摩尔定律正面临前所未有的挑战。
据Omdia最新报告预测,用于云计算和数据中心人工智能的GPU和其他加速芯片市场规模将大幅增长,但到2026年市场可能会出现明显拐点,增长动力将从技术采用转向人工智能应用需求的变化。同时,IDC预测未来人工智能服务器将更加注重提高计算能力和处理效率(能效比),以适应更复杂、更大规模的人工智能应用。
面对这一挑战,熊大鹏博士强调,硬件架构的创新成为突破算力瓶颈的关键路径之一。现有的AI芯片面临着“三堵墙”问题:存储墙、能耗墙和编译墙。存储墙是指存储器的数据访问速度跟不上计算单元的数据处理速度,导致性能瓶颈;能耗墙则是指随着芯片性能的提升,能耗和散热问题成为限制性能进一步提升的主要因素;编译墙则是随着AI模型的复杂性增加,编译器需要处理的数据量和计算任务也急剧增加,使得优化变得非常困难。
为了打破这三堵墙,亿铸科技选择了创新之路。熊大鹏博士介绍,亿铸科技采用“存算一体超异构”架构这一全新的芯片设计思路,极大地减少了数据搬运的延迟,提升了整体的计算效率和能效比。这种架构通过将数据搬运量大幅下降,使得有效算力密度能够线性增长,从而突破传统计算模式的瓶颈。
熊大鹏博士进一步指出,未来算力增长将以存储单元为中心,而不是传统的算力单元。通过存算一体架构等技术,可以打破有效算力的天花板,实现更高的有效算力。亿铸科技自成立以来,始终致力于通过存算一体提供更具性价比、更高能效比、更大算力发展空间的AI大算力芯片发展新路径。
展望未来,熊大鹏博士表示,随着AI技术的不断进步和算力需求的不断增长,亿铸科技将通过创新的存算一体架构为AI芯片的发展提供新的方向。在大模型时代,亿铸科技的技术和产品将为AI技术的发展提供强大的支持,推动整个行业向前发展。我们有理由期待,随着亿铸科技技术的不断成熟和应用的不断扩展,AI芯片技术将迎来一个新的发展阶段,为科技进步做出更大的贡献。
免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
如有疑问请发送邮件至:bangqikeconnect@gmail.com