墨芯人工智能再度在MLPerf推理测试中获得巨大胜利,一举夺得GPT-J大模型推理三项冠军。这次胜利不仅仅是巩固了其在AI芯片领域的地位,还为稀疏计算技术在大模型时代的应用铺平了道路。
墨芯人工智能的S30计算卡在单卡、4卡和8卡的GPT-J大模型推理性能上表现出色,再次登上MLPerf的巅峰。此前,他们已经连续两次在MLPerf上夺冠,表现稳定强大。
在60亿参数的GPT-J模型上,墨芯通过独创的双稀疏算法与硬件协同设计,实现了惊人的性能优势,高达1.8倍于4nm制程的英伟达H100。这一壮丽的表现再次证明了稀疏计算技术在大模型时代的重要性。
稀疏计算技术的崭露头角意味着大模型应用将迎来一次深刻的变革。它有望减少模型计算量,解决了计算资源需求急剧增加和能耗问题,为大模型的发展提供了新的可能性。墨芯已经发布了支持多种大模型的AI计算平台,其高性能和高效率令人印象深刻。
业界一致认为,墨芯等稀疏计算技术的创新将引领大模型应用的发展,将其深入各行各业。MLPerf的成绩不仅仅是对墨芯产品实力的肯定,更是对稀疏计算在大模型计算中具有革命性影响的明证。墨芯人工智能的胜利,标志着大模型应用的未来充满希望,稀疏计算将在其中发挥关键作用。