当前位置:首页>文章>人工智能>墨芯人工智能:MLPerf夺冠,稀疏计算引领大模型应用时代

墨芯人工智能:MLPerf夺冠,稀疏计算引领大模型应用时代

墨芯人工智能再度在MLPerf推理测试中获得巨大胜利,一举夺得GPT-J大模型推理三项冠军。这次胜利不仅仅是巩固了其在AI芯片领域的地位,还为稀疏计算技术在大模型时代的应用铺平了道路。

墨芯人工智能:MLPerf夺冠,稀疏计算引领大模型应用时代

墨芯人工智能的S30计算卡在单卡、4卡和8卡的GPT-J大模型推理性能上表现出色,再次登上MLPerf的巅峰。此前,他们已经连续两次在MLPerf上夺冠,表现稳定强大。

在60亿参数的GPT-J模型上,墨芯通过独创的双稀疏算法与硬件协同设计,实现了惊人的性能优势,高达1.8倍于4nm制程的英伟达H100。这一壮丽的表现再次证明了稀疏计算技术在大模型时代的重要性。

稀疏计算技术的崭露头角意味着大模型应用将迎来一次深刻的变革。它有望减少模型计算量,解决了计算资源需求急剧增加和能耗问题,为大模型的发展提供了新的可能性。墨芯已经发布了支持多种大模型的AI计算平台,其高性能和高效率令人印象深刻。

业界一致认为,墨芯等稀疏计算技术的创新将引领大模型应用的发展,将其深入各行各业。MLPerf的成绩不仅仅是对墨芯产品实力的肯定,更是对稀疏计算在大模型计算中具有革命性影响的明证。墨芯人工智能的胜利,标志着大模型应用的未来充满希望,稀疏计算将在其中发挥关键作用。

声明:学AI网所有文章,如无特殊说明或标注,均为本站作者原创发布。任何个人或组织,在未征得作者同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若此作者内容侵犯了原著者的合法权益,可联系客服或提交工单进行处理。学AI网内用户所发表的所有内容及言论仅代表其本人,并不反映任何学AI网之意见及观点。

给TA充电
共{{data.count}}人
人已充电
人工智能

从文字到虚拟试衣,AI人工智能带来服装业虚拟试衣新纪元

2023-9-17 14:56:06

人工智能

Arm上市后,孙正义的下一步:瞄准OpenAI

2023-9-18 11:19:28

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索