千亿级!墨芯公布最新大模型适配成果 @世界人工智能大会
 


7月6日,在世界人工智能大会WAIC上,墨芯人工智能发布了大模型算力方案的最新成果,宣告进入“千亿”时代:墨芯AI计算平台率先支持高达千亿参数的大语言模型,并在吞吐、延时等多项指标上表现优异,创下又一里程碑。



    

在活动现场,墨芯展台成为全场热点:1760亿参数的大语言模型Bloom在墨芯AI计算平台的推理引擎支持下,能够快速、流畅地回答各类问题,并完成诗歌创作、文案撰写等多项语言生成任务,赢得现场观众的关注与赞叹。


微信图片_20230920170003.jpg


墨芯在千亿参数大模型上的卓越表现,不仅再次彰显出众的产品技术优势,更是意义重大的行业性突破:

当前,算力瓶颈已成为大模型落地应用的普遍痛点。墨芯针对大模型打造更高性能、更优化的方案,缓解算力之困,为AIGC等大模型应用释放巨大空间,真正带来“好用”、“用得起”的大模型算力方案

这对AIGC产业发展具有重要意义——
表明墨芯能够为行业带来新的前景:为企业、科研机构提供高效的算力支持,有力助推AIGC等大模型成果走向社会、走向更多行业;同时帮助AI企业建立先发优势,加入AIGC潮流。

一起来了解,墨芯的“千亿时刻“,所包含的重要突破——


微信图片_20230920170003_2.jpg


在WAIC现场,墨芯还展示了MLPerf冠军产品——墨芯AI卡计算卡、AI集成架构方案等众多展品,吸引了众多嘉宾、观众与媒体的好评。


墨芯在千亿参数大模型上的突破,再次显示出稀疏计算的巨大优势,有效解决算力资源不足、功耗等运营成本巨大等行业痛点。墨芯率先将稀疏化算法与硬件结合落地,深度挖掘与释放了稀疏计算在大模型上的潜力与价值,为行业带来大模型算力的“最佳实践”

这不仅为AI算力的未来发展带来了可行的创新路径,为将来更大模型、更复杂应用的发展奠定基础,更为AIGC等大模型应用的广泛落地打开了空间,为新一轮智能革命提供加速引擎,推动AIGC的发展迎来新天地。