当前世界上参数最大的开源大语言模型Grok-1,参数权重大小为296GB,即3140亿参数,远远超过了OpenAI的GPT-3.5模型。
该模型采用的3140亿参数的MoE模型,在给定token上的激活权重达到了25% 。
wx62830f4b679a4 ©著作权
当前世界上参数最大的开源大语言模型Grok-1,参数权重大小为296GB,即3140亿参数,远远超过了OpenAI的GPT-3.5模型。
该模型采用的3140亿参数的MoE模型,在给定token上的激活权重达到了25% 。
根据xAI公布的数据,在GSM8K、HumanEval和MMLU等一系列基准测试中,Grok-1的表现超过了Llama-2-70B和GPT-3.5,虽然跟GPT-4还差
最近一直被大语言模型刷屏。本文是周末技术分享会的提纲,总结了一些自然语
举报文章
请选择举报类型
补充说明
0/200
上传截图
格式支持JPEG/PNG/JPG,图片不超过1.9M