迄今最大！马斯克AI大模型Grok开源：参数量达3140亿

gythy1978

快科技3月18日消息，据媒体报道，马斯克的AI创企xAI正式宣布其大语言模型Grok-1已实现开源，并向公众开放下载。

据了解，Grok-1是一款基于混合专家系统（Mixture-of-Experts，MoE）技术构建的大语言模型，拥有3140亿参数，远超OpenAI GPT-3.5的1750亿。这是迄今参数量最大的开源大语言模型，遵照Apache 2.0协议开放模型权重和架构。

xAI表示，Grok-1始终由xAI自行训练，其预训练阶段于2023年10月完成。此次发布的是Grok-1预训练阶段结束时的原始基础模型检查点，即该模型未经过针对任何具体应用的微调。

xAI的目的之一就是与OpenAI、GOOGLE、MicroSoft等对手在大模型领域进行竞争，其团队来自OpenAI、GOOGLEDeepMind、GOOGLE研究院、MicroSoft研究院等诸多知名企业和研究机构。

目前，xAI并没有放出Grok-1的具体测试成绩，它与其他企业的大模型之战将成为业内关注的焦点。