3月18日，马斯克突然开源旗下的大模型Grok，代码和模型权重已经上线Github和HuggingFace，可以看到Grok一共有3140亿参数，马斯克方面称Grok也是采用MoE混合专家架构的大模型，为目前全球开源参数量最多的大模型！

而OpenAI方面似乎是迫于马斯克的舆论大棒，开源了Transformer Debugger，其他的开发者可以利用TDB来分析解读Transformer内部结构。

今天，马斯克按照约定，在一周后开源Grok大模型，代码和模型权重放在Github和HuggingFace上面，根据描述，Grok一共是314B（3140亿）个参数。

官网描述称Grok也是采用混合专家模型MoE架构，为目前开源模型中参数最多的大模型，Grok由xAI在去年10月基于JAX和Rust实现，而且模型没有针对任何特定方向进行微调。

但值得一提的是，马斯克并非是最早开源的人，早在23年2月份，Meta就已经开源了LLama模型，而之后的Llama2也成为最火的开源模型之一，成为各大应用的热门套皮大模型。

今年六、七月份，Llama3可能会即将推出，就目前来看，马斯克选择这个时间点开源更多是回应OpenAI，而且大家的目光很快就会被英伟达老黄的GTC大会所吸引。

马斯克：

聊天机器人——

马斯克重磅：

马斯克：

奥特曼、马斯克：

马斯克：

马斯克：

马斯克：

马斯克约架小扎：

马斯克：

马斯克：

马斯克：

特斯拉：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：

马斯克：