开源大语言模型：马斯克AI大模型Grok-1发布：参数量达3140亿，并向公众开放下载

据媒体报道，马斯克的AI创企xAI正式宣布其大语言模型Grok-1已实现开源，并向公众开放下载。

据了解，Grok-1是一款基于混合专家系统（Mixture-of-Experts，MoE）技术构建的大语言模型，拥有3140亿参数，远超OpenAI GPT-3.5的1750亿。这是迄今参数量最大的开源大语言模型，遵照Apache 2.0协议开放模型权重和架构。

xAI表示，Grok-1始终由xAI自行训练，其预训练阶段于2023年10月完成。此次发布的是Grok-1预训练阶段结束时的原始基础模型检查点，即该模型未经过针对任何具体应用的微调。

xAI的目的之一就是与OpenAI、谷歌、微软等对手在大模型领域进行竞争，其团队来自OpenAI、谷歌DeepMind、谷歌研究院、微软研究院等诸多知名企业和研究机构。

目前，xAI并没有放出Grok-1的具体测试成绩，它与其他公司的大模型之战将成为业内关注的焦点。

应用下载地址：https://github.com/xai-org/grok-1.git

应用参数：https://huggingface.co/xai-org/grok-1

分享一个国内免费使用GPT4.0的AI智能问答工具：智答专家。支持AI文本、作图、语音、Sora视频。无需魔法，亲测有效，点击访问

标签：大语言模型,Grok-1
来源：智答专家
发布时间：2024-03-18 11:22