推荐使用ChatGPT4.0中文网,国内可直接访问:www.chatgp7.com
Posted in

Elon Musk 的 xAI 开源 Grok-1

埃隆·马斯克的人工智能公司 xAI 已根据 Apache 2.0 许可发布了其 3140 亿参数混合专家模型 Grok-1 的权重和架构。此前,马斯克上周一承诺免费提供 Grok。

xAI 表示,开源的 Grok-1 是预训练阶段的原始基础模型检查点,该阶段于 2023 年 10 月结束。这意味着该模型不会针对任何特定应用(例如对话和对话)进行微调。权重和架构可在GitHub上找到,还有模型入门说明。

xAI 在成立后仅 3 个月内就从头开始训练了该模型。与 Gemma 和 Llama 等一些有使用限制的开源版本不同,Grok 的开源版本提供了对底层技术的广泛访问。然而,它没有像 Pythia、Bloom 和OLMo等模型那样提供完全透明度,这些模型包括训练代码和用于训练模型的数据集。

要下载该模型,用户可以访问一个磁力链接,该链接是一个大小约为 300GB 且包含 773 个文件的种子文件。

此次发布正值马斯克与 OpenAI 关系日益紧张之际。马斯克于 2018 年离开 OpenAI,原因是担心该公司优先考虑利润而非安全。他对 OpenAI 的批评愈演愈烈。他最近对 OpenAI 提起诉讼,指控该公司违背了创建开源模式的创始承诺,转而优先考虑股东。

马斯克也批评过其他人工智能公司,包括谷歌。他最近批评了谷歌的 Gemini 人工智能图像生成器,因为它在种族问题上产生了与历史不符且具有误导性的内容。

Grok-1 的发布是马斯克于去年 3 月推出的 xAI 的重要一步。该公司的首款产品 Grok 聊天机器人于 11 月发布,并在 X(以前的 Twitter)上向付费用户提供。马斯克声称,这款聊天机器人“旨在用一点机智回答问题,并且具有叛逆的性格”。

随着人工智能领域继续快速发展,Grok-1 等模型的开源可能会产生重大影响(尽管运行该模型需要大量计算资源)。虽然这无疑是对 OpenAI 的直接抨击,但看看人工智能社区如何回应此版本以及它如何影响围绕负责任地开发和部署人工智能技术的持续辩论,将会很有趣。