AI资讯
掌握人工智能AI动态,领略未来风采!
Llama 3.1 405B 已正式开源,人工智能领域带来了新的机遇和可能性。
Llama 3.1 405B 在性能方面表现卓越,可与 GPT-4 等闭源模型相媲美。它在通用知识、可控性、数学、工具使用和多语言翻译等方面均有出色表现。
该模型支持 128K 上下文长度,拥有 405B、8B 、70B 三个型号,以满足不同的应用需求。
与此同时,Meta 还发布了 Llama Guard 3 和 Prompt Guard 等安全工具,以及 Llama Stack API,旨在促进第三方项目更便捷、更安全地使用 Llama 模型。
值得期待的是,Llama 3 未来将会集成图像、视频和语音的功能,能够识别图像和视频,并支持通过语音进行交互。不过,此功能目前仍处于开发阶段。
为了训练 Llama 3.1 405B,Meta 使用了超过 16,000 个 H100 GPU。为支持大规模生产推理,Meta 对模型进行了量化,使其能够在单个服务器节点上运行。
Llama 3.1 405B 的开源无疑将推动人工智能的发展和创新,我们期待看到更多基于此模型的优秀应用和成果。