三花快讯 · 2024, 9月26日
Meta AI 发布 Llama 3.2：支持多模态，手机端运行无压力
11B 视觉模型仅需 22GB 显存，4090 显卡即可运行
Meta AI 发布了 Llama 3.2 模型，包含 5 个适用于端侧的 1B 和 3B 多语言纯文本模型，以及 5 个使用 60 亿图文数据训练的 11B 和 90B Vision 模型。让我们再一次高呼，Meta AI 才是真正 OpenAI，社区已经有人发布了 1B 和 3B 的量化版本，原版的 VL 11B 模型也只需 22GB 显存，这意味着无需量化，24G 的 4090 就能跑了。你可以在 Hugging Face 找到更多量化版本的信息。
商业转载请联系三花微信公众号获得授权，非商业转载请注明本文出处及文章链接，您可以自由地在任何媒体以任何形式复制和分发作品，也可以修改和创作，但是分发衍生作品时必须采用相同的许可协议。
本文采用 CC BY-NC-SA 4.0 - 非商业性使用 - 相同方式共享 4.0 国际 进行许可。