三花快讯 · 2024, 7月19日

Groq: 开源基于 Llama3 专为工具使用而设计的模型

两个不同型号的 Function Calling 能力超越了目前所有模型

Groq 公司基于 Meta Llama-3 发布两款新的开源模型,专为工具使用而设计,都可直接在 HF 上下载:

也可以在 Groq 的控制台使用,70B 速度为 300+ token/s,8B 达到恐怖的 1000+ token/s,建议使用感受下~

这两个模型的 Function Calling 能力超越了目前所有模型,包括 Claude 3.5、GPT-4o 等闭源模型,在 BFCL 基准测试上排名第一

商业转载请联系三花微信公众号获得授权,非商业转载请注明本文出处及文章链接,您可以自由地在任何媒体以任何形式复制和分发作品,也可以修改和创作,但是分发衍生作品时必须采用相同的许可协议。

本文采用 CC BY-NC-SA 4.0 - 非商业性使用 - 相同方式共享 4.0 国际 进行许可。