Mercury：首个商用大语言扩散模型

Mercury 是由 Inception Labs 推出的一种新型大语言模型，该模型采用扩散模型技术，允许模型一次性生成多个 token，从而极大提升了生成速度。

在 NVIDIA H100 GPU 上能够以超过 1000 个 token/秒 的速度生成响应，比传统模型快约 10 倍，编程性能差不多相当于 GPT-4o-mini。

目前，Mercury 只支持在官方使用或者接入 API 调用（需要申请）。

如果你对大语言扩散模型感兴趣，可以看看前几天介绍过的开源大语言扩散模型 LLaDA。