三花快讯 · 2024, 6月14日
AsyncDiff: 利用多设备加速生图模型
跨多设备并行生图/视频
AsnycDiff将推理分割成多个部分,并将每个部分分配到不同的设备,实现了跨多设备并行计算,同时对生成质量的影响很小。
在 Stable Diffusion v2.1 上,AsyncDiff 在四个 NVIDIA A5000 GPU 上实现了 2.7 倍的加速,CLIP 分数仅有 0.38 的轻微下降。
商业转载请联系三花微信公众号获得授权,非商业转载请注明本文出处及文章链接,您可以自由地在任何媒体以任何形式复制和分发作品,也可以修改和创作,但是分发衍生作品时必须采用相同的许可协议。
本文采用 CC BY-NC-SA 4.0 - 非商业性使用 - 相同方式共享 4.0 国际 进行许可。