三花快讯 · 2024, 11月5日
OpenAI 推出 Predicted Outputs：降低延迟提升速度
最终能够使其快 2-4 倍
Predicted Outputs 是 OpenAI 最新推出的功能，旨在提升 GPT-4o 和 GPT-4o-mini 的效率。
你可以在使用 GPT-4o/GPT-4o-mini 时，提供一段预测文本（即预计模型大部分会重复输出的内容，例如编程任务中的函数重构），最终能够使其快 2-4 倍。
关于价格，文档说的比较模糊，佬们可以自己看看，我任务是除了原本的计费外，与提供的预测不相同的部分也会计费，这意味着更快了，但是更贵了，希望能打脸。
商业转载请联系三花微信公众号获得授权，非商业转载请注明本文出处及文章链接，您可以自由地在任何媒体以任何形式复制和分发作品，也可以修改和创作，但是分发衍生作品时必须采用相同的许可协议。
本文采用 CC BY-NC-SA 4.0 - 非商业性使用 - 相同方式共享 4.0 国际 进行许可。