随着模型规模的增长，生成式人工智能的实现需要大量的推理资源。这不仅增加了每次生成的成本，而且还增加了用于满足此类请求的功耗。因此，文本生成的推理优...

本文主要探讨 TGI 的小兄弟 - TGI 基准测试工具。它能帮助我们超越简单的吞吐量指标，对 TGI 进行更全面的性能剖析，以更好地了解如何根据实际需求对服务进行...

🤗 3D 机器学习课程上线🎉 在本课程中，你将学习到： 当前 3D 机器学习的总体情况 近期发展的重要性 如何自己动手制作生成式 3D 演示 课程当前有 4 个短视频...

🤗 3D 机器学习课程上线🎉 在本课程中，你将学习到： 当前 3D 机器学习的总体情况 近期发展的重要性 如何自己动手制作生成式 3D 演示 课程当前有 4 个短视频...

Hugging Face 3D 机器学习课发布啦！ 在本课程中，你将学习到： 当前 3D 机器学习的总体情况 近期发展的重要性 如何自己动手制作生成式 3D 演示 课程当前有...

🤗 3D 机器学习课程上线🎉 在本课程中，你将学习到： 当前 3D 机器学习的总体情况 近期发展的重要性 如何自己动手制作生成式 3D 演示 课程当前有4个短视频。...

作者 / 产品管理总监 Tris Warkentin；高级研究员翟晓华；产品经理 Ludovic Peran 在 Google，我们相信合作和开放研究能够推动创新。我们非常感谢社区对 Gemm...

我们很高兴在 TRL 中介绍 RLOO (REINFORCE Leave One-Out) 训练器。作为一种替代 PPO 的方法，RLOO 是一种新的在线 RLHF 训练算法，旨在使其更易于访问和实施...

作为 Stability AI 的 Stable Diffusion 家族最新的模型，Stable Diffusion 3 (SD3) 现已登陆 Hugging Face Hub，并且可用在 🧨 Diffusers 中使用了。 当前放...

很高兴和大家分享 Hugging Face 的一项新功能: KV 缓存量化 ，它能够把你的语言模型的速度提升到一个新水平。 太长不看版: KV 缓存量化可在最小化对生成质量...