Hub documentation

硬件

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

硬件

告诉 Hub 您拥有的计算硬件(GPU、CPU 或 Apple Silicon),它将帮助您找到可在您的配置上运行的模型。此信息也会显示在您的公开个人资料中,方便您与社区对比配置,并且您可以随时将其设为私密。

您可以随时从硬件设置中管理它。

Hardware settings page in light mode.

添加您的硬件

在您的 硬件设置 页面中,添加您拥有的每一台硬件:

  1. 选择类型:GPU、CPU 或 Apple Silicon。
  2. 选择 provider 和 model(例如,NVIDIA RTX 4090)。
  3. 设置您的 内存(VRAM、RAM 或统一内存)以及您拥有的 单元数量。

您可以添加任意数量的条目。如果您拥有多台设备,请将其中一台标记为主要硬件,以便它在模型页面中优先显示。

您的硬件默认是公开的。关闭 Publicly Visible 开关即可将其设为私有。

查看哪些模型适合您的硬件

在提供 GGUF 或 MLX 文件的模型页面上,硬件兼容性 面板会估算每种量化方案是否能在您已保存的硬件上运行,以便您在下载前选择合适的大小。将其与 本地应用 配合使用,只需点击几下即可开始使用。

共享和比较

当您的硬件是公开的:

  • 您的个人资料上会显示一个 TFLOPS 徽章,用于汇总您的预估总算力。
  • 您可以浏览社区正在运行的内容,并查看您的配置在 GPU、CPU 和 Apple Silicon 上的对比情况。
  • 每个供应商也有自己的页面,例如 NVIDIA、AMD、Apple、Intel 和 Qualcomm,将同一品牌的硬件集中展示在一处。

从 API 读取硬件

如果您的硬件是公开的,那么它也可以通过编程方式访问:

  • GET https://huggingface.co/oauth/userinfo 在您的应用被授予 profile 权限范围时,会包含 hardwareItems 声明,因此 Sign in with Hugging Face 应用无需额外调用即可读取已登录用户的配置。
  • GET https://huggingface.co/api/users/{username}/overview 会返回任何硬件信息为公开状态的用户对应的 hardwareItems 数组。
curl https://huggingface.co/api/users/{username}/overview
{
  "hardwareItems": [
    { "sku": ["GPU", "NVIDIA", "RTX 4090"], "mem": 24, "num": 2, "isPrimary": true }
  ]
}

每个条目包含:

  • sku:[type, provider, model] 三元组。
  • mem:内存大小(以 GB 为单位,包括 VRAM、RAM 或统一内存)。
  • num:单元的数量。
  • isPrimary:仅存在于标记为主项的条目上。

如果用户关闭了 Publicly Visible 开关,hardwareItems 将不会包含在两个响应中。完整的响应架构请参阅 Hub API 文档。

后续步骤

Update on GitHub