在 Hugging Face 上使用 Adapters

注意：Adapters 已取代 adapter-transformers 库，并且在模型权重方面完全兼容。有关更多信息，请参阅此处。

Adapters 是 🤗 transformers 的一个附加库，用于通过适配器和其他参数高效方法对预训练语言模型进行高效微调。Adapters 还提供了多种方法，用于在训练和推理过程中组合适配器模块。 你可以在 Adapters 论文 中了解更多信息。

探索 Hub 上的适配器

您可以通过在模型页面左侧进行筛选来查找Adapters模型。部分适配器模型可在 Adapter Hub 仓库中找到。来自这两个来源的模型已汇总在AdapterHub 网站上。

安装

要开始使用，您可以参考AdapterHub 安装指南。您也可以通过 pip 使用以下单行命令进行安装：

pip install adapters

使用现有模型

如需了解加载预训练适配器的完整指南，我们建议查阅官方指南。

简要概括一下，完整的设置包括三个步骤：

1. 使用 Adapters 提供的 AutoAdapterModel 类加载一个基础的 transformers 模型。
2. 使用 load_adapter() 方法加载并添加适配器。
3. 通过 active_adapters 激活适配器（用于推理），或通过 train_adapter() 激活并将其设置为可训练（用于训练）。请务必同时参阅 适配器组合。

from adapters import AutoAdapterModel

# 1.
model = AutoAdapterModel.from_pretrained("FacebookAI/roberta-base")
# 2.
adapter_name = model.load_adapter("AdapterHub/roberta-base-pf-imdb")
# 3.
model.active_adapters = adapter_name
# or model.train_adapter(adapter_name)

您还可以使用 list_adapters 以编程方式查找所有适配器模型：

from adapters import list_adapters

# source can be "ah" (AdapterHub), "hf" (hf.co) or None (for both, default)
adapter_infos = list_adapters(source="hf", model_name="FacebookAI/roberta-base")

如果你想查看如何加载特定模型，可以单击 Use in Adapters，系统会提供一个可用的代码片段，供你加载该模型！

共享您的模型

如需了解使用 Adapters 共享模型的完整指南，我们建议查阅 官方指南。

您可以使用已包含适配器的模型中的 push_adapter_to_hub 方法来共享您的适配器。

model.push_adapter_to_hub(
    "my-awesome-adapter",
    "awesome_adapter",
    adapterhub_tag="sentiment/imdb",
    datasets_tag="imdb"
)

此命令会创建一个包含自动生成的模型卡片和所有必要元数据的仓库。

其他资源

• 适配器 仓库
• 适配器 文档
• 适配器 论文
• 与 Hub 的集成 文档