Hugging Face's logo

Diffusers documentation

Camadas de normalização

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.42.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Camadas de normalização

Camadas de normalização personalizadas para suportar vários modelos no 🤗 Diffusers.

AdaLayerNorm

classe diffusers.models.normalization.AdaLayerNorm

< >

( embedding_dim: intnum_embeddings: int | None = Noneoutput_dim: int | None = Nonenorm_elementwise_affine: bool = Falsenorm_eps: float = 1e-05chunk_dim: int = 0 )

Parâmetros

  • embedding_dim (int) — O tamanho de cada vetor de incorporação.
  • num_embeddings (int, opcional) — O tamanho do dicionário de embeddings.
  • output_dim (int, opcional) —
  • norm_elementwise_affine (bool, padrão `False) —
  • norm_eps (bool, padrão False) —
  • chunk_dim (int, padrão 0) —

Camada de normalização modificada para incorporar embeddings de timestep.

AdaLayerNormZero

classe diffusers.models.normalization.AdaLayerNormZero

< >

( embedding_dim: intnum_embeddings: int | None = Nonenorm_type = 'layer_norm'bias = True )

Parâmetros

  • embedding_dim (int) — O tamanho de cada vetor de incorporação.
  • num_embeddings (int) — O tamanho do dicionário de embeddings.

Camada de normalização adaptativa layer norm zero (adaLN-Zero).

AdaLayerNormSingle

classe diffusers.models.normalization.AdaLayerNormSingle

< >

( embedding_dim: intuse_additional_conditions: bool = False )

Parâmetros

  • embedding_dim (int) — O tamanho de cada vetor de incorporação.
  • use_additional_conditions (bool) — Se deve usar condições adicionais para normalização ou não.

Camada de normalização adaptativa: normalização de camada única adaptativa (adaLN-single).

Conforme proposto em PixArt-Alpha (veja: https://huggingface.co/papers/2310.00426; Seção 2.3).

AdaGroupNorm

classe diffusers.models.normalization.AdaGroupNorm

< >

( embedding_dim: intout_dim: intnum_groups: intact_fn: str | None = Noneeps: float = 1e-05 )

Parâmetros

  • embedding_dim (int) — O tamanho de cada vetor de incorporação.
  • num_embeddings (int) — O tamanho do dicionário de embeddings.
  • num_groups (int) — O número de grupos para separar os canais.
  • act_fn (str, opcional, padrão None) — A função de ativação a ser utilizada.
  • eps (float, opcional, padrão 1e-5) — O valor de epsilon a ser usado para estabilidade numérica.

Camada GroupNorm modificada para incorporar embeddings de timestep.

AdaLayerNormContinuous

classe diffusers.models.normalization.AdaLayerNormContinuous

< >

( embedding_dim: intconditioning_embedding_dim: intelementwise_affine = Trueeps = 1e-05bias = Truenorm_type = 'layer_norm' )

Parâmetros

  • embedding_dim (int) — Dimensão de incorporação a ser usada durante a projeção.
  • conditioning_embedding_dim (int) — Dimensão da condição de entrada.
  • elementwise_affine (bool, padrão True) — Flag para indicar se a transformação afim deve ser aplicada.
  • eps (float, padrão 1e-5) — Fator epsilon.
  • bias (bias, padrão True) — Sinalizador booleano para indicar se o bias deve ser usado.
  • norm_type (str, padrão "layer_norm") — Camada de normalização a ser usada. Valores suportados: “layer_norm”, “rms_norm”.

Camada de normalização adaptativa com uma camada de normalização (layer_norm ou rms_norm).

RMSNorm

classe diffusers.models.normalization.RMSNorm

< >

( dimeps: floatelementwise_affine: bool = Truebias: bool = False )

Parâmetros

  • dim (int) — Número de dimensões a usar para weights. Somente eficaz quando elementwise_affine é True.
  • eps (float) — Valor pequeno a ser usado ao calcular o recíproco da raiz quadrada.
  • elementwise_affine (bool, padrão True) — Flag para indicar se a transformação afim deve ser aplicada.
  • bias (bool, padrão é False) — Se também treinar o parâmetro bias.

RMS Norm, introduzido em https://huggingface.co/papers/1910.07467 por Zhang et al.

GlobalResponseNorm

classe diffusers.models.normalization.GlobalResponseNorm

< >

( dim )

Parâmetros

  • dim (int) — Número de dimensões a serem usadas para gamma e beta.

Normalização global de resposta, conforme introduzido no ConvNeXt-v2 (https://huggingface.co/papers/2301.00808).

LuminaLayerNormContinuous

classe diffusers.models.normalization.LuminaLayerNormContinuous

< >

( embedding_dim: intconditioning_embedding_dim: intelementwise_affine = Trueeps = 1e-05bias = Truenorm_type = 'layer_norm'out_dim: int | None = None )

SD35AdaLayerNormZeroX

classe diffusers.models.normalization.SD35AdaLayerNormZeroX

< >

( embedding_dim: intnorm_type: str = 'layer_norm'bias: bool = True )

Parâmetros

  • embedding_dim (int) — O tamanho de cada vetor de incorporação.
  • num_embeddings (int) — O tamanho do dicionário de embeddings.

Camada de normalização adaptativa de normalização de camada zero (AdaLN-Zero).

AdaLayerNormZeroSingle

classe diffusers.models.normalization.AdaLayerNormZeroSingle

< >

( embedding_dim: intnorm_type = 'layer_norm'bias = True )

Parâmetros

  • embedding_dim (int) — O tamanho de cada vetor de incorporação.
  • num_embeddings (int) — O tamanho do dicionário de embeddings.

Camada de normalização adaptativa layer norm zero (adaLN-Zero).

LuminaRMSNormZero

classe diffusers.models.normalization.LuminaRMSNormZero

< >

( embedding_dim: intnorm_eps: floatnorm_elementwise_affine: bool )

Parâmetros

  • embedding_dim (int) — O tamanho de cada vetor de incorporação.

Camada de normalização normalização RMS adaptativa zero.

LpNorm

classe diffusers.models.normalization.LpNorm

< >

( p: int = 2dim: int = -1eps: float = 1e-12 )

CogView3PlusAdaLayerNormZeroTextImage

classe diffusers.models.normalization.CogView3PlusAdaLayerNormZeroTextImage

< >

( embedding_dim: intdim: int )

Parâmetros

  • embedding_dim (int) — O tamanho de cada vetor de incorporação.
  • num_embeddings (int) — O tamanho do dicionário de embeddings.

Camada de normalização adaptativa layer norm zero (adaLN-Zero).

CogVideoXLayerNormZero

classe diffusers.models.normalization.CogVideoXLayerNormZero

< >

( conditioning_dim: intembedding_dim: intelementwise_affine: bool = Trueeps: float = 1e-05bias: bool = True )

MochiRMSNormZero

classe diffusers.models.transformers.transformer_mochi.MochiRMSNormZero

< >

( embedding_dim: inthidden_dim: inteps: float = 1e-05elementwise_affine: bool = False )

Parâmetros

  • embedding_dim (int) — O tamanho de cada vetor de incorporação.

Adaptive RMS Norm usado no Mochi.

MochiRMSNorm

classe diffusers.models.normalization.MochiRMSNorm

< >

( dimeps: floatelementwise_affine: bool = True )

Update on GitHub

←Métodos de cache Utilitários→