Hugging Face's logo

Diffusers documentation

DiTTransformer2DModel

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.42.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

DiTTransformer2DModel

DiT'den görüntü benzeri veriler için bir Transformer modeli.

DiTTransformer2DModel

sınıf diffusers.DiTTransformer2DModel

< >

( num_attention_heads: int = 16attention_head_dim: int = 72in_channels: int = 4out_channels: int | None = Nonenum_layers: int = 28dropout: float = 0.0norm_num_groups: int = 32attention_bias: bool = Truesample_size: int = 32patch_size: int = 2activation_fn: str = 'gelu-approximate'num_embeds_ada_norm: int | None = 1000upcast_attention: bool = Falsenorm_type: str = 'ada_norm_zero'norm_elementwise_affine: bool = Falsenorm_eps: float = 1e-05 )

Parametreler

  • num_attention_heads (int, isteğe bağlı, varsayılan 16) — Çok başlı dikkat (multi-head attention) için kullanılacak baş sayısı.
  • attention_head_dim (int, isteğe bağlı, varsayılan 72) — Her baştaki kanal sayısı.
  • in_channels (int, varsayılan 4) — Girdideki kanal sayısı.
  • out_channels (int, optional) — Çıktıdaki kanal sayısı. Çıktı kanal sayısı girdiden farklıysa bu parametreyi belirtin.
  • num_layers (int, isteğe bağlı, varsayılan 28) — Kullanılacak Transformer bloklarının katman sayısı.
  • dropout (float, isteğe bağlı, varsayılan 0.0) — Transformer blokları içinde kullanılacak dropout olasılığı.
  • norm_num_groups (int, optional, defaults to 32) — Transformer blokları içinde grup normalizasyonu için grup sayısı.
  • attention_bias (bool, isteğe bağlı, varsayılan True) — Transformer bloklarının dikkat (attention) mekanizmasının bir bias parametresi içermesini yapılandırır.
  • sample_size (int, varsayılan 32) — Gizli görüntülerin genişliği. Bu parametre eğitim sırasında sabittir.
  • patch_size (int, varsayılan 2) — Modelin işlediği yamaların boyutu; sıralı olmayan verilerle çalışan mimariler için geçerlidir.
  • activation_fn (str, optional, varsayılan “gelu-approximate”) — Transformer blokları içindeki ileri beslemeli ağlarda kullanılacak aktivasyon fonksiyonu.
  • num_embeds_ada_norm (int, optional, defaults to 1000) — AdaLayerNorm için gömme sayısı, eğitim sırasında sabitlenir ve çıkarım sırasında maksimum gürültü azaltma adımlarını etkiler.
  • upcast_attention (bool, isteğe bağlı, varsayılan False) — True ise, potansiyel olarak performansın iyileştirilmesi için dikkat mekanizmasının boyutlarını yukarı dönüştürür.
  • norm_type (str, optional, varsayılan “ada_norm_zero”) — Kullanılan normalizasyon türünü belirtir, ‘ada_norm_zero’ olabilir.
  • norm_elementwise_affine (bool, isteğe bağlı, varsayılan False) — True ise, normalizasyon katmanlarında öge bazlı afin parametreleri etkinleştirir.
  • norm_eps (float, optional, varsayılan 1e-5) — Normalizasyon katmanlarında paydadaki bölme sıfıra bölme hatasını önlemek için eklenen küçük bir sabit.

DiT (https://huggingface.co/papers/2212.09748) makalesinde tanıtılan 2B Transformer modeli.

forward

< >

( hidden_states: Tensortimestep: typing.Optional[torch.LongTensor] = Noneclass_labels: typing.Optional[torch.LongTensor] = Nonecross_attention_kwargs: dict = Nonereturn_dict: bool = True )

Parametreler

  • hidden_states (discrete ise (batch size, num latent pixels) biçiminde torch.LongTensor, continuous ise (batch size, channel, height, width) biçiminde torch.FloatTensor) — Girdi hidden_states.
  • timestep ( torch.LongTensor, isteğe bağlı) — Gürültü azaltma adımını belirtmek için kullanılır. AdaLayerNorm içinde gömme olarak uygulanacak isteğe bağlı timestep.
  • class_labels ( torch.LongTensor, şekli (batch size, num classes), isteğe bağlı) — Sınıf etiketi koşullandırmasını belirtmek için kullanılır. AdaLayerZeroNorm içinde gömme (embedding) olarak uygulanacak isteğe bağlı sınıf etiketleri.
  • cross_attention_kwargs ( dict[str, Any], isteğe bağlı) — Belirtilirse, diffusers.models.attention_processor içindeki self.processor altında tanımlanan AttentionProcessor'a iletilen bir kwargs sözlüğü.
  • return_dict (bool, isteğe bağlı, varsayılan True) — Düz bir tuple yerine UNet2DConditionOutput döndürülüp döndürülmemesi.

DiTTransformer2DModel ileri yöntemi.

Update on GitHub

←CosmosTransformer3DModel EasyAnimateTransformer3DModel→