Hugging Face's logo

Diffusers documentation

ChromaTransformer2DModel

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.42.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

ChromaTransformer2DModel

نموذج flux Transformer معدّل من Chroma

ChromaTransformer2DModel

فئة diffusers.ChromaTransformer2DModel

< >

( patch_size: int = 1in_channels: int = 64out_channels: int | None = Nonenum_layers: int = 19num_single_layers: int = 38attention_head_dim: int = 128num_attention_heads: int = 24joint_attention_dim: int = 4096axes_dims_rope: tuple = (16, 56, 56)approximator_num_channels: int = 64approximator_hidden_dim: int = 5120approximator_layers: int = 5 )

المعاملات

  • patch_size (int، القيمة الافتراضية 1) — حجم الباتش لتحويل البيانات المدخلة إلى باتشات صغيرة.
  • in_channels (int)، القيمة الافتراضية 64 — عدد القنوات في المدخلات.
  • out_channels (int، اختياري، القيمة الافتراضية None) — عدد القنوات في المخرجات. إذا لم يُحدد، تكون القيمة الافتراضية in_channels.
  • num_layers (int، القيمة الافتراضية 19) — عدد طبقات كتل DiT ذات التدفق المزدوج التي سيتم استخدامها.
  • num_single_layers (int، القيمة الافتراضية 38) — عدد طبقات كتل DiT ذات التدفق الواحد التي سيتم استخدامها.
  • attention_head_dim (int، القيمة الافتراضية 128) — عدد الأبعاد المستخدمة لكل رأس انتباه.
  • num_attention_heads (int، القيمة الافتراضية 24) — عدد رؤوس الانتباه (attention heads) المستخدمة.
  • joint_attention_dim (int، القيمة الافتراضية 4096) — عدد الأبعاد المستخدمة للانتباه المشترك (بعد التضمين/القناة الخاص بـ encoder_hidden_states).
  • axes_dims_rope (tuple[int]، القيمة الافتراضية (16, 56, 56)) — الأبعاد المستخدمة للتضمينات الموضعية الدوارة.

نموذج Transformer الذي تم تقديمه في Flux، مع تعديلات من أجل Chroma.

مرجع: https://huggingface.co/lodestones/Chroma1-HD

forward

< >

( hidden_states: Tensorencoder_hidden_states: Tensor = Nonetimestep: LongTensor = Noneimg_ids: Tensor = Nonetxt_ids: Tensor = Noneattention_mask: Tensor = Nonejoint_attention_kwargs: dict[str, typing.Any] | None = Nonecontrolnet_block_samples = Nonecontrolnet_single_block_samples = Nonereturn_dict: bool = Truecontrolnet_blocks_repeat: bool = False )

المعاملات

  • hidden_states (torch.Tensor من الشكل (batch_size, image_sequence_length, in_channels)) — مدخلات hidden_states.
  • encoder_hidden_states (torch.Tensor من الشكل (batch_size, text_sequence_length, joint_attention_dim)) — تضمينات شرطية (تضمينات محسوبة من الشروط المدخلة مثل الأوامر النصية) للاستخدام.
  • timestep ( torch.LongTensor) — يُستخدم للإشارة إلى خطوة إزالة الضوضاء.
  • img_ids (torch.Tensor) — معرّفات مواضع الصور المستخدمة لحساب التضمينات الموضعية الدوارة.
  • txt_ids (torch.Tensor) — معرّفات مواضع النص المستخدمة لحساب التضمينات الموضعية الدوارة.
  • attention_mask (torch.Tensor، اختياري) — قناع يُطبَّق على encoder_hidden_states أثناء الانتباه.
  • controlnet_block_samples (list من torch.Tensor، اختياري) — قائمة من الموترات التي إذا تم تحديدها تُضاف إلى بقايا كتل التحوّل.
  • controlnet_single_block_samples (list من torch.Tensor، اختياري) — قائمة من الموترات التي إذا تم تحديدها تُضاف إلى بقايا كتل التحوّل المفردة.
  • controlnet_blocks_repeat (bool، اختياري، القيمة الافتراضية False) — ما إذا كان يجب تكرار عينات كتل controlnet عبر جميع كتل transformer.
  • joint_attention_kwargs (dict، اختياري) — قاموس kwargs يُمرَّر إلى AttentionProcessor كما هو معرَّف تحت self.processor في diffusers.models.attention_processor إذا تمَّ تحديده.
  • return_dict (bool، اختياري، القيمة الافتراضية True) — ما إذا كان يجب إرجاع ~models.transformer_2d.Transformer2DModelOutput بدلاً من tuple عادي.

طريقة FluxTransformer2DModel الأمامية.

Update on GitHub

←BriaTransformer2DModel ChronoEditTransformer3DModel→