Diffusers documentation
DEISMultistepScheduler
DEISMultistepScheduler
El muestreador de integrador exponencial de difusión (DEIS) se propone en Fast Sampling of Diffusion Models with Exponential Integrator de Qinsheng Zhang y Yongxin Chen. DEISMultistepScheduler es un solver rápido de alto orden para ecuaciones diferenciales ordinarias (ODE) de difusión.
Esta implementación modifica la fórmula de ajuste polinómico en el espacio log-rho en lugar del espacio lineal original t del paper DEIS. La modificación cuenta con coeficientes en forma cerrada para la actualización multipaso exponencial en lugar de depender del solver numérico.
El resumen del artículo es:
En los últimos años se ha observado el gran éxito de los modelos de difusión~(DMs) en la generación de muestras de alta fidelidad en tareas de modelado generativo. Una limitación importante de los DMs es su procedimiento de muestreo notoriamente lento, que normalmente requiere cientos o miles de pasos de discretización temporal del proceso de difusión aprendido para alcanzar la precisión deseada. Nuestro objetivo es desarrollar un método de muestreo rápido para DMs con un número mucho menor de pasos, manteniendo al mismo tiempo una alta calidad de muestra. Para ello, analizamos sistemáticamente el procedimiento de muestreo en los DMs e identificamos los factores clave que afectan a la calidad de la muestra, entre los cuales el método de discretización es el más crucial. Al examinar cuidadosamente el proceso de difusión aprendido, proponemos el muestreador Diffusion Exponential Integrator Sampler~(DEIS). Se basa en el Exponential Integrator diseñado para discretizar ecuaciones diferenciales ordinarias (ODEs) y aprovecha una estructura semilineal del proceso de difusión aprendido para reducir el error de discretización. El método propuesto puede aplicarse a cualquier DM y puede generar muestras de alta fidelidad en tan solo 10 pasos. En nuestros experimentos, se necesitan unos 3 minutos en una GPU A6000 para generar 50k imágenes de CIFAR10. Además, al utilizar directamente DMs preentrenados, logramos un rendimiento de muestreo del estado del arte cuando el número de evaluaciones de la función de puntuación~(NFE) está limitado, por ejemplo, 4.17 FID con 10 NFEs, 3.37 FID y 9.74 IS con solo 15 NFEs en CIFAR10. El código está disponible en esta URL de https.
Consejos
Se recomienda establecer solver_order en 2 o 3, mientras que solver_order=1 es equivalente a DDIMScheduler.
Se admite el umbral dinámico de Imagen y, para los modelos de difusión en el espacio de píxeles, puede establecer thresholding=True para usar el umbral dinámico.
DEISMultistepScheduler
clase diffusers.DEISMultistepScheduler
< source >( num_train_timesteps: int = 1000beta_start: float = 0.0001beta_end: float = 0.02beta_schedule: typing.Literal['linear', 'scaled_linear', 'squaredcos_cap_v2'] = 'linear'trained_betas: numpy.ndarray | list[float] | None = Nonesolver_order: int = 2prediction_type: typing.Literal['epsilon', 'sample', 'v_prediction', 'flow_prediction'] = 'epsilon'thresholding: bool = Falsedynamic_thresholding_ratio: float = 0.995sample_max_value: float = 1.0algorithm_type: typing.Literal['deis'] = 'deis'solver_type: typing.Literal['logrho'] = 'logrho'lower_order_final: bool = Trueuse_karras_sigmas: bool = Falseuse_exponential_sigmas: bool = Falseuse_beta_sigmas: bool = Falseuse_flow_sigmas: bool = Falseflow_shift: float = 1.0timestep_spacing: typing.Literal['linspace', 'leading', 'trailing'] = 'linspace'steps_offset: int = 0use_dynamic_shifting: bool = Falsetime_shift_type: typing.Literal['exponential'] = 'exponential' )
Parámetros
- num_train_timesteps (
int, por defecto1000) — El número de pasos de difusión para entrenar el modelo. - beta_start (
float, por defecto0.0001) — El valor inicial debetapara la inferencia. - beta_end (
float, por defecto0.02) — El valor final debeta. - beta_schedule (
"linear","scaled_linear"o"squaredcos_cap_v2", por defecto"linear") — El plan de betas, un mapeo desde un rango de betas a una secuencia de betas para dar pasos al modelo. Elija entrelinear,scaled_linearosquaredcos_cap_v2. - trained_betas (
np.ndarrayolist[float], opcional) — Pase un array de betas directamente al constructor para omitirbeta_startybeta_end. - solver_order (
int, por defecto2) — El orden DEIS, que puede ser1o2o3. Se recomienda usarsolver_order=2para muestreo guiado ysolver_order=3para muestreo incondicional. - prediction_type (
"epsilon","sample","v_prediction", or"flow_prediction", defaults to"epsilon") — Prediction type of the scheduler function; can beepsilon(predicts the noise of the diffusion process),sample(directly predicts the noisy sample),v_prediction(see section 2.4 of [Imagen Video](https://huggingface.co/papers/2210.02303) paper), orflow_prediction`. - thresholding (
bool, por defectoFalse) — Si se debe utilizar el método de “umbral dinámico”. No es adecuado para modelos de difusión en el espacio latente, como Stable Diffusion. - dynamic_thresholding_ratio (
float, por defecto0.995) — La proporción para el método de umbral dinámico. Solo es válido cuandothresholding=True. - sample_max_value (
float, por defecto1.0) — El valor umbral para el umbral dinámico. Solo es válido cuandothresholding=True. - algorithm_type (
"deis", por defecto"deis") — El tipo de algoritmo para el solver. - solver_type (
"logrho", por defecto"logrho") — Tipo de solver para DEIS. - lower_order_final (
bool, por defectoTrue) — Si se deben usar solutores de orden inferior en los pasos finales. Solo válido para menos de 15 pasos de inferencia. - use_karras_sigmas (
bool, opcional, valor predeterminadoFalse) — Si se deben usar sigmas de Karras para los tamaños de paso en el plan de ruido durante el proceso de muestreo. Si esTrue, los sigmas se determinan según una secuencia de niveles de ruido {σi}. - use_exponential_sigmas (
bool, opcional, valor predeterminadoFalse) — Si se deben usar sigmas exponenciales para los tamaños de paso en el plan de ruido durante el proceso de muestreo. - use_beta_sigmas (
bool, opcional, valor predeterminadoFalse) — Si se deben usar beta sigmas para los tamaños de paso en el programa de ruido durante el proceso de muestreo. Consulte Beta Sampling is All You Need para obtener más información. - use_flow_sigmas (
bool, opcional, valor predeterminadoFalse) — Si se deben usar sigmas de flujo para los tamaños de paso en la programación de ruido durante el proceso de muestreo. - flow_shift (
float, opcional, valor predeterminado1.0) — El parámetro de desplazamiento de flujo para modelos basados en flujo. - timestep_spacing (
"linspace","leading"o"trailing", por defecto"linspace") — La forma en que deben escalarse los timesteps. Consulte la tabla 2 de Common Diffusion Noise Schedules and Sample Steps are Flawed para obtener más información. - steps_offset (
int, por defecto0) — Un desplazamiento que se suma a los pasos de inferencia, tal como lo requieren algunas familias de modelos. - use_dynamic_shifting (
bool, por defectoFalse) — Si se debe usar un desplazamiento dinámico para el plan de ruido. - time_shift_type (
"exponential", por defecto"exponential") — El tipo de desplazamiento temporal a aplicar.
DEISMultistepScheduler es un solver de alto orden y rápido para ecuaciones diferenciales ordinarias (ODEs) de difusión.
Este modelo hereda de SchedulerMixin y ConfigMixin. Consulta la documentación de la clase superior para los métodos genéricos que la biblioteca implementa para todos los programadores, como la carga y el guardado.
add_noise
< source >( original_samples: Tensornoise: Tensortimesteps: IntTensor ) → torch.Tensor
Añade ruido a las muestras originales según el programa de ruido en los pasos de tiempo especificados.
convert_model_output
< source >( model_output: Tensor*argssample: Tensor = None**kwargs ) → torch.Tensor
Parámetros
- model_output (
torch.Tensor) — La salida directa del modelo de difusión aprendido. - timestep (
int) — El paso de tiempo discreto actual en la cadena de difusión. - sample (
torch.Tensor) — Una instancia actual de una muestra creada por el proceso de difusión.
Devuelve
torch.Tensor
La salida del modelo convertido.
Convierta la salida del modelo al tipo correspondiente que necesita el algoritmo DEIS.
deis_first_order_update
< source >( model_output: Tensor*argssample: Tensor = None**kwargs ) → torch.Tensor
Parámetros
- model_output (
torch.Tensor) — La salida directa del modelo de difusión aprendido. - timestep (
int) — El paso de tiempo discreto actual en la cadena de difusión. - prev_timestep (
int) — El paso de tiempo discreto anterior en la cadena de difusión. - sample (
torch.Tensor) — Una instancia actual de una muestra creada por el proceso de difusión.
Devuelve
torch.Tensor
El tensor de muestra en el paso de tiempo anterior.
Un paso para el DEIS de primer orden (equivalente a DDIM).
index_for_timestep
< source >( timestep: typing.Union[int, torch.Tensor]schedule_timesteps: typing.Optional[torch.Tensor] = None ) → int
Encuentra el índice para un paso de tiempo dado en la programación.
multistep_deis_second_order_update
< source >( model_output_list: list*argssample: Tensor = None**kwargs ) → torch.Tensor
Parámetros
- model_output_list (
list[torch.Tensor]) — Las salidas directas del modelo de difusión aprendido en los pasos de tiempo actuales y posteriores. - sample (
torch.Tensor) — Una instancia actual de una muestra creada por el proceso de difusión.
Devuelve
torch.Tensor
El tensor de muestra en el paso de tiempo anterior.
Un paso para el DEIS multipaso de segundo orden.
multistep_deis_third_order_update
< source >( model_output_list: list*argssample: Tensor = None**kwargs ) → torch.Tensor
Parámetros
- model_output_list (
list[torch.Tensor]) — Las salidas directas del modelo de difusión aprendido en los pasos de tiempo actuales y posteriores. - sample (
torch.Tensor) — Una instancia actual de una muestra creada por el proceso de difusión.
Devuelve
torch.Tensor
El tensor de muestra en el paso de tiempo anterior.
Un paso para el DEIS multipaso de tercer orden.
scale_model_input
< source >( sample: Tensor*args**kwargs ) → torch.Tensor
Garantiza la interoperabilidad con los programadores que necesitan escalar la entrada del modelo de desruido en función del paso temporal actual.
set_begin_index
< source >( begin_index: int = 0 )
Establece el índice inicial para el programador. Esta función debe ejecutarse desde la tubería antes de la inferencia.
set_timesteps
< source >( num_inference_steps: intdevice: typing.Union[str, torch.device] = Nonemu: float | None = None )
Parámetros
- num_inference_steps (
int) — El número de pasos de difusión utilizados al generar muestras con un modelo preentrenado. - device (
strotorch.device, opcional) — El dispositivo al que deben moverse los timesteps. Si esNone, los timesteps no se mueven. - mu (
float, opcional) — El parámetro mu para el desplazamiento dinámico. Solo se utiliza cuandouse_dynamic_shifting=Trueytime_shift_type="exponential".
Establece los pasos discretos utilizados para la cadena de difusión (para ejecutarse antes de la inferencia).
paso
< source >( model_output: Tensortimestep: typing.Union[int, torch.Tensor]sample: Tensorreturn_dict: bool = True ) → SchedulerOutput or tuple
Parámetros
- model_output (
torch.Tensor) — La salida directa del modelo de difusión aprendido. - timestep (
intotorch.Tensor) — El paso de tiempo discreto actual en la cadena de difusión. - sample (
torch.Tensor) — Una instancia actual de una muestra creada por el proceso de difusión. - return_dict (
bool, por defectoTrue) — Si se devuelve un SchedulerOutput o unatuple.
Devuelve
SchedulerOutput o tuple
If return_dict is True, SchedulerOutput is returned, otherwise a
tuple is returned where the first element is the sample tensor.
Predice la muestra del paso de tiempo anterior invirtiendo el SDE. Esta función propaga la muestra con el DEIS de múltiples pasos.
SchedulerOutput
clase diffusers.schedulers.scheduling_utils.SchedulerOutput
< source >( prev_sample: Tensor )
Clase base para la salida de la función step de un programador.