Diffusers documentation
DPMSolverSinglestepScheduler
DPMSolverSinglestepScheduler
DPMSolverSinglestepScheduler es un programador de un solo paso de DPM-Solver: A Fast ODE Solver for Diffusion Probabilistic Model Sampling in Around 10 Steps y DPM-Solver++: Fast Solver for Guided Sampling of Diffusion Probabilistic Models de Cheng Lu, Yuhao Zhou, Fan Bao, Jianfei Chen, Chongxuan Li y Jun Zhu.
DPMSolver (y la versión mejorada DPMSolver++) es un solver de alto orden dedicado y rápido para ecuaciones diferenciales ordinarias de difusión, con garantía de orden de convergencia. Empíricamente, el muestreo con DPMSolver de solo 20 pasos puede generar muestras de alta calidad, y puede generar muestras bastante buenas incluso en 10 pasos.
La implementación original se puede encontrar en LuChengTHU/dpm-solver.
Consejos
Se recomienda establecer solver_order en 2 para la muestreo con guía, y solver_order=3 para el muestreo incondicional.
El umbral dinámico de Imagen es compatible. En los modelos de difusión en el espacio de píxeles, puede establecer tanto algorithm_type="dpmsolver++" como thresholding=True para utilizar el umbral dinámico. Este método de umbral no es adecuado para los modelos de difusión en el espacio latente, como Stable Diffusion.
DPMSolverSinglestepScheduler
clase diffusers.DPMSolverSinglestepScheduler
< source >( num_train_timesteps: int = 1000beta_start: float = 0.0001beta_end: float = 0.02beta_schedule: typing.Literal['linear', 'scaled_linear', 'squaredcos_cap_v2'] = 'linear'trained_betas: numpy.ndarray | list[float] | None = Nonesolver_order: int = 2prediction_type: typing.Literal['epsilon', 'sample', 'v_prediction', 'flow_prediction'] = 'epsilon'thresholding: bool = Falsedynamic_thresholding_ratio: float = 0.995sample_max_value: float = 1.0algorithm_type: typing.Literal['dpmsolver', 'dpmsolver++', 'sde-dpmsolver++'] = 'dpmsolver++'solver_type: typing.Literal['midpoint', 'heun'] = 'midpoint'lower_order_final: bool = Falseuse_karras_sigmas: bool = Falseuse_exponential_sigmas: bool = Falseuse_beta_sigmas: bool = Falseuse_flow_sigmas: bool = Falseflow_shift: float = 1.0final_sigmas_type: typing.Literal['zero', 'sigma_min'] = 'zero'lambda_min_clipped: float = -infvariance_type: typing.Optional[typing.Literal['learned', 'learned_range']] = Noneuse_dynamic_shifting: bool = Falsetime_shift_type: typing.Literal['exponential'] = 'exponential' )
Parámetros
- num_train_timesteps (
int, por defecto1000) — El número de pasos de difusión para entrenar el modelo. - beta_start (
float, por defecto0.0001) — El valor inicial debetapara la inferencia. - beta_end (
float, por defecto0.02) — El valor final debeta. - beta_schedule (
"linear","scaled_linear"o"squaredcos_cap_v2", por defecto"linear") — El plan de betas, un mapeo desde un rango de betas a una secuencia de betas para dar pasos al modelo. Elija entrelinear,scaled_linearosquaredcos_cap_v2. - trained_betas (
np.ndarrayolist[float], opcional) — Pase un array de betas directamente al constructor para omitirbeta_startybeta_end. - solver_order (
int, por defecto2) — El orden de DPMSolver, que puede ser1o2o3. Se recomienda usarsolver_order=2para muestreo guiado ysolver_order=3para muestreo incondicional. - prediction_type (
"epsilon","sample","v_prediction", or"flow_prediction", defaults to"epsilon") — Prediction type of the scheduler function; can beepsilon(predicts the noise of the diffusion process),sample(directly predicts the noisy sample),v_prediction(see section 2.4 of [Imagen Video](https://huggingface.co/papers/2210.02303) paper), orflow_prediction`. - thresholding (
bool, por defectoFalse) — Si se debe utilizar el método de “umbral dinámico”. No es adecuado para modelos de difusión en el espacio latente, como Stable Diffusion. - dynamic_thresholding_ratio (
float, por defecto0.995) — La proporción para el método de umbral dinámico. Solo es válido cuandothresholding=True. - sample_max_value (
float, por defecto1.0) — El valor umbral para el umbral dinámico. Solo es válido cuandothresholding=Trueyalgorithm_type="dpmsolver++". - algorithm_type (
"dpmsolver","dpmsolver++"o"sde-dpmsolver++", por defecto"dpmsolver++") — Tipo de algoritmo para el solver; puede serdpmsolver,dpmsolver++osde-dpmsolver++. El tipodpmsolverimplementa los algoritmos del artículo DPMSolver, y el tipodpmsolver++implementa los algoritmos del artículo DPMSolver++. Se recomienda usardpmsolver++osde-dpmsolver++consolver_order=2para muestreo guiado, como en Stable Diffusion. - solver_type (
"midpoint"o"heun", por defecto"midpoint") — Tipo de solver para el solver de segundo orden; puede sermidpointoheun. El tipo de solver afecta ligeramente a la calidad de la muestra, especialmente con un número pequeño de pasos. Se recomienda usar solversmidpoint. - lower_order_final (
bool, por defectoFalse) — Si se deben usar solutores de orden inferior en los pasos finales. Solo es válido para < 15 pasos de inferencia. Esto puede estabilizar el muestreo de DPMSolver para pasos < 15, especialmente para pasos <= 10. - use_karras_sigmas (
bool, opcional, valor predeterminadoFalse) — Si se deben usar sigmas de Karras para los tamaños de paso en el plan de ruido durante el proceso de muestreo. Si esTrue, los sigmas se determinan según una secuencia de niveles de ruido {σi}. - use_exponential_sigmas (
bool, opcional, valor predeterminadoFalse) — Si se deben usar sigmas exponenciales para los tamaños de paso en el plan de ruido durante el proceso de muestreo. - use_beta_sigmas (
bool, opcional, valor predeterminadoFalse) — Si se deben usar beta sigmas para los tamaños de paso en el programa de ruido durante el proceso de muestreo. Consulte Beta Sampling is All You Need para obtener más información. - use_flow_sigmas (
bool, opcional, valor predeterminadoFalse) — Si se deben usar sigmas de flujo para los tamaños de paso en la programación de ruido durante el proceso de muestreo. - flow_shift (
float, opcional, valor predeterminado1.0) — El parámetro de desplazamiento de flujo para modelos basados en flujo. - final_sigmas_type (
"zero"o"sigma_min", opcional, valor predeterminado"zero") — El valor final desigmapara el programa de ruido durante el proceso de muestreo. Si es"sigma_min", el sigma final es el mismo que el último sigma del programa de entrenamiento. Si es"zero", el sigma final se establece en 0. - lambda_min_clipped (
float, por defecto-inf) — Umbral de recorte para el valor mínimo delambda(t)para la estabilidad numérica. Esto es crítico para la programación de ruido coseno (squaredcos_cap_v2). - variance_type (
"learned"o"learned_range", opcional) — Establecer en"learned"o"learned_range"para modelos de difusión que predicen la varianza. Si se establece, la salida del modelo contiene la varianza gaussiana predicha. - use_dynamic_shifting (
bool, por defectoFalse) — Si se debe usar un desplazamiento dinámico para el plan de ruido. - time_shift_type (
"exponential", por defecto"exponential") — El tipo de desplazamiento temporal a aplicar.
DPMSolverSinglestepScheduler es un solver de alto orden dedicado y rápido para ecuaciones diferenciales ordinarias de difusión.
Este modelo hereda de SchedulerMixin y ConfigMixin. Consulta la documentación de la clase superior para los métodos genéricos que la biblioteca implementa para todos los programadores, como la carga y el guardado.
add_noise
< source >( original_samples: Tensornoise: Tensortimesteps: IntTensor ) → torch.Tensor
Añade ruido a las muestras originales según el programa de ruido en los pasos de tiempo especificados.
convert_model_output
< source >( model_output: Tensor*argssample: typing.Optional[torch.Tensor] = None**kwargs ) → torch.Tensor
Convierte la salida del modelo al tipo correspondiente que necesita el algoritmo DPMSolver/DPMSolver++. DPM-Solver está diseñado para discretizar una integral del modelo de predicción de ruido, y DPM-Solver++ está diseñado para discretizar una integral del modelo de predicción de datos.
> El algoritmo y el tipo de modelo están desacoplados. Puede usar DPMSolver o DPMSolver++ tanto para modelos de predicción de ruido como para modelos de predicción de datos.
dpm_solver_first_order_update
< source >( model_output: Tensor*argssample: typing.Optional[torch.Tensor] = Nonenoise: typing.Optional[torch.Tensor] = None**kwargs ) → torch.Tensor
Parámetros
- model_output (
torch.Tensor) — La salida directa del modelo de difusión aprendido. - timestep (
int) — El paso de tiempo discreto actual en la cadena de difusión. - prev_timestep (
int) — El paso de tiempo discreto anterior en la cadena de difusión. - sample (
torch.Tensor) — Una instancia actual de una muestra creada por el proceso de difusión. - noise (
torch.Tensor, opcional) — Ruido aleatorio utilizado por las variantes de solvador estocástico (sde-*). Es obligatorio cuandoalgorithm_typese establece en una de ellas y no se utiliza en caso contrario.
Devuelve
torch.Tensor
El tensor de muestra en el paso de tiempo anterior.
Un paso para el DPMSolver de primer orden (equivalente a DDIM).
get_order_list
< source >( num_inference_steps: int ) → list[int]
Calcula el orden del solver en cada paso de tiempo.
index_for_timestep
< source >( timestep: typing.Union[int, torch.Tensor]schedule_timesteps: typing.Optional[torch.Tensor] = None ) → int
Encuentra el índice para un paso de tiempo dado en la programación.
scale_model_input
< source >( sample: Tensor*args**kwargs ) → torch.Tensor
Garantiza la interoperabilidad con los programadores que necesitan escalar la entrada del modelo de desruido en función del paso temporal actual.
set_begin_index
< source >( begin_index: int = 0 )
Establece el índice inicial para el programador. Esta función debe ejecutarse desde la tubería antes de la inferencia.
set_timesteps
< source >( num_inference_steps: int = Nonedevice: typing.Union[str, torch.device] = Nonemu: float | None = Nonetimesteps: list[int] | None = None )
Parámetros
- num_inference_steps (
int, opcional) — El número de pasos de difusión utilizados al generar muestras con un modelo preentrenado. - device (
strotorch.device, opcional) — El dispositivo al que deben moverse los timesteps. Si esNone, los timesteps no se mueven. - mu (
float, opcional) — Exponente para el desplazamiento dinámico en el tiempo. Requiereuse_dynamic_shiftingy untime_shift_typede"exponential"; si se pasa,flow_shiftse establece enexp(mu). - timesteps (
list[int], opcional) — Pasos de tiempo personalizados para admitir un espaciado arbitrario entre los pasos de tiempo. Si esNone, se utiliza la estrategia de espaciado de pasos de tiempo por defecto, que es un espaciado igual entre los pasos de tiempo. Si se pasatimesteps,num_inference_stepsdebe serNone.
Establece los pasos discretos utilizados para la cadena de difusión (para ejecutarse antes de la inferencia).
singlestep_dpm_solver_second_order_update
< source >( model_output_list: list*argssample: typing.Optional[torch.Tensor] = Nonenoise: typing.Optional[torch.Tensor] = None**kwargs ) → torch.Tensor
Parámetros
- model_output_list (
list[torch.Tensor]) — Las salidas directas del modelo de difusión aprendido en los pasos de tiempo actuales y posteriores. - timestep (
int) — El paso de tiempo discreto actual y posterior en la cadena de difusión. - prev_timestep (
int) — El paso de tiempo discreto anterior en la cadena de difusión. - sample (
torch.Tensor) — Una instancia actual de una muestra creada por el proceso de difusión. - noise (
torch.Tensor, opcional) — Ruido aleatorio utilizado por las variantes de solvador estocástico (sde-*). Es obligatorio cuandoalgorithm_typese establece en una de ellas y no se utiliza en caso contrario.
Devuelve
torch.Tensor
El tensor de muestra en el paso de tiempo anterior.
Un paso para el DPMSolver de un solo paso de segundo orden que calcula la solución en el tiempo prev_timestep a partir del tiempo timestep_list[-2].
singlestep_dpm_solver_third_order_update
< source >( model_output_list: list*argssample: typing.Optional[torch.Tensor] = Nonenoise: typing.Optional[torch.Tensor] = None**kwargs ) → torch.Tensor
Parámetros
- model_output_list (
list[torch.Tensor]) — Las salidas directas del modelo de difusión aprendido en los pasos de tiempo actuales y posteriores. - timestep (
int) — El paso de tiempo discreto actual y posterior en la cadena de difusión. - prev_timestep (
int) — El paso de tiempo discreto anterior en la cadena de difusión. - sample (
torch.Tensor) — Una instancia actual de una muestra creada por el proceso de difusión. - noise (
torch.Tensor, opcional) — Ruido aleatorio utilizado por las variantes de solvador estocástico (sde-*). Es obligatorio cuandoalgorithm_typese establece en una de ellas y no se utiliza en caso contrario.
Devuelve
torch.Tensor
El tensor de muestra en el paso de tiempo anterior.
Un paso para el DPMSolver de un solo paso de tercer orden que calcula la solución en el tiempo prev_timestep a partir del tiempo timestep_list[-3].
singlestep_dpm_solver_update
< source >( model_output_list: list*argssample: typing.Optional[torch.Tensor] = Noneorder: int = Nonenoise: typing.Optional[torch.Tensor] = None**kwargs ) → torch.Tensor
Parámetros
- model_output_list (
list[torch.Tensor]) — Las salidas directas del modelo de difusión aprendido en los pasos de tiempo actuales y posteriores. - timestep (
int) — El paso de tiempo discreto actual y posterior en la cadena de difusión. - prev_timestep (
int) — El paso de tiempo discreto anterior en la cadena de difusión. - sample (
torch.Tensor) — Una instancia actual de una muestra creada por el proceso de difusión. - order (
int) — El orden del solver en este paso. - noise (
torch.Tensor, opcional) — Ruido aleatorio utilizado por las variantes de solvador estocástico (sde-*). Es obligatorio cuandoalgorithm_typese establece en una de ellas y no se utiliza en caso contrario.
Devuelve
torch.Tensor
El tensor de muestra en el paso de tiempo anterior.
Un paso para el DPMSolver de un solo paso.
paso
< source >( model_output: Tensortimestep: typing.Union[int, torch.Tensor]sample: Tensorgenerator: typing.Optional[torch.Generator] = Nonereturn_dict: bool = True ) → SchedulerOutput or tuple
Parámetros
- model_output (
torch.Tensor) — La salida directa del modelo de difusión aprendido. - timestep (
intotorch.Tensor) — El paso de tiempo discreto actual en la cadena de difusión. - sample (
torch.Tensor) — Una instancia actual de una muestra creada por el proceso de difusión. - generator (
torch.Generator, opcional) — Un generador de números aleatorios para muestreo estocástico. - return_dict (
bool, por defectoTrue) — Si se devuelve un SchedulerOutput o unatuple.
Devuelve
SchedulerOutput o tuple
If return_dict is True, SchedulerOutput is returned, otherwise a
tuple is returned where the first element is the sample tensor.
Predice la muestra del paso de tiempo anterior invirtiendo el SDE. Esta función propaga la muestra con el DPMSolver de singlestep.
SchedulerOutput
clase diffusers.schedulers.scheduling_utils.SchedulerOutput
< source >( prev_sample: Tensor )
Clase base para la salida de la función step de un programador.