OpenVINO

🤗 Optimum menyediakan pipeline Stable Diffusion yang kompatibel dengan OpenVINO untuk melakukan inferensi pada berbagai prosesor Intel (lihat daftar lengkap perangkat yang didukung).

Anda perlu menginstal 🤗 Optimum Intel dengan opsi --upgrade-strategy eager untuk memastikan optimum-intel menggunakan versi terbaru:

pip install --upgrade-strategy eager optimum["openvino"]

Panduan ini akan menunjukkan cara menggunakan pipeline Stable Diffusion dan Stable Diffusion XL (SDXL) dengan OpenVINO.

Stable Diffusion

Untuk memuat dan menjalankan inferensi, gunakan OVStableDiffusionPipeline. Jika Anda ingin memuat model PyTorch dan mengonversinya ke format OpenVINO secara langsung, atur export=True:

from optimum.intel import OVStableDiffusionPipeline

model_id = "stable-diffusion-v1-5/stable-diffusion-v1-5"
pipeline = OVStableDiffusionPipeline.from_pretrained(model_id, export=True)
prompt = "sailing ship in storm by Rembrandt"
image = pipeline(prompt).images[0]

# Don't forget to save the exported model
pipeline.save_pretrained("openvino-sd-v1-5")

Untuk mempercepat inferensi lebih lanjut, bentuk ulang model secara statis. Jika Anda mengubah parameter apa pun seperti tinggi atau lebar output, Anda perlu membentuk ulang model secara statis lagi.

# Define the shapes related to the inputs and desired outputs
batch_size, num_images, height, width = 1, 1, 512, 512

# Statically reshape the model
pipeline.reshape(batch_size, height, width, num_images)
# Compile the model before inference
pipeline.compile()

image = pipeline(
    prompt,
    height=height,
    width=width,
    num_images_per_prompt=num_images,
).images[0]

Anda dapat menemukan lebih banyak contoh dalam dokumentasi 🤗 Optimum, dan Stable Diffusion didukung untuk text-to-image, image-to-image, dan inpainting.

Stable Diffusion XL

Untuk memuat dan menjalankan inferensi dengan SDXL, gunakan OVStableDiffusionXLPipeline:

from optimum.intel import OVStableDiffusionXLPipeline

model_id = "stabilityai/stable-diffusion-xl-base-1.0"
pipeline = OVStableDiffusionXLPipeline.from_pretrained(model_id)
prompt = "sailing ship in storm by Rembrandt"
image = pipeline(prompt).images[0]

Untuk mempercepat inferensi lebih lanjut, ubah bentuk model secara statis seperti yang ditunjukkan pada bagian Stable Diffusion.

Anda dapat menemukan lebih banyak contoh dalam dokumentasi 🤗 Optimum, dan menjalankan SDXL di OpenVINO didukung untuk text-to-image dan image-to-image.