Menggunakan SetFit dengan Hugging Face

SetFit adalah framework yang efisien dan bebas prompt untuk fine-tuning few-shot pada Sentence Transformers. SetFit mencapai akurasi tinggi dengan sedikit data berlabel - misalnya, dengan hanya 8 contoh berlabel per kelas pada dataset sentimen Customer Reviews, SetFit mampu bersaing dengan fine-tuning RoBERTa Large pada set pelatihan penuh berisi 3k contoh 🤯!

Dibandingkan dengan metode few-shot learning lainnya, SetFit memiliki beberapa fitur unik:

• 🗣 Tanpa prompt atau verbalizer: Teknik saat ini untuk fine-tuning few-shot memerlukan prompt atau verbalizer yang dibuat secara manual untuk mengonversi contoh ke dalam format yang sesuai untuk model bahasa yang mendasarinya. SetFit sepenuhnya menghilangkan kebutuhan akan prompt dengan menghasilkan embedding yang kaya secara langsung dari contoh teks.
• 🏎 Cepat dilatih: SetFit tidak memerlukan model berskala besar seperti T0 atau GPT-3 untuk mencapai akurasi tinggi. Akibatnya, proses pelatihan dan eksekusi inferensinya umumnya lebih cepat satu orde magnitudo (atau lebih).
• 🌎 Dukungan multibahasa: SetFit dapat digunakan dengan Sentence Transformer apa pun di Hub, yang berarti Anda dapat mengklasifikasikan teks dalam berbagai bahasa dengan hanya melakukan fine-tuning pada checkpoint multibahasa.

Menjelajahi SetFit di Hub

Anda dapat menemukan model SetFit dengan memfilter di bagian kiri halaman model.

Semua model di Hub dilengkapi dengan fitur-fitur berguna berikut:

1. Kartu model yang dihasilkan secara otomatis dengan deskripsi singkat.
2. Widget interaktif yang dapat Anda gunakan untuk bermain langsung dengan model di browser.
3. Widget Inference Providers yang memungkinkan Anda membuat permintaan inferensi.

Instalasi

Untuk memulai, Anda dapat mengikuti panduan instalasi SetFit. Anda juga dapat menggunakan instalasi satu baris berikut melalui pip:

pip install -U setfit

Menggunakan model yang sudah ada

Semua model setfit dapat dengan mudah dimuat dari Hub.

from setfit import SetFitModel

model = SetFitModel.from_pretrained("tomaarsen/setfit-paraphrase-mpnet-base-v2-sst2-8-shot")

Setelah dimuat, Anda dapat menggunakan SetFitModel.predict untuk melakukan inferensi.

model.predict("Amelia Earhart flew her single engine Lockheed Vega 5B across the Atlantic to Paris.")

['positive', 'negative']

Jika Anda ingin memuat model SetFit tertentu, Anda dapat mengklik Use in SetFit dan Anda akan diberikan potongan kode yang siap digunakan!

Sumber daya tambahan

• Semua model SetFit yang tersedia di Hub
• Repositori SetFit
• Dokumentasi docs
• Makalah SetFit