Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Course Outline
Pengantar Fine-Tuning Tantangan
- Tinjauan umum proses fine-tuning
- Tantangan umum dalam menyempurnakan model besar
- Memahami dampak kualitas data dan praproses
Mengatasi Ketidakseimbangan Data
- Mengidentifikasi dan menganalisis ketidakseimbangan data
- Teknik untuk menangani dataset yang tidak seimbang
- Menggunakan augmentasi data dan data sintetis
Mengelola Overfitting dan Underfitting
- Memahami overfitting dan underfitting
- Teknik regularisasi: L1, L2, dan dropout
- Menyesuaikan kompleksitas model dan durasi pelatihan
Meningkatkan Konvergensi Model
- Mendiagnosis masalah konvergensi
- Memilih tingkat pembelajaran dan pengoptimal yang tepat
- Menerapkan jadwal kecepatan pembelajaran dan pemanasan
Debugging Fine-Tuning Pipa
- Alat untuk memantau proses pelatihan
- Mencatat dan memvisualisasikan metrik model
- Men-debug dan menyelesaikan kesalahan runtime
Mengoptimalkan Efisiensi Pelatihan
- Ukuran batch dan strategi akumulasi gradien
- Memanfaatkan pelatihan presisi campuran
- Pelatihan terdistribusi untuk model skala besar
Studi Kasus Pemecahan Masalah di Dunia Nyata
- Studi kasus: Penyetelan halus untuk analisis sentimen
- Studi kasus: Menyelesaikan masalah konvergensi dalam klasifikasi gambar
- Studi kasus: Mengatasi overfitting dalam peringkasan teks
Ringkasan dan Langkah Berikutnya
Requirements
- Pengalaman dengan kerangka pembelajaran mendalam seperti PyTorch atau TensorFlow
- Pemahaman tentang konsep pembelajaran mesin seperti pelatihan, validasi, dan evaluasi
- Keakraban dengan fine-tuning model pra-terlatih
Hadirin
- Ilmuwan data
- Insinyur AI
14 Hours
