Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Course Outline
Pengantar ke QLoRA dan Kuantisasi
- Ulasan tentang kuantisasi dan perannya dalam optimasi model
- Pengenalan ke kerangka kerja QLoRA dan manfaatnya
- Perbedaan utama antara QLoRA dan metode fine-tuning tradisional
Fundamentals of Large Language Models (LLMs)
- Pengenalan ke LLMs (Large Language Models) dan arsitekturnya
- Tantangan dalam fine-tuning model besar secara berskala
- Cara kuantisasi membantu mengatasi kendala komputasional dalam fine-tuning LLM
Menerapkan QLoRA untuk Fine-Tuning LLMs
- Menyiapkan kerangka kerja dan lingkungan QLoRA
- Mempersiapkan dataset untuk fine-tuning QLoRA
- Panduan langkah demi langkah untuk menerapkan QLoRA pada LLM menggunakan Python dan PyTorch/TensorFlow
Optimasi Performa Fine-Tuning dengan QLoRA
- Cara menyeimbangkan akurasi dan performa model dengan kuantisasi
- Teknik untuk mengurangi biaya komputasi dan penggunaan memori selama fine-tuning
- Strategi fine-tuning dengan persyaratan hardware minimal
Evaluasi Model yang Telah Difine-tuning
- Cara menilai efektivitas model yang telah difine-tuning
- Metriks evaluasi umum untuk model bahasa
- Optimasi performa model setelah fine-tuning dan penyelesaian masalah
Deploying and Scaling Fine-Tuned Models
- Praktik terbaik dalam mendeploy LLMs yang dikuantisasi ke lingkungan produksi
- Skalabilitas deployment untuk menangani permintaan real-time
- Alat dan kerangka kerja untuk deploy model dan pemantauan
Kasus Nyata Use Case dan Studi Kasus
- Studi kasus: Fine-tuning LLMs untuk dukungan pelanggan dan tugas NLP
- Contoh fine-tuning LLMs di berbagai industri seperti kesehatan, keuangan, dan e-commerce
- Pelajaran yang dipetik dari implementasi QLoRA-based models di dunia nyata
Ringkasan dan Langkah Selanjutnya
Requirements
- Pemahaman tentang dasar-dasar machine learning dan jaringan saraf
- Pengalaman dengan penyetelan model dan transfer learning
- Ketahui tentang large language models (LLMs) dan kerangka kerja deep learning (mis., PyTorch, TensorFlow)
Audience
- Insinyur machine learning
- Pengembang AI
- Cientis data
14 Hours
