Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Course Outline
Perkenalan
- Apa itu Large Language Models (LLMs)?
- LLM vs model NLP tradisional
- Tinjauan umum fitur dan arsitektur LLM
- Tantangan dan keterbatasan LLM
Memahami LLM
- Siklus hidup LLM
- Cara kerja LLM
- Komponen utama LLM: encoder, decoder, perhatian, embeddings, dll.
Memulai
- Menyiapkan Lingkungan Pengembangan
- Menginstal LLM sebagai alat pengembangan, misalnya Google Colab, Hugging Face
Bekerja dengan LLM
- Menjelajahi pilihan LLM yang tersedia
- Membuat dan menggunakan LLM
- Menyempurnakan LLM pada kumpulan data khusus
Ringkasan Teks
- Memahami tugas peringkasan teks dan penerapannya
- Menggunakan LLM untuk meringkas teks ekstraktif dan abstraktif
- Mengevaluasi kualitas ringkasan yang dihasilkan menggunakan metrik seperti ROUGE, BLEU, dll.
Pertanyaan Menjawab
- Memahami tugas tanya jawab dan penerapannya
- Menggunakan LLM untuk menjawab pertanyaan domain terbuka dan tertutup
- Mengevaluasi keakuratan jawaban yang dihasilkan menggunakan metrik seperti F1, EM, dll.
Pembuatan Teks
- Memahami tugas pembuatan teks dan aplikasinya
- Menggunakan LLM untuk pembuatan teks bersyarat dan tanpa syarat
- Mengontrol gaya, nada, dan konten teks yang dihasilkan menggunakan parameter seperti suhu, top-k, top-p, dll.
Mengintegrasikan LLM dengan Kerangka Kerja dan Platform Lain
- Menggunakan LLM dengan PyTorch atau TensorFlow
- Menggunakan LLM dengan Flask atau Streamlit
- Menggunakan LLM dengan Google Cloud atau AWS
Penyelesaian Masalah
- Memahami kesalahan dan bug umum dalam LLM
- Menggunakan TensorBoard untuk memantau dan memvisualisasikan proses pelatihan
- Menggunakan PyTorch Lightning untuk menyederhanakan kode pelatihan dan meningkatkan kinerja
- Menggunakan Dataset Hugging Face untuk memuat dan melakukan praproses data
Ringkasan dan Langkah Berikutnya
Requirements
- Pemahaman tentang pemrosesan bahasa alami dan pembelajaran mendalam
- Pengalaman dengan Python dan PyTorch atau TensorFlow
- Pengalaman pemrograman dasar
Hadirin
- Pengembang
- Penggemar NLP
- Ilmuwan data
14 Hours
