Demo LLM senang. Ciri yang bertahan hari Isnin pagi itu yang susah.

Daripada panggilan API pertama sehinggalah ke rollout berperingkat, anda belajar membina ciri LLM seperti seorang jurutera yang perlu menjaganya: output berstruktur yang boleh dipercayai oleh kod anda, retrieval yang benar-benar menjawab soalan pengguna, penilaian yang menggantikan 'rasa macam okay', guardrail terhadap prompt injection, dan bajet kos serta latensi yang tidak mengejutkan sesiapa pada hujung bulan.

Lihat kandungan kursus

4
Modul: 9
Pelajaran praktikal: 100%
Percuma: 1-1
Jurulatih menyemak tugasan anda

Pernah rasa begini?

Prototaip itu memukau semua orang dalam mesyuarat. Anda tulis dalam satu petang, ia menjawab dengan cantik, dan pengurus produk terus bertanya bila boleh masuk ke produksi. Kemudian pengguna sebenar mula menaip — ayat campur Bahasa Melayu dan English, singkatan, soalan yang bertele-tele — dan jawapan yang tadi kemas mula tersasar dengan penuh keyakinan.

Anda menampal JSON.parse ke atas jawapan model dan berdoa. Kadang-kadang model membalas dengan penjelasan mesra sebelum kurungan pertama, kadang-kadang ia lupa satu medan, dan bila itu berlaku pada pukul 11 malam, seluruh endpoint jatuh kerana satu ralat parsing yang tiada siapa jangka.

Kemudian datang soalan yang lebih sukar. Berapa kos ciri ini setiap 1,000 pengguna? Bagaimana anda tahu versi prompt baharu itu lebih baik dan bukan sekadar berbeza? Apa yang berlaku kalau seseorang menaip 'abaikan arahan sebelum ini' di dalam ruangan input? Dan ke mana dokumen pelanggan itu pergi apabila anda menghantarnya kepada pembekal model — sedangkan PDPA 2010 mengikat syarikat anda, bukan pembekal itu.

Selepas kursus ini, anda boleh

Memanggil model dengan streaming, timeout dan cuba semula yang betul — supaya lonjakan trafik petang Jumaat tidak menjatuhkan satu servis pun
Memaksa output berstruktur dan menggunakan tool calling, supaya kod anda menerima data yang boleh dipercayai dan bukan perenggan yang perlu diteka
Membina RAG yang benar-benar menjawab: chunking yang masuk akal, embeddings yang sesuai, dan sebab RAG naif selalu mengecewakan
Mengendalikan input Bahasa Melayu, English dan mesej campur dalam satu indeks — masalah sebenar setiap produk yang dibina untuk pengguna Malaysia
Membina set penilaian yang boleh diulang, supaya 'prompt baharu ini lebih baik' menjadi satu nombor dan bukan satu pendapat

Kandungan kursus

1
Modul 1 — Dari panggilan API kepada ciri produk
Asas kejuruteraan: memanggil model dengan streaming, timeout dan cuba semula yang betul, kemudian memaksa jawapan menjadi data yang boleh dipercayai oleh kod anda.
2
Modul 2 — Retrieval (RAG) yang benar-benar menjawab
Mengapa RAG naif mengecewakan, apa yang sebenarnya membaikinya, dan bagaimana sistem anda berkelakuan apabila soalan tiba dalam Bahasa Melayu, English, atau campuran keduanya.
3
Modul 3 — Boleh dipercayai: penilaian, guardrail, kos
Bahagian yang memisahkan demo daripada produk: mengukur kualiti dengan angka, mempertahankan sistem daripada input yang berniat jahat, dan mengawal bil.
4
Modul 4 — Menghantar dan projek akhir
Apa yang perlu dipasang sebelum pengguna sebenar tiba, kemudian bina dan hantar satu ciri LLM lengkap dari awal hingga akhir.

Kursus ini untuk anda yang

Sudah menulis kod setiap hari — backend, full-stack atau data — dan kini diminta memasukkan 'sesuatu AI' ke dalam produk
Bekerja di startup atau syarikat produk di KL, Bangsar South, Cyberjaya atau Pulau Pinang, di mana ciri LLM itu tanggungjawab anda seorang
Sudah membina satu demo yang berjaya, tetapi tidak yakin bagaimana hendak menjadikannya cukup kukuh untuk pengguna sebenar
Membina untuk pengguna Malaysia, jadi input berbilang bahasa dan ayat campur bukan kes tepi tetapi kes biasa
Perlu menjawab soalan pengurusan tentang kos, ketepatan dan risiko data sebelum ciri itu dibenarkan naik ke produksi

Kenapa kursus ini berbeza

Kejuruteraan, bukan prompt kosong

Setiap pelajaran menyentuh perkara yang menjatuhkan sistem sebenar — timeout, parsing, retrieval yang meleset, kos yang meledak — bukan senarai prompt pintar yang anda lupa minggu depan.

Anda hantar kod, jurulatih membacanya

Tugasan penting — skema output berstruktur anda, set penilaian anda, guardrail anda — dibaca dan dikomen oleh jurulatih. Anda dapat tahu di mana reka bentuk anda kukuh, dan di mana ia cuma belum diuji.

Dibina untuk input Malaysia

Bot yang menerima 'boleh tak check status order saya ah' dalam satu ayat campur ialah kes ujian sebenar di sini. Kursus ini mengendalikannya sebagai keperluan, bukan nota kaki.

Apa kata pelajar kami

Kami sudah ada bot sokongan yang jalan, tetapi setiap kali pengguna menaip campur Melayu dan English, jawapannya jadi merepek. Modul retrieval dan pelajaran input campur itu terus menyelesaikan masalah yang kami pusing selama dua bulan. Set penilaian yang saya bina dalam kursus ini sekarang jalan dalam CI kami.

WWei Ming Tan · Jurutera Backend, syarikat fintech di Bangsar South

Bahagian yang paling banyak mengubah kerja saya ialah penilaian. Sebelum ini kami tukar prompt ikut rasa dan berdebat dalam PR. Sekarang setiap perubahan ada nombor. Jurulatih menyemak set ujian saya dan menunjukkan tiga kes tepi yang saya langsung tidak terfikir.

NNurul Ain Rashid · Jurutera Perisian Kanan, syarikat SaaS di Cyberjaya

Saya sertai kerana pengurusan bertanya berapa kos ciri baharu ini sebulan dan saya tidak boleh jawab. Pelajaran kos dan routing model memberi saya angka dalam ringgit pada hari yang sama. Guardrail prompt injection pula menahan satu isu yang benar-benar boleh memalukan kami.

SSuresh Kumar · Ketua Teknologi, startup logistik di Petaling Jaya

Soalan lazim

Apa yang perlu saya kuasai sebelum mula?

Anda perlu selesa menulis kod dalam sekurang-kurangnya satu bahasa pengaturcaraan moden dan pernah membina atau menggunakan API HTTP. Kursus ini tidak mengajar pengaturcaraan dari sifar, dan ia juga tidak memerlukan latar belakang machine learning — anda menggunakan model sebagai satu komponen sistem, bukan melatihnya.

Model dan pembekal mana yang digunakan?

Prinsipnya sama untuk OpenAI, Anthropic, Google atau model terbuka yang anda hoskan sendiri, dan setiap contoh ditulis supaya boleh dipindahkan. Contoh kod diberi dalam TypeScript dan Python, dua bahasa yang paling lazim untuk kerja ini di sini.

Perlukah saya membayar untuk kredit API?

Tidak semestinya. Setiap latihan boleh disiapkan dengan peruntukan percuma pembekal model atau dengan model kecil yang anda jalankan sendiri di komputer. Di tempat kos menjadi isu, kursus menunjukkan cara mengecilkan latihan tanpa kehilangan pengajarannya.

Bolehkah saya gunakan data syarikat untuk tugasan?

Jangan, melainkan majikan anda membenarkannya secara bertulis. Satu pelajaran awal membincangkan tepat isu ini: dokumen dalaman, rekod pelanggan dan kunci API tidak sepatutnya mengalir ke alat luaran tanpa kebenaran, dan PDPA 2010 mengikat syarikat anda apabila data peribadi terlibat. Untuk tugasan, gunakan dokumen awam, data sintetik, atau set data anda sendiri yang sudah dinyahkenal.

Adakah kursus ini mengajar melatih atau fine-tune model?

Tidak. Fokusnya ialah membina produk di atas model sedia ada — prompting, output berstruktur, retrieval, penilaian, guardrail, kos dan operasi. Itulah kerja yang sebenarnya diminta daripada kebanyakan pasukan produk di Malaysia hari ini, dan ia memberi pulangan jauh lebih cepat daripada fine-tuning.

Sedia menghantar ciri LLM yang anda sanggup jaga?

Sertai percuma hari ini dan siapkan pelajaran pertama dalam masa kurang 20 minit. Menjelang projek akhir, anda memiliki satu ciri LLM lengkap dengan penilaian, guardrail dan log — sedia dibentangkan kepada pasukan anda.