Gated Recurrent Unit dipakai di mana-mana, dan penjelasannya hampir selalu berhenti pada satu kalimat: "gate menahan gradien supaya tidak lenyap". Kalimat sependek itu memindahkan pertanyaannya, bukan menjawabnya. Buku ini menjawabnya sampai tuntas, dan hanya untuk satu sel. Pembahasannya berangkat dari rekurensi yang paling sederhana, lewat pembuktian mengapa rekurensi itu pasti gagal pada jarak yang panjang, sampai ke sel GRU yang ditulis ulang dari nol dengan NumPy, termasuk gradiennya, yang diturunkan dengan tangan suku demi suku lalu diperiksa terhadap autograd PyTorch. Satu aturan dipegang dari halaman pertama sampai halaman terakhir: setiap angka yang tercetak lahir dari menjalankan kode yang disertakan, dan kecocokan keduanya diperiksa mesin setiap kali naskahnya disusun ulang. Aturan itu beberapa kali memaksa penulisnya melaporkan hal yang tidak diharapkan, dan justru bagian-bagian itulah yang paling banyak mengajarkan sesuatu. Isinya sembilan belas bab dalam lima bagian: Bagian I menyiapkan bekal matematika dan Python secukupnya; Bagian II membangun jaringan rekuren sederhana, menurunkan backpropagation through time, lalu membuktikan mengapa gradiennya lenyap; Bagian III menyusun GRU dari gagasan jalan pintas aditif sampai ke keempat persamaannya, kode NumPy-nya, gradiennya, dan buktinya; Bagian IV membaca isi gate sel yang sudah terlatih, membandingkannya dengan LSTM pada parameter yang disamakan, lalu membuang bagian-bagiannya satu per satu untuk melihat mana yang sungguh menentukan; Bagian V menutup dengan PyTorch, penyetelan, studi kasus pada catatan cuaca Jena 2009-2016, dan arah sesudah GRU. Buku ini ditujukan bagi mahasiswa tingkat akhir, mahasiswa magister, dan dosen yang mengajar pembelajaran mendalam, dengan prasyarat kalkulus dasar, aljabar linear dasar, pengertian turunan berantai, serta Python. Urutannya tetap: intuisi dan gambar lebih dahulu, lalu turunan matematis yang dibuktikan penuh, lalu implementasi dari nol, baru pembandingan dengan PyTorch. Setiap gradien diperiksa dua kali, terhadap selisih terpusat dan terhadap autograd. Setiap galat disebutkan bersama baseline-nya. Kode pendampingnya boleh dipakai siapa pun untuk keperluan apa pun, termasuk komersial.
Gated Recurrent Unit dipakai di mana-mana, dan penjelasannya hampir selalu berhenti pada satu kalimat: "gate menahan gradien supaya tidak lenyap". Kalimat sependek itu memindahkan pertanyaannya, bukan menjawabnya. Buku ini menjawabnya sampai tuntas, dan hanya untuk satu sel. Pembahasannya berangk...