Bangun jaringan saraf dari nol, satu file kecil pada satu waktu

Fitur

• Fileread_file, write_file, edit_file, move_file, copy_file, list_dir, grep dan glob bekerja di folder kerja obrolan; penghitung menunjukkan jumlah file yang dibuat, diedit dan dibaca.
• Shellmenjalankan perintah terminal seperti perintah pelatihan dan pengujian Anda, di Windows, WSL atau melalui SSH, serta melaporkan kode keluaran sebenarnya. Perintah berbahaya diblokir.
• Webweb_search mencari di web dan http_get membaca satu halaman dokumentasi, sehingga agen dapat mencari arti pesan error.
• Screenshot dan gambargen_image menyimpan file gambar asli, dan ocr membaca teks dari screenshot yang disimpan, misalnya angka pada grafik loss yang Anda tangkap.
• Orkestrasitask menjalankan sub-agen secara paralel, run_on_model mengirim langkah keras ke model yang lebih besar, dan skill menyimpan playbook yang dapat digunakan kembali yang dapat Anda jalankan lagi.
• Mode persetujuanAuto-run bertindak segera, Ask first berhenti sebelum tindakan yang mengubah sesuatu dan menampilkan diff untuk diterima, dan Plan only menulis rencana dan tidak menjalankan apa pun.
• Cronmenjalankan prompt sesuai jadwal, misalnya menjalankan kembali eksperimen kecil setiap malam dan menulis loss-nya ke file CSV yang Anda baca keesokan harinya.
• Modelsambungkan model cloud melalui endpoint API standar atau model di PC Anda sendiri, atau gunakan model bawaan, yang sudah siap tanpa endpoint milik Anda sendiri.

Panduan langkah demi langkah

Tulis perceptron dalam Python murni

Memahami perceptron adalah langkah pertama ketika Anda ingin membangun jaringan saraf dari nol di Python. Anda meminta file kecil, dan write_file membuat file Python murni dengan daftar kecil contoh dan satu neuron yang belajar gerbang AND dengan tingkat pembelajaran tetap dalam loop pendek pembaruan bobot. Shell menjalankannya di PC Anda dan mencetak bobot dalam kartu obrolan, bersama dengan kode keluaran sebenarnya. Jika Anda membutuhkan bantuan untuk jaringan saraf pertama Anda, mulailah dengan satu neuron. Tidak ada framework yang diperlukan, dan filenya cukup pendek untuk dibaca sekaligus. Dalam mode Ask first Anda membaca file baru dalam kartu dan menerimanya sebelum disimpan, lalu Anda memeriksa bobot yang dicetak sendiri.

Temukan dan kurangi overfitting

Overfitting muncul ketika loss pelatihan terus turun sementara loss pada data validasi terpisah berhenti membaik atau meningkat. grep mencari log Anda untuk kedua kolom loss, dan read_file membuka skrip pelatihan sehingga agen dapat melihat ukuran model dan pengaturan regularisasi apa pun. Perbaikan umum adalah lebih banyak data, model yang lebih kecil, regularisasi atau early stopping. Jaga setiap eksperimen kecil dan dapat diulang, sehingga perubahan dalam angka memiliki satu penyebab yang jelas. Dengan edit_file Anda mendapatkan diff untuk ditinjau, dan dalam mode Ask first tidak ada yang disimpan sebelum Anda menerimanya. Shell kemudian menjalankan kembali perintah pengujian Anda dan mengembalikan kode keluaran, dan Anda membandingkan loss validasi sebelum dan sesudah perubahan pada data yang belum pernah dilihat model, dengan set pengujian dibiarkan tidak tersentuh hingga akhir.

Perbaiki error bentuk input

Error bentuk input berarti data yang diberikan ke jaringan tidak cocok dengan lapisan pertama, sehingga skrip Anda berhenti dengan pesan error yang menyebutkan 2 bentuk yang tidak cocok. Bentuk input untuk jaringan saraf harus cocok dengan data, dan bentuk output harus cocok dengan jumlah label. Agen membuka kode jaringan saraf Anda di Python dengan read_file, menggunakan grep untuk menemukan definisi lapisan dan tempat batch diubah bentuknya, serta mengusulkan perubahan satu baris dengan edit_file. Plan only tidak menjalankan apa pun, jadi gunakan itu terlebih dahulu untuk membaca penjelasan. Kemudian beralih ke Ask first, terima diff, biarkan Shell menjalankan ulang skrip dan baca bentuk yang dicetak sendiri daripada hanya mempercayai kode keluaran.

Catat metrik pelatihan ke file CSV

Untuk membandingkan eksperimen Anda memerlukan loss setiap epoch dalam file, bukan hanya di layar. write_file membuat log loss, atau append_file menambahkan satu baris setelah setiap epoch, dan read_file menemukan tempat dalam skrip Anda di mana loss dihitung. edit_file menambahkan baris log dan menampilkan diff. Shell menjalankan perintah pelatihan Anda dan mengembalikan output sebenarnya serta kode keluaran dalam kartu obrolan. Ask first berhenti sebelum skrip diubah, sehingga Anda dapat membaca baris baru dalam kartu terlebih dahulu. Buka file CSV setelahnya, letakkan 2 jalankan berdampingan dan catat pengaturan mana yang Anda ubah sebelum Anda menyimpan perubahan. File tersebut adalah teks biasa di folder kerja Anda, dan read_file dapat memuatnya lagi di obrolan berikutnya untuk melanjutkan tempat Anda berhenti.