Pilih model AI yang membaca kode pelatihan Anda

Pilih model AI yang digunakan Sigmora: penyedia cloud melalui endpoint API, model yang berjalan di PC Anda, atau model bawaan. Tekan Test untuk memeriksa endpoint sebelum mulai mengerjakan skrip pelatihan Anda.

Pilih tempat model Anda berjalan

Penyedia AI cloud

Penyedia AI cloud adalah pilihan ketika sebuah langkah memerlukan model yang lebih besar, misalnya saat Anda men-debug skrip pelatihan panjang yang mencakup banyak file. Anda memasukkan endpoint API standar dan kunci API Anda. Kunci tetap berada di PC Anda. Prompt Anda dikirim melalui jaringan ke penyedia tersebut, begitu juga teks file apa pun yang dibaca agen, jadi gunakan hanya dengan kode dan data yang diizinkan untuk dikirim ke sana. Rahasia dalam output alat akan dihapus sebelum mencapai model. Privasi bergantung pada penyedia yang Anda pilih.

Model di PC lokal

Model yang berjalan di PC Anda adalah pilihan ketika kode atau data Anda tidak boleh meninggalkan mesin. Arahkan Sigmora ke endpoint lokal di komputer yang sama, dan prompt Anda akan dikirim ke sana alih-alih ke penyedia. Dengan model lokal, tidak ada yang meninggalkan mesin. Kecepatan dan kualitas bergantung pada perangkat keras Anda dan model yang Anda muat, jadi coba dulu dengan skrip kecil. Model yang lemah dapat melewatkan detail yang akan ditangkap oleh model yang lebih besar, dan Anda meninjau setiap diff dalam kedua kasus tersebut.

Model bawaan

Model bawaan siap digunakan tanpa endpoint Anda sendiri. Instal Sigmora, buka obrolan, dan berikan tugas. Model ini mungkin cocok untuk percobaan pertama, seperti menulis file perceptron kecil, menambahkan baris log ke skrip pelatihan, atau menjelaskan pesan error. Untuk langkah yang lebih sulit, seperti perubahan yang menyentuh beberapa file, Anda dapat menghubungkan model yang lebih besar atau mengirim langkah tersebut ke model lain dengan run_on_model. Anda dapat mengubah model kapan saja, dan Anda membaca diff sebelum menerimanya.

Uji koneksi Anda

Tombol Test memeriksa endpoint sebelum Anda bergantung padanya. Tekan setelah Anda memasukkan alamat penyedia cloud atau model di PC Anda. Sigmora menampilkan waktu respons dan context window dari endpoint tersebut. Context window memberi tahu Anda berapa banyak teks, seperti skrip pelatihan dan log bersama-sama, yang dapat dibaca model dalam satu permintaan. Uji setiap endpoint sekali. Jika Anda memiliki 2 endpoint, tekan Test pada keduanya dan bandingkan. Respons yang lambat layak diketahui sebelum obrolan panjang, dan context window yang kecil berarti Anda harus mengarahkan agen ke satu file pada satu waktu. Test hanya memeriksa endpoint; ini tidak menilai kualitas jawaban.

Pilih ukuran model yang tepat

Model yang lebih besar adalah pilihan yang lebih baik untuk langkah-langkah yang sulit, seperti mengurai loop pelatihan yang tersebar di banyak file atau mencari tahu mengapa loss tidak turun. Model yang lebih kecil mungkin cukup untuk pengeditan kecil, seperti mengganti nama variabel atau menambahkan baris log. Anda dapat mencampur keduanya: jalankan obrolan pada model yang lebih kecil dan gunakan run_on_model untuk mengirim satu langkah sulit ke model yang lebih besar. Model apa pun bisa salah. Mulai dengan kecil. Beralih ke model yang lebih besar ketika sebuah langkah terus gagal, dan tinjau diff setiap kali sebelum menerimanya.

Kualitas bervariasi di antara model dan penyedia, jadi perlakukan setiap jawaban sebagai draf. Dalam mode Ask first, Sigmora berhenti sebelum tindakan yang mengubah sesuatu dan menampilkan diff, sehingga Anda dapat membaca baris persis sebelum menerimanya. Kemudian jalankan perintah uji Anda dengan Shell dan lihat kode keluaran dan angka yang dicetak sendiri. Auto-run bertindak segera, yang cocok untuk langkah kecil yang sudah Anda percayai. Tinjau terlebih dahulu.