สร้าง neural network จากศูนย์ ทีละไฟล์เล็กๆ

คุณสมบัติ

• ไฟล์read_file, write_file, edit_file, move_file, copy_file, list_dir, grep และ glob ทำงานในโฟลเดอร์ทำงานของแชท; ตัวนับแสดงจำนวนไฟล์ที่สร้าง แก้ไข และอ่าน
• Shellรันคำสั่งเทอร์มินัล เช่น คำสั่งฝึกของคุณและการทดสอบ ใน Windows, WSL หรือผ่าน SSH และรายงาน exit code จริง; คำสั่งที่อันตรายจะถูกบล็อก
• เว็บweb_search ค้นหาเว็บและ http_get อ่านหน้าเอกสารหนึ่งหน้า เพื่อให้เอเจนต์สามารถค้นหาคำอธิบายของข้อความแสดงข้อผิดพลาด
• ภาพและภาพหน้าจอgen_image บันทึกไฟล์ภาพจริง และ ocr อ่านข้อความจากภาพหน้าจอที่บันทึกไว้ เช่น ตัวเลขบนกราฟ loss ที่คุณจับภาพ
• การประสานงานtask รันเอเจนต์ย่อยแบบขนาน, run_on_model ส่งขั้นตอนสำคัญไปยังโมเดลที่ใหญ่กว่า และ skill บันทึก playbook ที่นำกลับมาใช้ใหม่ได้ซึ่งคุณสามารถรันอีกครั้ง
• โหมดการอนุมัติAuto-run ทำงานทันที, Ask first หยุดก่อนการเปลี่ยนแปลงที่ส่งผลต่อข้อมูลและแสดง diff เพื่ออนุมัติ และ Plan only เขียนแผนและไม่วิ่งอะไรเลย
• Cronรัน prompt ตามกำหนดเวลา เช่น รันการทดลองเล็กๆ ทุกคืนและบันทึก loss ลงในไฟล์ CSV ที่คุณสามารถอ่านในวันถัดไป
• โมเดลเชื่อมต่อโมเดลคลาวด์ผ่าน endpoint API มาตรฐานหรือโมเดลบนพีซีของคุณเอง หรือใช้โมเดลในตัวซึ่งพร้อมใช้งานโดยไม่ต้องมี endpoint ของคุณเอง

ขั้นตอนการดำเนินการ

เขียน perceptron ด้วย Python แบบธรรมดา

ความเข้าใจเกี่ยวกับ perceptron เป็นขั้นตอนแรกเมื่อคุณต้องการสร้าง neural networks จากศูนย์ใน Python คุณขอไฟล์ขนาดเล็ก และ write_file สร้างไฟล์ Python แบบธรรมดาที่มีรายการตัวอย่างขนาดเล็กและนิวรอนหนึ่งตัวที่เรียนรู้ AND gate ด้วยอัตราการเรียนรู้คงที่ในลูปการอัปเดตน้ำหนักสั้นๆ Shell รันบนพีซีของคุณและพิมพ์น้ำหนักในการ์ดแชท พร้อม exit code จริง หากคุณต้องการความช่วยเหลือกับ neural network ตัวแรกของคุณ ให้เริ่มจากนิวรอนหนึ่งตัว ไม่จำเป็นต้องใช้เฟรมเวิร์ก และไฟล์มีขนาดเล็กพอที่จะอ่านจบได้ในครั้งเดียว ในโหมด Ask first คุณอ่านไฟล์ใหม่ในการ์ดและยอมรับก่อนที่จะบันทึก จากนั้นคุณตรวจสอบน้ำหนักที่พิมพ์ออกมาด้วยตนเอง

หาและลด overfitting

Overfitting แสดงออกเมื่อ training loss ลดลงอย่างต่อเนื่อง ในขณะที่ loss บนข้อมูล validation แยกต่างหากหยุดปรับปรุงหรือเพิ่มขึ้น grep ค้นหา log ของคุณสำหรับทั้งสองคอลัมน์ loss และ read_file เปิดสคริปต์การฝึกเพื่อให้เอเจนต์เห็นขนาดโมเดลและการตั้งค่า regularisation ใดๆ วิธีแก้ไขทั่วไปคือเพิ่มข้อมูล โมเดลเล็กลง regularisation หรือ early stopping รักษาการทดลองแต่ละครั้งให้เล็กและทำซ้ำได้ เพื่อให้การเปลี่ยนแปลงในตัวเลขมีสาเหตุที่ชัดเจนเพียงสาเหตุเดียว ด้วย edit_file คุณจะได้รับ diff เพื่อตรวจสอบ และในโหมด Ask first จะไม่มีการบันทึกอะไรก่อนที่คุณจะยอมรับมัน จากนั้น Shell จะรันคำสั่งทดสอบของคุณอีกครั้งและคืนค่า exit code และคุณเปรียบเทียบ validation loss ก่อนและหลังการเปลี่ยนแปลงบนข้อมูลที่โมเดลไม่เคยเห็น โดยชุดทดสอบยังคง untouched จนกว่าจะสิ้นสุด

แก้ไขข้อผิดพลาด input shape

ข้อผิดพลาด input shape หมายถึงข้อมูลที่ป้อนเข้าสู่เครือข่ายไม่ตรงกับเลเยอร์แรก ดังนั้นสคริปต์ของคุณจะหยุดพร้อมข้อความแสดงข้อผิดพลาดที่ระบุขนาด 2 ขนาดที่ไม่ตรงกัน input shape สำหรับ neural networks ต้องตรงกับข้อมูล และ output shape ต้องตรงกับจำนวน labels เอเจนต์เปิดโค้ด neural network ของคุณใน Python ด้วย read_file ใช้ grep เพื่อหาคำจำกัดความของเลเยอร์และตำแหน่งที่ปรับรูป batch และเสนอการเปลี่ยนแปลงบรรทัดเดียวด้วย edit_file Plan only ไม่รันอะไรเลย ดังนั้นให้ใช้ขั้นแรกเพื่ออ่านคำอธิบาย จากนั้นสลับเป็น Ask first ยอมรับ diff ให้ Shell รันสคริปต์อีกครั้ง และอ่านขนาดที่พิมพ์ออกมาด้วยตนเองแทนที่จะไว้วางใจเพียง exit code

บันทึกเมตริกการฝึกไปยังไฟล์ CSV

เพื่อเปรียบเทียบการทดลอง คุณจำเป็นต้องมี loss ของทุก epoch ในไฟล์ ไม่ใช่เพียงบนหน้าจอ write_file สร้าง log loss หรือ append_file เพิ่มแถวหลังจากแต่ละ epoch และ read_file หาตำแหน่งในสคริปต์ของคุณที่คำนวณ loss edit_file เพิ่มบรรทัดการบันทึกและแสดง diff Shell รันคำสั่งฝึกของคุณและคืนค่า output จริงและ exit code ในการ์ดแชท Ask first หยุดก่อนที่สคริปต์จะถูกเปลี่ยนแปลง เพื่อให้คุณสามารถอ่านบรรทัดใหม่ในการ์ดก่อน เปิดไฟล์ CSV afterwards วางการรัน 2 ครั้งเคียงข้างกัน และบันทึกการตั้งค่าที่คุณเปลี่ยนแปลงก่อนที่คุณจะเก็บการเปลี่ยนแปลง ไฟล์เป็นข้อความธรรมดาในโฟลเดอร์ทำงานของคุณ และ read_file สามารถโหลดไฟล์นี้อีกครั้งในแชทถัดไปเพื่อดำเนินการต่อจากจุดที่คุณหยุด