Chọn mô hình AI đọc mã huấn luyện của bạn
Chọn mô hình AI mà Sigmora sử dụng: nhà cung cấp đám mây qua điểm cuối API, mô hình chạy trên PC của bạn hoặc mô hình tích hợp. Nhấn Test để kiểm tra điểm cuối trước khi bắt đầu làm việc với các tập lệnh huấn luyện của bạn.
Chọn nơi mô hình của bạn chạy
Nhà cung cấp AI đám mây
Nhà cung cấp AI đám mây là lựa chọn khi một bước cần mô hình lớn hơn, ví dụ khi bạn gỡ lỗi một tập lệnh huấn luyện dài trải qua nhiều tệp. Bạn nhập điểm cuối API chuẩn và khóa API của bạn. Khóa vẫn ở trên PC của bạn. Prompt của bạn được gửi qua mạng đến nhà cung cấp đó, và cả văn bản của bất kỳ tệp nào mà agent đọc cũng vậy, vì vậy hãy sử dụng nó chỉ với mã và dữ liệu bạn được phép gửi đến đó. Các bí mật trong đầu ra của công cụ được che trước khi chúng đến mô hình. Quyền riêng tư phụ thuộc vào nhà cung cấp bạn chọn.
Mô hình trên PC cục bộ
Mô hình chạy trên PC của bạn là lựa chọn khi mã hoặc dữ liệu của bạn không được phép rời khỏi máy. Bạn trỏ Sigmora vào điểm cuối cục bộ trên cùng máy tính, và prompt của bạn sẽ đến đó thay vì đến nhà cung cấp. Với mô hình cục bộ, không gì rời khỏi máy. Tốc độ và chất lượng phụ thuộc vào phần cứng của bạn và mô hình bạn tải, vì vậy hãy thử nó trên một tập lệnh nhỏ trước. Một mô hình yếu có thể bỏ sót chi tiết mà mô hình lớn hơn sẽ bắt, và bạn xem xét mọi diff dù bằng cách nào.
Mô hình tích hợp
Mô hình tích hợp sẵn sàng sử dụng mà không cần điểm cuối của riêng bạn. Cài đặt Sigmora, mở trò chuyện và giao cho nó một nhiệm vụ. Nó có thể phù hợp cho lần thử đầu tiên, chẳng hạn như viết một tệp perceptron nhỏ, thêm dòng nhật ký vào tập lệnh huấn luyện hoặc giải thích thông báo lỗi. Đối với một bước khó hơn, chẳng hạn như thay đổi ảnh hưởng đến nhiều tệp, bạn có thể kết nối mô hình lớn hơn hoặc gửi bước đó đến mô hình đó bằng run_on_model. Bạn có thể thay đổi mô hình bất cứ lúc nào, và bạn đọc diff trước khi chấp nhận nó.
Kiểm tra kết nối của bạn
Nút Test kiểm tra điểm cuối trước khi bạn dựa vào nó. Nhấn nó sau khi bạn nhập địa chỉ của nhà cung cấp đám mây hoặc mô hình trên PC của bạn. Sigmora hiển thị thời gian phản hồi và cửa sổ ngữ cảnh của điểm cuối đó. Cửa sổ ngữ cảnh cho bạn biết bao nhiêu văn bản, chẳng hạn như tập lệnh huấn luyện và nhật ký cùng nhau, mô hình có thể đọc trong một yêu cầu. Kiểm tra mỗi điểm cuối một lần. Nếu bạn có 2 điểm cuối, nhấn Test trên cả hai và so sánh chúng. Phản hồi chậm là điều đáng biết trước khi một cuộc trò chuyện dài, và cửa sổ ngữ cảnh nhỏ có nghĩa là bạn nên trỏ agent vào từng tệp một. Test chỉ kiểm tra điểm cuối; nó không đánh giá chất lượng của các câu trả lời.
Chọn kích thước mô hình phù hợp
Mô hình lớn hơn là lựa chọn tốt hơn cho các bước khó, chẳng hạn như gỡ rối một vòng lặp huấn luyện trải qua nhiều tệp hoặc tìm hiểu tại sao loss không giảm. Mô hình nhỏ hơn có thể đủ cho các chỉnh sửa nhỏ, chẳng hạn như đổi tên biến hoặc thêm dòng nhật ký. Bạn có thể kết hợp chúng: chạy trò chuyện trên mô hình nhỏ hơn và sử dụng run_on_model để gửi một bước khó đến mô hình lớn hơn. Bất kỳ mô hình nào cũng có thể sai. Bắt đầu nhỏ. Chuyển sang mô hình lớn hơn khi một bước liên tục thất bại, và xem xét diff mỗi lần trước khi chấp nhận nó.
Chất lượng khác nhau giữa các mô hình và giữa các nhà cung cấp, vì vậy hãy coi mọi câu trả lời là bản nháp. Ở chế độ Ask first, Sigmora tạm dừng trước các hành động thay đổi thứ gì đó và hiển thị diff, vì vậy bạn có thể đọc các dòng chính xác trước khi chấp nhận chúng. Sau đó, chạy lệnh kiểm tra của bạn bằng Shell và tự xem mã thoát và các số được in. Auto-run hoạt động ngay lập tức, phù hợp với các bước nhỏ bạn đã tin tưởng. Xem xét trước.
