훈련 코드를 읽는 AI 모델을 선택하세요

Sigmora가 사용할 AI 모델을 선택하세요: API 엔드포인트를 통한 클라우드 제공업체, 로컬 PC에서 실행 중인 모델 또는 내장 모델입니다. 훈련 스크립트 작업을 시작하기 전에 엔드포인트를 테스트해 보세요.

모델이 실행될 위치를 선택하세요

클라우드 AI 제공업체

작업에 더 큰 모델이 필요할 때 클라우드 AI 제공업체를 선택하세요. 예를 들어 여러 파일에 걸쳐 있는 긴 훈련 스크립트를 디버깅할 때 그렇습니다. 표준 API 엔드포인트와 API 키를 입력하세요. 키는 PC에 남아 있습니다. 프롬프트는 네트워크를 통해 해당 제공업체로 전송되며, 에이전트가 읽는 파일의 텍스트도 마찬가지입니다. 전송을 허용하는 코드와 데이터에만 사용하세요. 도구 출력의 비밀 정보는 모델에 전달되기 전에 삭제됩니다. 프라이버시는 선택한 제공업체에 따라 달라집니다.

로컬 PC 모델

코드나 데이터가 머신 밖으로 나가서는 안 될 때 로컬 PC 모델을 선택하세요. Sigmora를 같은 컴퓨터의 로컬 엔드포인트로 가리키면 프롬프트가 제공업체가 아닌 해당 엔드포인트로 전송됩니다. 로컬 모델에서는 아무것도 머신 밖으로 나가지 않습니다. 속도와 품질은 하드웨어와 로드한 모델에 따라 다르므로 작은 스크립트부터 먼저 테스트해 보세요. 작은 모델은 큰 모델이 포착할 세부 사항을 놓칠 수 있으며, 어떤 경우든 모든 diff를 검토해야 합니다.

내장 모델

내장 모델은 별도의 엔드포인트 없이 바로 사용할 수 있습니다. Sigmora를 설치하고 채팅을 열어 작업을 지시하세요. 작은 퍼셉트론 파일 작성, 훈련 스크립트에 로그 줄 추가 또는 오류 메시지 설명과 같은 첫 번째 시도에는 적합할 수 있습니다. 여러 파일에 영향을 미치는 변경과 같은 더 복잡한 작업의 경우 더 큰 모델을 연결하거나 run_on_model을 사용하여 해당 단계를 전송할 수 있습니다. 언제든지 모델을 변경할 수 있으며, 수락하기 전에 diff를 읽으세요.

연결을 테스트하세요

테스트 버튼은 신뢰하기 전에 엔드포인트를 확인합니다. 클라우드 제공업체나 로컬 모델의 주소를 입력한 후 버튼을 누르세요. Sigmora는 해당 엔드포인트의 응답 시간과 컨텍스트 윈도우를 표시합니다. 컨텍스트 윈도우는 모델이 한 번의 요청으로 읽을 수 있는 텍스트의 양(예: 훈련 스크립트와 로그의 합계)을 알려줍니다. 각 엔드포인트를 한 번씩 테스트하세요. 2개의 엔드포인트가 있는 경우 둘 다 테스트를 눌러 비교하세요. 긴 채팅 전에 느린 응답을 아는 것이 도움이 되며, 작은 컨텍스트 윈도우는 에이전트를 한 번에 하나의 파일에 가리켜야 함을 의미합니다. 테스트는 엔드포인트만 확인하며 답변의 품질을 평가하지 않습니다.

적합한 모델 크기를 선택하세요

큰 모델은 복잡한 단계를 위한 더 나은 선택입니다. 여러 파일에 걸쳐 있는 훈련 루프를 정리하거나 손실이 감소하지 않는 이유를 찾는 경우 그렇습니다. 작은 수정(변수 이름 변경 또는 로그 줄 추가 등)에는 작은 모델이 충분할 수 있습니다. 혼합하여 사용할 수 있습니다: 작은 모델에서 채팅을 실행하고 run_on_model을 사용하여 하나의 복잡한 단계를 더 큰 모델에 전송하세요. 어떤 모델도 잘못될 수 있습니다. 작은 것부터 시작하세요. 단계가 계속 실패할 때 더 큰 모델로 전환하고, 수락하기 전에 매번 diff를 검토하세요.

모델과 제공업체 간에 품질이 다르므로 모든 답변을 초안으로 취급하세요. Ask first 모드에서 Sigmora는 변경을 일으키는 작업 전에 일시 중단하고 diff를 표시하므로 수락하기 전에 정확한 줄을 읽을 수 있습니다. 그런 다음 Shell로 테스트 명령을 실행하고 종료 코드와 출력된 숫자를 직접 확인하세요. Auto-run은 이미 신뢰하는 작은 단계에 즉시 작동합니다. 먼저 검토하세요.