トレーニングコードを読むAIモデルを選択
Sigmoraが使用するAIモデルを選択します:APIエンドポイントを介したクラウドプロバイダー、ローカルPCで実行中のモデル、または内蔵モデルです。トレーニングスクリプトの作業を開始する前に、[テスト]を押してエンドポイントを確認してください。
モデルの実行場所を選択
クラウドAIプロバイダー
ステップに大きなモデルが必要な場合、クラウドAIプロバイダーが最適です。例えば、複数のファイルにまたがる長いトレーニングスクリプトのデバッグ時などです。標準的なAPIエンドポイントとAPIキーを入力します。キーはPC上に残ります。プロンプトはネットワーク経由でそのプロバイダーに送信され、エージェントが読み取るファイルのテキストも同様です。そのため、送信が許可されているコードとデータのみを使用してください。ツール出力内のシークレットは、モデルに到達する前に削除されます。プライバシーは選択するプロバイダーに依存します。
ローカルPC上のモデル
コードやデータがマシンから外出しない必要がある場合、ローカルPC上のモデルが最適です。Sigmoraを同じコンピュータ上のローカルエンドポイントに接続すると、プロンプトはプロバイダーではなくローカルに送信されます。ローカルモデルを使用する場合、データはマシンから外出しません。速度と品質はハードウェアと読み込むモデルに依存するため、まず小さなスクリプトで試してみてください。小さなモデルでは、大きなモデルなら検出できる詳細を見逃す可能性があります。いずれにせよ、差分は必ず確認してください。
内蔵モデル
内蔵モデルは、独自のエンドポイント設定なしですぐに使用できます。Sigmoraをインストールし、チャットを開いてタスクを指示してください。小さなパーセプトロンファイルの作成、トレーニングスクリプトへのログ行の追加、エラーメッセージの説明など、最初の試行に適しています。複数のファイルに影響を与える変更など、より難しいステップの場合、大きなモデルを接続するか、run_on_modelを使用してそのステップを送信できます。モデルはいつでも変更でき、受け入れる前に差分を確認できます。
接続をテスト
[テスト]ボタンは、エンドポイントを信頼する前にチェックします。クラウドプロバイダーまたはPC上のモデルのアドレスを入力した後、押してください。Sigmoraは、そのエンドポイントの応答時間とコンテキストウィンドウを表示します。コンテキストウィンドウは、1回のリクエストでモデルが読み取ることができるテキストの量(トレーニングスクリプトとログなど)を示します。各エンドポイントを1回テストしてください。2つのエンドポイントがある場合は、両方で[テスト]を押して比較してください。長いチャットの前に遅い応答を知っておく価値があり、小さなコンテキストウィンドウはエージェントを1ファイルずつ指し示すべきであることを意味します。テストはエンドポイントのみをチェックし、回答の品質を評価するものではありません。
適切なモデルサイズを選択
大きなモデルは、複数のファイルにまたがるトレーニングループを解きほぐしたり、損失が下がらない理由を調べたりするなど、難しいステップに最適です。変数名の変更やログ行の追加など、小さな編集には小さなモデルで十分かもしれません。それらを組み合わせることができます:小さなモデルでチャットを実行し、run_on_modelを使用して1つの難しいステップを大きなモデルに送信します。どのモデルでも誤りがある可能性があります。小さく始めてください。ステップが失敗し続ける場合は大きなモデルに切り替え、受け入れるたびに差分を確認してください。
モデルやプロバイダーによって品質は異なるため、すべての回答を草案として扱ってください。[Ask first]モードでは、Sigmoraは変更を加えるアクションの前に一時停止し、差分を表示します。これにより、受け入れる前に正確な行を確認できます。その後、Shellでテストコマンドを実行し、終了コードと出力された数字を自分で確認します。Auto-runは即座に動作し、すでに信頼できる小さなステップに適しています。まずは確認してください。