Wähle das KI-Modell, das deinen Trainingscode liest
Wähle, welches KI-Modell Sigmora nutzt: einen Cloud-Anbieter über einen API-Endpunkt, ein Modell auf deinem eigenen PC oder das eingebaute Modell. Klicke auf Test, um einen Endpunkt zu prüfen, bevor du an deinen Trainings-Skripts arbeitest.
Wähle, wo dein Modell läuft
Cloud-KI-Anbieter
Ein Cloud-KI-Anbieter ist die richtige Wahl, wenn ein Schritt ein größeres Modell benötigt, zum Beispiel beim Debuggen eines langen Trainings-Skripts, das sich über viele Dateien erstreckt. Du gibst einen Standard-API-Endpunkt und deinen API-Schlüssel ein. Schlüssel bleiben auf deinem PC. Deine Prompts werden über das Netzwerk an diesen Anbieter gesendet, ebenso wie der Text jeder Datei, die der Agent liest. Nutze es nur mit Code und Daten, die du dort senden darfst. Geheimnisse in der Agent-Ausgabe werden vor der Weitergabe an das Modell maskiert. Der Datenschutz hängt vom gewählten Anbieter ab.
Lokales PC-Modell
Ein Modell, das auf deinem eigenen PC läuft, ist die richtige Wahl, wenn dein Code oder deine Daten die Maschine nicht verlassen dürfen. Du verweist Sigmora auf einen lokalen Endpunkt auf demselben Computer, und deine Prompts werden dorthin gesendet, statt an einen Anbieter. Bei einem lokalen Modell verlässt nichts die Maschine. Geschwindigkeit und Qualität hängen von deiner Hardware und dem geladenen Modell ab. Teste es zunächst an einem kleinen Skript. Ein schwaches Modell kann Details übersehen, die ein größeres erkennen würde, und du prüfst jedes Diff in jedem Fall.
Eingebautes Modell
Das eingebaute Modell ist ohne eigenen Endpunkt einsatzbereit. Installiere Sigmora, öffne einen Chat und gib ihm eine Aufgabe. Es eignet sich für einen ersten Versuch, etwa das Schreiben einer kleinen Perceptron-Datei, das Hinzufügen einer Log-Zeile zu einem Trainings-Skript oder das Erklären einer Fehlermeldung. Für einen schwierigeren Schritt, wie eine Änderung, die mehrere Dateien betrifft, kannst du ein größeres Modell verbinden oder diesen Schritt mit run_on_model an eines senden. Du kannst jederzeit das Modell wechseln, und du liest das Diff, bevor du es akzeptierst.
Teste deine Verbindung
Die Schaltfläche Test prüft einen Endpunkt, bevor du dich darauf verlässt. Klicke darauf, nachdem du die Adresse eines Cloud-Anbieters oder eines Modells auf deinem PC eingegeben hast. Sigmora zeigt die Antwortzeit und das Kontextfenster dieses Endpunkts an. Das Kontextfenster zeigt an, wie viel Text, zum Beispiel ein Trainings-Skript und ein Log zusammen, das Modell in einer einzigen Anfrage lesen kann. Teste jeden Endpunkt einmal. Wenn du 2 Endpunkte hast, klicke auf Test bei beiden und vergleiche sie. Eine langsame Antwort ist vor einem langen Chat besser bekannt, und ein kleines Kontextfenster bedeutet, dass du den Agenten auf eine Datei nach der anderen verweisen solltest. Test prüft nur den Endpunkt; er bewertet nicht die Qualität der Antworten.
Wähle die richtige Modellgröße
Ein größeres Modell ist die bessere Wahl für schwierige Schritte, zum Beispiel das Auflösen einer Trainings-Schleife, die sich über viele Dateien erstreckt, oder das Finden des Grundes, warum der Loss nicht sinkt. Ein kleineres Modell reicht möglicherweise für kleine Änderungen, wie das Umbenennen einer Variable oder das Hinzufügen einer Log-Zeile. Du kannst sie mischen: Führe den Chat auf einem kleineren Modell aus und nutze run_on_model, um einen schwierigen Schritt an ein größeres zu senden. Jedes Modell kann falsch liegen. Beginne klein. Wechsle zu einem größeren Modell, wenn ein Schritt wiederholt fehlschlägt, und prüfe jedes Mal das Diff, bevor du es akzeptierst.
Die Qualität variiert zwischen Modellen und Anbietern, also betrachte jede Antwort als Entwurf. Im Modus Ask first pausiert Sigmora vor Aktionen, die etwas ändern, und zeigt das Diff an, damit du die genauen Zeilen lesen kannst, bevor du sie akzeptierst. Führe dann deinen Testbefehl mit Shell aus und prüfe den Exit-Code und die gedruckten Zahlen selbst. Auto-run führt sofort aus, was für kleine Schritte passt, denen du bereits vertraust. Zuerst prüfen.
