Wybierz model AI, który czyta Twój kod do trenowania
Wybierz, którego modelu AI używa Sigmora: dostawcę chmurowego przez punkt końcowy API, model działający na Twoim PC lub model wbudowany. Naciśnij Test, aby sprawdzić punkt końcowy przed rozpoczęciem pracy nad skryptami do trenowania.
Wybierz miejsce działania Twojego modelu
Dostawca AI w chmurze
Dostawca AI w chmurze to wybór, gdy krok wymaga większego modelu, np. podczas debugowania długiego skryptu do trenowania rozłożonego na wiele plików. Wpisujesz standardowy punkt końcowy API i swój klucz API. Klucze pozostają na Twoim PC. Twoje prompty trafiają przez sieć do tego dostawcy, tak samo jak tekst każdego pliku, który agent czyta, więc używaj go tylko z kodem i danymi, które możesz tam wysłać. Tajne informacje w wynikach narzędzi są maskowane przed dotarciem do modelu. Prywatność zależy od wybranego dostawcy.
Model na lokalnym PC
Model działający na Twoim własnym PC to wybór, gdy Twój kod lub dane nie mogą opuścić maszyny. Wskazujesz Sigmora na lokalny punkt końcowy na tym samym komputerze, a Twoje prompty trafiają tam zamiast do dostawcy. Przy modelu lokalnym nic nie opuszcza maszyny. Prędkość i jakość zależą od Twojego sprzętu i załadowanego modelu, więc przetestuj go najpierw na małym skrypcie. Słabszy model może przeoczyć szczegóły, które zauważyłby większy, a tak czy siak przeglądasz każdą różnicę.
Model wbudowany
Model wbudowany jest gotowy do użycia bez Twojego własnego punktu końcowego. Zainstaluj Sigmora, otwórz czat i powierz mu zadanie. Może się nadać do pierwszych prób, takich jak napisanie pliku perceptronu, dodanie linii logu do skryptu do trenowania lub wyjaśnienie komunikatu o błędzie. Przy trudniejszym kroku, np. zmianie dotykającej wiele plików, możesz podłączyć większy model lub wysłać ten krok do niego za pomocą run_on_model. Modele możesz zmieniać w dowolnym momencie, a przed zaakceptowaniem przeglądasz różnice.
Przetestuj swoje połączenie
Przycisk Test sprawdza punkt końcowy, zanim się na nim opierasz. Naciśnij go po wpisaniu adresu dostawcy w chmurze lub modelu na Twoim PC. Sigmora pokazuje czas odpowiedzi i okno kontekstowe tego punktu końcowego. Okno kontekstowe informuje, ile tekstu, np. skryptu do trenowania i logu razem, model może przeczytać w jednym żądaniu. Przetestuj każdy punkt końcowy raz. Jeśli masz 2 punkty końcowe, naciśnij Test na obu i porównaj je. Wolna odpowiedź warta jest poznania przed długim czatem, a małe okno kontekstowe oznacza, że powinieneś kierować agenta na jeden plik na raz. Test sprawdza tylko punkt końcowy; nie ocenia jakości odpowiedzi.
Wybierz odpowiedni rozmiar modelu
Większy model to lepszy wybór dla trudnych kroków, takich jak uporanie się z pętlą trenowania rozłożoną na wiele plików lub ustalenie, dlaczego strata nie spada. Mniejszy model może wystarczyć do drobnych edycji, takich jak zmiana nazwy zmiennej lub dodanie linii logu. Możesz je mieszać: uruchamiaj czat mniejszym modelem, a używaj run_on_model do wysłania jednego trudnego kroku do większego. Każdy model może się mylić. Zacznij od małego. Przełącz na większy model, gdy krok ciągle się nie udaje, i przeglądaj różnice za każdym razem przed ich zaakceptowaniem.
Jakość różni się między modelami i dostawcami, więc traktuj każdą odpowiedź jako szkic. W trybie Ask first Sigmora wstrzymuje się przed akcjami zmieniającymi coś i pokazuje różnice, więc możesz przeczytać dokładne linie przed ich zaakceptowaniem. Następnie uruchom swoją komendę testową z Shell i sam sprawdź kod wyjścia i wydrukowane liczby. Auto-run działa natychmiast, co pasuje do małych kroków, którym już ufasz. Przeglądaj najpierw.
