Vyberte AI model, který čte váš tréninkový kód

Vyberte, který AI model Sigmora používá: poskytovatele cloudu přes API endpoint, model běžící na vašem vlastním PC nebo vestavěný model. Stisknutím Test zkontrolujte endpoint před zahájením práce na skriptech pro trénink.

Vyberte, kde váš model běží

Cloudový poskytovatel AI

Cloudový poskytovatel AI je volbou, když krok vyžaduje větší model, například při ladění dlouhého skriptu pro trénink, který se táhne napříč mnoha soubory. Zadejte standardní API endpoint a svůj API klíč. Klíče zůstávají na vašem PC. Vaše podněty putují přes síť k tomuto poskytovateli, stejně jako text libovolného souboru, který agent čte, takže jej používejte pouze s kódem a daty, která máte oprávnění tam odeslat. Tajné údaje ve výstupu nástroje jsou před odesláním do modelu anonymizovány. Soukromí závisí na poskytovateli, kterého si vyberete.

Lokální model na PC

Model běžící na vašem vlastním PC je volbou, když váš kód nebo data nesmí opustit stroj. Nasmerujete Sigmora na lokální endpoint na stejném počítači a vaše podněty putují tam místo k poskytovateli. U lokálního modelu nic neopouští stroj. Rychlost a kvalita závisí na vašem hardwaru a na načteném modelu, takže to nejprve vyzkoušejte na malém skriptu. Slabý model může přehlédnout detaily, které by větší model zachytil, a každý diff stejně zkontrolujete.

Vestavěný model

Vestavěný model je připraven k použití bez vlastního endpointu. Nainstalujte Sigmora, otevřete chat a přiřaďte mu úkol. Může se hodit pro první pokus, jako je napsání souboru s jednoduchou perceptrónovou sítí, přidání řádku do logu do skriptu pro trénink nebo vysvětlení chybového hlášení. Pro složitější krok, jako je změna zasahující do více souborů, můžete připojit větší model nebo odeslat tento krok pomocí run_on_model. Modely můžete měnit kdykoli a před přijetím diff vždy přečtete.

Otestujte připojení

Tlačítko Test zkontroluje endpoint, než se na něj spolehnete. Stiskněte ho po zadání adresy cloudového poskytovatele nebo modelu na vašem PC. Sigmora zobrazí dobu odezvy a kontextové okno daného endpointu. Kontextové okno vám říká, kolik textu, například skriptu pro trénink a logu dohromady, model dokáže přečíst v jednom požadavku. Otestujte každý endpoint jednou. Pokud máte 2 endpointy, stiskněte Test na obou a porovnejte je. Pomalá odezva stojí za to vědět před dlouhým chatem a malé kontextové okno znamená, že byste měli agenta namířit na jeden soubor najednou. Test kontroluje pouze endpoint; nehodnotí kvalitu odpovědí.

Vyberte správnou velikost modelu

Větší model je lepší volbou pro náročné kroky, jako je rozplétání tréninkové smyčky rozprostřené napříč mnoha soubory nebo zjišťování důvodu, proč se nedaří snižovat ztrátu. Menší model může stačit pro malé úpravy, jako je přejmenování proměnné nebo přidání řádku do logu. Můžete je míchat: spusťte chat na menším modelu a použijte run_on_model k odeslání jednoho náročného kroku na větší. Jakýkoli model se může mýlit. Začněte malým. Přepněte na větší model, když krok stále selhává, a před přijetím vždy zkontrolujte diff.

Kvalita se mezi modely a poskytovateli liší, takže každou odpověď považujte za návrh. V režimu Ask first Sigmora před akcemi, které něco mění, pozastaví a zobrazí diff, takže si můžete před přijetím přečíst přesné řádky. Poté spusťte svůj testovací příkaz pomocí Shell a podívejte se na exit kód a vytisknutá čísla sami. Auto-run jedná okamžitě, což se hodí pro malé kroky, kterým již důvěřujete. Nejprve zkontrolujte.