Scegli il modello AI che legge il tuo codice di training

Scegli quale modello AI usa Sigmora: un provider cloud tramite API endpoint, un modello in esecuzione sul tuo PC o il modello integrato. Premi Test per verificare un endpoint prima di iniziare a lavorare sugli script di training.

Scegli dove viene eseguito il tuo modello

Provider AI cloud

Un provider AI cloud è la scelta quando un passaggio richiede un modello più grande, ad esempio quando si esegue il debug di uno script di training lungo che si estende su molti file. Inserisci un API endpoint standard e la tua chiave API. Le chiavi restano sul tuo PC. I tuoi prompt viaggiano sulla rete verso quel provider, così come il testo di qualsiasi file che l'agente legge, quindi usalo solo con codice e dati che hai il permesso di inviare lì. I segreti nell'output degli strumenti vengono oscurati prima di raggiungere il modello. La privacy dipende dal provider che scegli.

Modello sul PC locale

Un modello in esecuzione sul tuo PC è la scelta quando il tuo codice o i tuoi dati non devono lasciare la macchina. Indichi a Sigmora un endpoint locale sullo stesso computer e i tuoi prompt vanno lì invece che a un provider. Con un modello locale nulla esce dalla macchina. Velocità e qualità dipendono dall'hardware e dal modello che carichi, quindi provaci prima con uno script piccolo. Un modello debole può perdere dettagli che uno più grande coglierebbe, e revisioni ogni diff comunque.

Modello integrato

Il modello integrato è pronto all'uso senza il tuo endpoint personale. Installa Sigmora, apri una chat e assegnagli un compito. Può essere adatto per un primo tentativo, come scrivere un file perceptron piccolo, aggiungere una riga di log a uno script di training o spiegare un messaggio di errore. Per un passaggio più difficile, come una modifica che tocca più file, puoi connettere un modello più grande o inviare quel passaggio a uno con run_on_model. Puoi cambiare modello in qualsiasi momento e leggi la diff prima di accettarla.

Testa la tua connessione

Il pulsante Test verifica un endpoint prima di affidarti ad esso. Premi dopo aver inserito l'indirizzo di un provider cloud o di un modello sul tuo PC. Sigmora mostra il tempo di risposta e la finestra di contesto di quell'endpoint. La finestra di contesto ti dice quanto testo, come uno script di training e un log insieme, il modello può leggere in una singola richiesta. Testa ogni endpoint una volta. Se hai 2 endpoint, premi Test su entrambi e confrontali. Una risposta lenta vale la pena saperlo prima di una chat lunga, e una finestra di contesto piccola significa che dovresti puntare l'agente su un file alla volta. Test verifica solo l'endpoint; non valuta la qualità delle risposte.

Scegli la dimensione giusta del modello

Un modello più grande è la scelta migliore per passaggi difficili, come disentanglare un ciclo di training che si estende su molti file o scoprire perché una loss non scende. Un modello più piccolo potrebbe bastare per piccole modifiche, come rinominare una variabile o aggiungere una riga di log. Puoi mescolarli: esegui la chat su un modello più piccolo e usa run_on_model per inviare un passaggio difficile a uno più grande. Qualsiasi modello può sbagliare. Inizia piccolo. Passa a un modello più grande quando un passaggio continua a fallire, e rivedi la diff ogni volta prima di accettarla.

La qualità varia tra modelli e provider, quindi tratta ogni risposta come una bozza. In modalità Ask first Sigmora si ferma prima delle azioni che modificano qualcosa e mostra la diff, così puoi leggere le righe esatte prima di accettarle. Poi esegui il tuo comando di test con Shell e controlla il codice di uscita e i numeri stampati da solo. Auto-run agisce subito, il che è adatto per piccoli passaggi che ti senti già di fidare. Rivedi prima.