Escolha o modelo de IA que lê seu código de treinamento

Escolha qual modelo de IA o Sigmora usa: um provedor de nuvem via endpoint de API, um modelo rodando no seu próprio PC ou o modelo embutido. Pressione Testar para verificar um endpoint antes de começar a trabalhar em seus scripts de treinamento.

Escolha onde seu modelo será executado

Provedor de IA na nuvem

Um provedor de IA na nuvem é a escolha quando uma etapa precisa de um modelo maior, por exemplo, ao depurar um script de treinamento longo que abrange vários arquivos. Você insere um endpoint de API padrão e sua chave de API. As chaves permanecem no seu PC. Seus prompts viajam pela rede até esse provedor, assim como o texto de qualquer arquivo que o agente lê, então use-o apenas com código e dados que você tem permissão para enviar. Segredos na saída das ferramentas são mascarados antes de chegarem ao modelo. A privacidade depende do provedor que você escolher.

Modelo no PC local

Um modelo rodando no seu próprio PC é a escolha quando seu código ou dados não podem sair da máquina. Você aponta o Sigmora para um endpoint local no mesmo computador, e seus prompts vão para lá em vez de para um provedor. Com um modelo local, nada sai da máquina. Velocidade e qualidade dependem do seu hardware e do modelo que você carrega, então experimente primeiro com um script pequeno. Um modelo mais fraco pode perder detalhes que um maior capturaria, e você revisa cada diff de qualquer maneira.

Modelo embutido

O modelo embutido está pronto para uso sem seu próprio endpoint. Instale o Sigmora, abra um chat e dê uma tarefa a ele. Pode servir para uma primeira tentativa, como escrever um arquivo de perceptron pequeno, adicionar uma linha de log a um script de treinamento ou explicar uma mensagem de erro. Para uma etapa mais difícil, como uma alteração que toca vários arquivos, você pode conectar um modelo maior ou enviar essa etapa para um deles com run_on_model. Você pode alterar os modelos a qualquer momento, e lê o diff antes de aceitá-lo.

Teste sua conexão

O botão Testar verifica um endpoint antes de você depender dele. Pressione-o após inserir o endereço de um provedor de nuvem ou de um modelo no seu PC. O Sigmora mostra o tempo de resposta e a janela de contexto desse endpoint. A janela de contexto indica quanto texto, como um script de treinamento e um log juntos, o modelo pode ler em uma única solicitação. Teste cada endpoint uma vez. Se você tiver 2 endpoints, pressione Testar em ambos e compare-os. Uma resposta lenta vale a pena saber antes de um chat longo, e uma janela de contexto pequena significa que você deve apontar o agente para um arquivo por vez. O Testar verifica apenas o endpoint; ele não avalia a qualidade das respostas.

Escolha o tamanho certo do modelo

Um modelo maior é a melhor escolha para etapas difíceis, como desenrolar um loop de treinamento que se espalha por vários arquivos ou descobrir por que uma perda não diminui. Um modelo menor pode ser suficiente para edições pequenas, como renomear uma variável ou adicionar uma linha de log. Você pode misturá-los: execute o chat em um modelo menor e use run_on_model para enviar uma etapa difícil para um maior. Qualquer modelo pode estar errado. Comece pequeno. Mude para um modelo maior quando uma etapa continuar falhando, e revise o diff cada vez antes de aceitá-lo.

A qualidade varia entre modelos e provedores, então trate cada resposta como um rascunho. No modo Ask first, o Sigmora pausa antes de ações que alteram algo e mostra o diff, para que você possa ler as linhas exatas antes de aceitá-las. Em seguida, execute seu comando de teste com Shell e analise o código de saída e os números impressos você mesmo. Auto-run age imediatamente, o que é adequado para etapas pequenas nas quais você já confia. Revise primeiro.