Выберите ИИ-модель, которая читает ваш код обучения

Выберите, какую ИИ-модель использует Sigmora: облачного провайдера через API-эндпоинт, модель на вашем ПК или встроенную. Нажмите Тест, чтобы проверить эндпоинт перед началом работы со скриптами обучения.

Выберите, где работает ваша модель

Облачный ИИ-провайдер

Облачный ИИ-провайдер — выбор, когда шаг требует более мощной модели, например при отладке длинного скрипта обучения, охватывающего множество файлов. Вы вводите стандартный API-эндпоинт и свой API-ключ. Ключи остаются на вашем ПК. Ваши промпты передаются по сети провайдеру, а также текст любого файла, который читает агент, поэтому используйте его только с кодом и данными, которые разрешено отправлять туда. Секреты в выводе инструмента удаляются перед отправкой модели. Конфиденциальность зависит от выбранного провайдера.

Локальная модель на ПК

Модель на вашем собственном ПК — выбор, когда ваш код или данные не должны покидать машину. Вы указываете Sigmora на локальный эндпоинт на том же компьютере, и ваши промпты отправляются туда, а не провайдеру. С локальной моделью ничего не покидает машину. Скорость и качество зависят от вашего оборудования и загруженной модели, поэтому сначала попробуйте на небольшом скрипте. Слабая модель может упустить детали, которые заметила бы более мощная, и вы всё равно проверяете каждое изменение.

Встроенная модель

Встроенная модель готова к использованию без вашего собственного эндпоинта. Установите Sigmora, откройте чат и поставьте задачу. Она подойдёт для первой попытки, например для создания файла перцептрона, добавления строки лога в скрипт обучения или объяснения сообщения об ошибке. Для более сложного шага, например изменения, затрагивающего несколько файлов, вы можете подключить более мощную модель или отправить этот шаг через run_on_model. Вы можете менять модели в любое время, и вы читаете diff перед тем, как принять его.

Проверьте подключение

Кнопка Тест проверяет эндпоинт, прежде чем вы начнете на него полагаться. Нажмите её после ввода адреса облачного провайдера или модели на вашем ПК. Sigmora показывает время отклика и контекстное окно этого эндпоинта. Контекстное окно показывает, сколько текста, например скрипта обучения и лога вместе, модель может прочитать за один запрос. Проверьте каждый эндпоинт один раз. Если у вас 2 эндпоинта, нажмите Тест на обоих и сравните их. Медленный отклик полезно узнать заранее, а маленькое контекстное окно означает, что следует направлять агент к одному файлу за раз. Тест проверяет только эндпоинт; он не оценивает качество ответов.

Выберите подходящий размер модели

Более мощная модель — лучший выбор для сложных шагов, таких как разбор цикла обучения, разбросанного по множеству файлов, или выяснение причины, почему лосс не снижается. Более маленькой модели может быть достаточно для небольших правок, таких как переименование переменной или добавление строки лога. Вы можете комбинировать их: запускайте чат на меньшей модели и используйте run_on_model для отправки одного сложного шага на более мощную. Любая модель может ошибаться. Начинайте с малого. Переключайтесь на более мощную модель, если шаг постоянно падает, и проверяйте diff каждый раз перед тем, как принять его.

Качество варьируется между моделями и провайдерами, поэтому относитесь к каждому ответу как к черновику. В режиме Ask first Sigmora приостанавливается перед действиями, которые что-то изменяют, и показывает diff, чтобы вы могли прочитать точные строки перед их принятием. Затем запустите вашу тестовую команду через Shell и посмотрите код выхода и напечатанные числа самостоятельно. Auto-run действует сразу, что подходит для небольших шагов, которым вы уже доверяете. Сначала проверьте.