Оберіть AI-модель, яка читає ваш код навчання
Оберіть, яку AI-модель використовуватиме Sigmora: хмарного провайдера через API-ендпоінт, модель на вашому ПК або вбудовану модель. Натисніть Тест, щоб перевірити ендпоінт перед початком роботи над сценаріями навчання.
Оберіть місце виконання вашої моделі
Хмарний AI-провайдер
Хмарний AI-провайдер — вибір для кроків, що потребують більшої моделі, наприклад, при налагодженні довгого сценарію навчання, який охоплює багато файлів. Введіть стандартний API-ендпоінт та свій API-ключ. Ключі залишаються на вашому ПК. Ваші запити надходять через мережу до цього провайдера, як і текст будь-якого файлу, який читає агент, тому використовуйте його лише з кодом і даними, які ви маєте право надсилати туди. Секрети в результаті роботи інструментів приховуються перед надходженням до моделі. Конфіденційність залежить від обраного провайдера.
Локальна модель на ПК
Модель, що працює на вашому власному ПК, — вибір, коли ваш код або дані не повинні залишати машину. Вкажіть Sigmora на локальний ендпоінт на тому ж комп'ютері, і ваші запити надходитимуть туди, а не до провайдера. З локальною моделлю ніщо не залишає машину. Швидкість і якість залежать від вашого обладнання та завантаженої моделі, тому спробуйте її спочатку на невеликому сценарії. Слабка модель може пропустити деталі, які помітив би більший, і ви переглядаєте кожну різницю в будь-якому випадку.
Вбудована модель
Вбудована модель готова до використання без вашого власного ендпоінту. Встановіть Sigmora, відкрийте чат і поставте завдання. Вона може підійти для першої спроби, наприклад, написання файлу перцептрона, додавання рядка журналу до сценарію навчання або пояснення повідомлення про помилку. Для складнішого кроку, наприклад, зміни, що торкається кількох файлів, ви можете підключити більшу модель або надіслати цей крок на обробку за допомогою run_on_model. Ви можете змінювати моделі в будь-який час, і ви читаєте diff перед тим, як прийняти його.
Протестуйте підключення
Кнопка Тест перевіряє ендпоінт, перш ніж ви покладатися на нього. Натисніть її після введення адреси хмарного провайдера або моделі на вашому ПК. Sigmora показує час відповіді та контекстне вікно цього ендпоінту. Контекстне вікно показує, скільки тексту, наприклад сценарію навчання та журналу разом, модель може прочитати в одному запиті. Протестуйте кожен ендпоінт один раз. Якщо у вас є 2 ендпоінти, натисніть Тест на обох і порівняйте їх. Повільна відповідь варта того, щоб знати про неї перед довгим чатом, а невелике контекстне вікно означає, що слід направляти агента до одного файлу за раз. Тест перевіряє лише ендпоінт; він не оцінює якість відповідей.
Оберіть правильний розмір моделі
Більша модель — кращий вибір для складних кроків, наприклад, розплутування циклу навчання, що розповсюджується на багато файлів, або виявлення причини, чому втрата не зменшується. Менша модель може бути достатньою для невеликих редагувань, наприклад, перейменування змінної або додавання рядка журналу. Ви можете поєднувати їх: запускати чат на меншій моделі та використовувати run_on_model для надсилання одного складного кроку на більшу. Будь-яка модель може помилятися. Починайте з малого. Переходьте на більшу модель, коли крок постійно не вдається, і переглядайте diff кожного разу перед тим, як прийняти його.
Якість варіюється між моделями та провайдерами, тому ставтеся до кожної відповіді як до чернетки. У режимі Ask first Sigmora зупиняється перед діями, що щось змінюють, і показує diff, тому ви можете прочитати точні рядки перед тим, як прийняти їх. Потім запустіть свою тестову команду за допомогою Shell і подивіться на код виходу та надруковані числа самостійно. Auto-run діє миттєво, що підходить для невеликих кроків, яким ви вже довіряєте. Спочатку перегляньте.
