AI मॉडल चुनें जो आपका ट्रेनिंग कोड पढ़ता है

चुनें कि Sigmora किस AI मॉडल का उपयोग करे: API एंडपॉइंट के माध्यम से क्लाउड प्रोवाइडर, आपके अपने पीसी पर चलने वाला मॉडल, या इनबिल्ट मॉडल। अपने ट्रेनिंग स्क्रिप्ट्स पर काम शुरू करने से पहले एंडपॉइंट की जांच करने के लिए Test दबाएं।

चुनें कि आपका मॉडल कहाँ चलेगा

क्लाउड AI प्रोवाइडर

जब किसी स्टेप के लिए बड़े मॉडल की आवश्यकता हो, तो क्लाउड AI प्रोवाइडर का विकल्प चुनें, उदाहरण के लिए जब आप कई फ़ाइलों में फैले लंबे ट्रेनिंग स्क्रिप्ट को डीबग कर रहे हों। आप एक मानक API एंडपॉइंट और अपनी API कुंजी दर्ज करते हैं। कुंजियां आपके पीसी पर ही रहती हैं। आपका प्रॉम्प्ट नेटवर्क के माध्यम से उस प्रोवाइडर तक जाता है, और एजेंट द्वारा पढ़ी गई किसी भी फ़ाइल का टेक्स्ट भी वहां जाता है, इसलिए इसे केवल उस कोड और डेटा के साथ उपयोग करें जिसे आप वहां भेजने के अधिकृत हैं। टूल आउटपुट में रहस्य मॉडल तक पहुंचने से पहले छुपा दिए जाते हैं। गोपनीयता इस बात पर निर्भर करती है कि आप कौन सा प्रोवाइडर चुनते हैं।

लोकल पीसी मॉडल

जब आपका कोड या डेटा मशीन से बाहर न जाए, तो अपने पीसी पर चलने वाले मॉडल का विकल्प चुनें। Sigmora को उसी कंप्यूटर पर एक लोकल एंडपॉइंट की ओर इशारा करें, और आपका प्रॉम्प्ट प्रोवाइडर के बजाय वहां जाता है। लोकल मॉडल के साथ कुछ भी मशीन से बाहर नहीं जाता। गति और गुणवत्ता आपकी हार्डवेयर और आपके द्वारा लोड किए गए मॉडल पर निर्भर करती है, इसलिए पहले एक छोटी स्क्रिप्ट पर इसे आज़माएं। एक कमजोर मॉडल उन विवरणों को छूट सकता है जिसे एक बड़ा मॉडल पकड़ लेता है, और आपको हर बार diff की समीक्षा करनी होती है।

इनबिल्ट मॉडल

इनबिल्ट मॉडल बिना आपके अपने एंडपॉइंट के उपयोग के लिए तैयार है। Sigmora इंस्टॉल करें, एक चैट खोलें और उसे एक कार्य दें। यह एक शुरुआती प्रयास के लिए उपयुक्त हो सकता है, जैसे कि एक छोटी perceptron फ़ाइल लिखना, ट्रेनिंग स्क्रिप्ट में एक log लाइन जोड़ना या एक त्रुटि संदेश को समझाना। एक कठिन स्टेप के लिए, जैसे कि कई फ़ाइलों को प्रभावित करने वाला बदलाव, आप एक बड़े मॉडल को कनेक्ट कर सकते हैं या उस स्टेप को run_on_model के माध्यम से एक बड़े मॉडल को भेज सकते हैं। आप किसी भी समय मॉडल बदल सकते हैं, और स्वीकार करने से पहले आप diff पढ़ते हैं।

अपने कनेक्शन का परीक्षण करें

Test बटन किसी एंडपॉइंट की जांच करता है जिस पर आप भरोसा करने से पहले। क्लाउड प्रोवाइडर या अपने पीसी पर एक मॉडल के पता को दर्ज करने के बाद इसे दबाएं। Sigmora उस एंडपॉइंट के लिए रिस्पॉन्स टाइम और कॉन्टेक्स्ट विंडो दिखाता है। कॉन्टेक्स्ट विंडो आपको बताता है कि एक अनुरोध में मॉडल कितना टेक्स्ट, जैसे कि एक ट्रेनिंग स्क्रिप्ट और एक लॉग एक साथ, पढ़ सकता है। प्रत्येक एंडपॉइंट का एक बार परीक्षण करें। यदि आपके पास 2 एंडपॉइंट हैं, तो दोनों पर Test दबाएं और उनकी तुलना करें। एक लंबी चैट शुरू होने से पहले धीमे रिस्पॉन्स के बारे में जानना मूल्यवान है, और एक छोटी कॉन्टेक्स्ट विंडो का अर्थ है कि आपको एजेंट को एक समय में एक फ़ाइल की ओर इशारा करना चाहिए। Test केवल एंडपॉइंट की जांच करता है; यह उत्तरों की गुणवत्ता का मूल्यांकन नहीं करता है।

सही मॉडल आकार चुनें

कठिन स्टेप्स के लिए, जैसे कि कई फ़ाइलों में फैले ट्रेनिंग लूप को सुलझाना या यह जानना कि लॉस क्यों नीचे नहीं जा रहा है, एक बड़ा मॉडल बेहतर विकल्प है। छोटे बदलावों के लिए, जैसे कि एक वेरिएबल का नाम बदलना या एक log लाइन जोड़ना, एक छोटा मॉडल पर्याप्त हो सकता है। आप उन्हें मिला सकते हैं: छोटे मॉडल पर चैट चलाएं और run_on_model का उपयोग करके एक कठिन स्टेप को एक बड़े मॉडल को भेजें। कोई भी मॉडल गलत हो सकता है। छोटे से शुरू करें। जब एक स्टेप बार-बार विफल हो रहा हो तो बड़े मॉडल पर स्विच करें, और स्वीकार करने से पहले हर बार diff की समीक्षा करें।

मॉडल्स और प्रोवाइडर्स के बीच गुणवत्ता भिन्न होती है, इसलिए हर उत्तर को एक ड्राफ्ट के रूप में मानें। Ask first मोड में, Sigmora उन एक्शन से पहले रुक जाता है जो कुछ बदलते हैं और diff दिखाता है, ताकि आप स्वीकार करने से पहले सटीक लाइनों को पढ़ सकें। फिर Shell के साथ अपना टेस्ट कमांड चलाएं और एक्ज़िट कोड और प्रिंट किए गए नंबरों की खुद जांच करें। Auto-run तुरंत कार्य करता है, जो उन छोटे स्टेप्स के लिए उपयुक्त है जिन पर आपका भरोसा पहले से है। पहले समीक्षा करें।