Skip to content

Latest commit

 

History

History
94 lines (54 loc) · 15.6 KB

File metadata and controls

94 lines (54 loc) · 15.6 KB

फंक्शन कॉलिंग के साथ एकीकरण

जेनेरेटिव एआई एप्लिकेशन लाइफसायकल

सभी एआई एप्लिकेशनों के लिए एक महत्वपूर्ण सवाल होता है एआई फीचर्स की प्रासंगिकता, क्योंकि एआई तेजी से विकसित हो रहा क्षेत्र है, यह सुनिश्चित करने के लिए कि आपका एप्लिकेशन प्रासंगिक, विश्वसनीय और मजबूत बना रहे, आपको इसे लगातार मॉनिटर, मूल्यांकन और सुधारना होगा। यहीं पर जेनेरेटिव एआई लाइफसायकल काम आता है।

जेनेरेटिव एआई लाइफसायकल एक फ्रेमवर्क है जो आपको जेनेरेटिव एआई एप्लिकेशन को विकसित करने, तैनात करने और बनाए रखने के चरणों में मार्गदर्शन करता है। यह आपको आपके लक्ष्यों को परिभाषित करने, आपके प्रदर्शन को मापने, चुनौतियों की पहचान करने और समाधानों को लागू करने में मदद करता है। यह आपको आपके एप्लिकेशन को आपके डोमेन और हितधारकों के नैतिक और कानूनी मानकों के साथ संरेखित करने में भी मदद करता है। जेनेरेटिव एआई लाइफसायकल का पालन करके, आप सुनिश्चित कर सकते हैं कि आपका एप्लिकेशन हमेशा मूल्य प्रदान कर रहा है और आपके उपयोगकर्ताओं को संतुष्ट कर रहा है।

परिचय

इस अध्याय में, आप:

  • MLOps से LLMOps तक के पैराडाइम शिफ्ट को समझेंगे
  • LLM लाइफसायकल
  • लाइफसायकल टूलिंग
  • लाइफसायकल मीट्रिक और मूल्यांकन

MLOps से LLMOps तक के पैराडाइम शिफ्ट को समझें

LLMs आर्टिफिशियल इंटेलिजेंस के उपकरणों में से एक नया उपकरण हैं, ये एप्लिकेशनों के लिए विश्लेषण और उत्पादन कार्यों में अत्यंत शक्तिशाली हैं, हालांकि इस शक्ति के कारण हमें AI और क्लासिक मशीन लर्निंग कार्यों को सुव्यवस्थित करने के तरीके में कुछ परिणाम भुगतने पड़ते हैं।

इसके साथ, हमें इस उपकरण को गतिशील रूप से अनुकूलित करने के लिए एक नया पैराडाइम चाहिए, सही प्रोत्साहनों के साथ। हम पुराने AI ऐप्स को "ML Apps" के रूप में वर्गीकृत कर सकते हैं और नए AI ऐप्स को "GenAI Apps" या केवल "AI Apps" के रूप में, जो उस समय के मुख्यधारा की तकनीक और तकनीकों को दर्शाता है। यह हमारी कथा को कई तरीकों से बदलता है, निम्न तुलना देखें।

LLMOps बनाम MLOps तुलना

ध्यान दें कि LLMOps में, हम एप्लिकेशन डेवलपर्स पर अधिक केंद्रित हैं, एकीकरण को एक प्रमुख बिंदु के रूप में उपयोग करते हैं, "मॉडल-एज-अ-सेवा" का उपयोग करते हैं और मीट्रिक्स के लिए निम्नलिखित बिंदुओं पर विचार करते हैं।

  • गुणवत्ता: प्रतिक्रिया की गुणवत्ता
  • हानि: जिम्मेदार AI
  • ईमानदारी: प्रतिक्रिया का आधार (क्या यह समझ में आता है? क्या यह सही है?)
  • लागत: समाधान बजट
  • विलंब: टोकन प्रतिक्रिया के लिए औसत समय

LLM लाइफसायकल

सबसे पहले, लाइफसायकल और संशोधनों को समझने के लिए, निम्न इन्फोग्राफिक नोट करें।

LLMOps इन्फोग्राफिक

जैसा कि आप नोट कर सकते हैं, यह MLOps के सामान्य लाइफसायकल से अलग है। LLMs में कई नई आवश्यकताएं हैं, जैसे प्रॉम्प्टिंग, गुणवत्ता सुधार के विभिन्न तकनीकें (फाइन-ट्यूनिंग, RAG, मेटा-प्रॉम्प्ट्स), जिम्मेदार AI के साथ अलग मूल्यांकन और जिम्मेदारी, और अंत में, नई मूल्यांकन मीट्रिक्स (गुणवत्ता, हानि, ईमानदारी, लागत और विलंब)।

उदाहरण के लिए, देखें कि हम किस प्रकार विचार करते हैं। विभिन्न LLMs के साथ प्रॉम्प्ट इंजीनियरिंग का उपयोग करके संभावनाओं का परीक्षण करना कि क्या उनका हाइपोथेसिस सही हो सकता है।

ध्यान दें कि यह रैखिक नहीं है, बल्कि एकीकृत लूप, पुनरावृत्त और एक व्यापक चक्र के साथ है।

हम उन चरणों का अन्वेषण कैसे कर सकते हैं? आइए विस्तार में देखें कि हम एक लाइफसायकल कैसे बना सकते हैं।

LLMOps कार्यप्रवाह

यह थोड़ा जटिल लग सकता है, पहले तीन बड़े चरणों पर ध्यान केन्द्रित करें।

  1. विचार/अन्वेषण: अन्वेषण, यहाँ हम अपने व्यावसायिक आवश्यकताओं के अनुसार अन्वेषण कर सकते हैं। प्रोटोटाइपिंग, एक PromptFlow बनाना और जाँचना कि क्या यह हमारे हाइपोथेसिस के लिए पर्याप्त प्रभावशाली है।
  2. निर्माण/वृद्धि: कार्यान्वयन, अब, हम बड़े डेटा सेट के लिए मूल्यांकन शुरू करते हैं, तकनीकों को लागू करते हैं, जैसे फाइन-ट्यूनिंग और RAG, यह जांचने के लिए कि हमारा समाधान कितना मजबूत है। यदि नहीं, तो इसे फिर से लागू करना, हमारे प्रवाह में नए चरण जोड़ना या डेटा को पुनर्संरचित करना मदद कर सकता है। अपने प्रवाह और पैमाने का परीक्षण करने के बाद, यदि यह काम करता है और हमारे मीट्रिक्स की जांच करता है, तो यह अगले चरण के लिए तैयार है।
  3. परिचालन: एकीकरण, अब हमारे सिस्टम में निगरानी और अलर्ट सिस्टम जोड़ना, तैनाती और एप्लिकेशन एकीकरण को जोड़ना।

फिर, हमारे पास प्रबंधन का व्यापक चक्र है, जो सुरक्षा, अनुपालन और शासन पर केंद्रित है।

बधाई हो, अब आपका AI एप्लिकेशन जाने और परिचालन के लिए तैयार है। एक व्यावहारिक अनुभव के लिए, Contoso Chat Demo. देखें।

अब, हम कौन से टूल्स का उपयोग कर सकते हैं?

लाइफसायकल टूलिंग

टूलिंग के लिए, Microsoft Azure AI Platform और PromptFlow आपकी साइकिल को लागू करने और तैयार करने में सुविधा और आसानी प्रदान करते हैं।

Azure AI Platform आपको Microsoft Foundry का उपयोग करने की अनुमति देता है। Microsoft Foundry (पूर्व में Azure AI Studio) एक वेब पोर्टल है जो आपको मॉडल, नमूने और टूल्स का पता लगाने, अपने संसाधनों का प्रबंधन करने, UI विकास प्रवाह का उपयोग करने के साथ-साथ कोड-प्रथम विकास के लिए SDK/CLI विकल्पों का उपयोग करने देता है।

Azure AI संभावनाएं

Azure AI, आपको अपनी संचालन, सेवाओं, परियोजनाओं, वेक्टर खोज और डेटाबेस आवश्यकताओं का प्रबंधन करने के लिए कई संसाधनों का उपयोग करने देता है।

Azure AI के साथ LLMOps

प्रूफ-ऑफ-कॉन्सेप्ट(POC) से लेकर बड़े पैमाने पर एप्लिकेशन तक PromptFlow के साथ निर्माण करें:

  • VS Code से एप्लिकेशन डिज़ाइन और बनाएँ, विज़ुअल और कार्यात्मक टूल्स के साथ
  • अपनी एप्लिकेशन को गुणवत्ता AI के लिए परीक्षण और फाइन-ट्यून करें, आसानी से।
  • Microsoft Foundry का उपयोग करें क्लाउड, पुश और त्वरित एकीकरण के लिए इंटीग्रेट और पुनरावृत्ति के लिए।

PromptFlow के साथ LLMOps

शानदार! अपनी सीख जारी रखें!

अद्भुत, अब जानें कि हम एप्लिकेशन को कैसे संरचित करते हैं ताकि इन अवधारणाओं का उपयोग Contoso Chat App के साथ कर सकें, यह देखने के लिए कि क्लाउड एडवोकेसी उन अवधारणाओं को प्रदर्शन में कैसे जोड़ती है। अधिक सामग्री के लिए, हमारे Ignite ब्रेकआउट सेशन! देखें।

अब, लेसन 15 देखें, समझने के लिए कि Retrieval Augmented Generation और वेक्टर डेटाबेस जेनेरेटिव AI को कैसे प्रभावित करते हैं और अधिक आकर्षक एप्लिकेशन बनाने के लिए!


अस्वीकरण: इस दस्तावेज़ का अनुवाद AI अनुवाद सेवा Co-op Translator का उपयोग करके किया गया है। जबकि हम सटीकता के लिए प्रयास करते हैं, कृपया ध्यान दें कि स्वचालित अनुवादों में त्रुटियाँ या अशुद्धियाँ हो सकती हैं। मूल दस्तावेज़ अपनी मूल भाषा में ही प्रामाणिक स्रोत माना जाना चाहिए। महत्वपूर्ण जानकारी के लिए, पेशेवर मानव अनुवाद की सिफारिश की जाती है। इस अनुवाद के उपयोग से उत्पन्न किसी भी गलतफहमी या गलत व्याख्या के लिए हम उत्तरदायी नहीं हैं।