คำถามสำคัญสำหรับแอปพลิเคชัน AI ทุกตัวคือความเกี่ยวข้องของฟีเจอร์ AI เนื่องจาก AI เป็นสาขาที่พัฒนาอย่างรวดเร็ว เพื่อให้มั่นใจว่าแอปพลิเคชันของคุณยังคงเกี่ยวข้อง เชื่อถือได้ และมีความมั่นคง คุณจึงต้องติดตาม ประเมิน และปรับปรุงอย่างต่อเนื่อง นี่คือที่มาของวัฏจักรชีวิตของ generative AI
วัฏจักรชีวิตของ generative AI เป็นกรอบแนวทางที่ช่วยนำทางคุณผ่านขั้นตอนการพัฒนา การปรับใช้ และการดูแลรักษาแอปพลิเคชัน generative AI ช่วยให้คุณกำหนดเป้าหมาย วัดผลการทำงาน ระบุความท้าทาย และนำเสนอวิธีแก้ไข นอกจากนี้ยังช่วยให้แอปพลิเคชันของคุณสอดคล้องกับมาตรฐานจริยธรรมและกฎหมายของโดเมนและผู้มีส่วนได้ ส่วนเสียของคุณ การทำตามวัฏจักรชีวิตของ generative AI คุณจะมั่นใจว่าแอปพลิเคชันของคุณสร้างคุณค่าและตอบสนองผู้ใช้เสมอ
ในบทนี้ คุณจะได้:
- เข้าใจการเปลี่ยนแปลงแนวคิดจาก MLOps ไปสู่ LLMOps
- วัฏจักรชีวิตของ LLM
- เครื่องมือในวัฏจักรชีวิต
- การวัดและประเมินผลวัฏจักรชีวิต
LLM เป็นเครื่องมือใหม่ในอาวุธปัญญาประดิษฐ์ มีประสิทธิภาพอย่างมากในการวิเคราะห์และงานสร้างสรรค์สำหรับแอปพลิเคชัน อย่างไรก็ตาม ความสามารถนี้ก็มาพร้อมผลกระทบบางอย่างต่อวิธีการจัดการงาน AI และงานเรียนรู้ของเครื่องแบบดั้งเดิม
ด้วยเหตุนี้ เราจึงต้องมีแนวคิดใหม่เพื่อปรับใช้เครื่องมือนี้อย่างมีพลวัตและมีแรงจูงใจที่ถูกต้อง เราสามารถจำแนกแอป AI เก่าเป็น "ML Apps" และแอป AI ใหม่เป็น "GenAI Apps" หรือเพียงแค่ "AI Apps" สะท้อนเทคโนโลยีและเทคนิคหลักที่ใช้ในเวลานั้น ซึ่งเปลี่ยนแปลงแนวคิดในหลาย ๆ ด้าน ดูการเปรียบเทียบต่อไปนี้
สังเกตว่าใน LLMOps เรามุ่งเน้นที่นักพัฒนาแอปมากขึ้น ใช้การผสานรวมเป็นจุดสำคัญ ใช้ "โมเดลในรูปแบบบริการ" และคำนึงถึงจุดต่อไปนี้สำหรับเมตริก
- คุณภาพ: คุณภาพของการตอบกลับ
- อันตราย: AI ที่รับผิดชอบ
- ความซื่อสัตย์: ความเป็นเหตุเป็นผลของการตอบกลับ (สมเหตุสมผล? ถูกต้องหรือไม่?)
- ต้นทุน: งบประมาณโซลูชัน
- ความหน่วง: เวลาตอบกลับเฉลี่ยต่อโทเค็น
ก่อนอื่น เพื่อเข้าใจวัฏจักรชีวิตและการเปลี่ยนแปลง ให้สังเกตแผนภาพข้อมูลต่อไปนี้
อย่างที่คุณอาจสังเกต นี่แตกต่างจากวัฏจักรชีวิตทั่วไปของ MLOps LLM มีความต้องการใหม่มากมาย เช่น การใช้คำสั่ง (Prompting) เทคนิคต่าง ๆ เพื่อปรับปรุงคุณภาพ (Fine-Tuning, RAG, Meta-Prompts) การประเมินและความรับผิดชอบกับ AI ที่รับผิดชอบ และล่าสุด เมตริกการประเมินใหม่ (คุณภาพ, อันตราย, ความซื่อสัตย์, ต้นทุน และความหน่วง)
ตัวอย่างเช่น ชมวิธีที่เราสร้างไอเดีย โดยใช้วิศวกรรม prompt เพื่อทดลองกับ LLM ต่าง ๆ เพื่อสำรวจความเป็นไปได้และทดสอบสมมติฐานว่าถูกต้องหรือไม่
สังเกตว่านี่ไม่ใช่กระบวนการเชิงเส้น แต่เป็นวงจรที่รวมกัน วนซ้ำ และมีวงจรหลักครอบคลุม
เราจะสำรวจขั้นตอนเหล่านี้อย่างไร? มาเจาะลึกว่าเราจะสร้างวัฏจักรชีวิตได้อย่างไร
อาจดูซับซ้อนเล็กน้อย ให้เรามุ่งเน้นที่ 3 ขั้นตอนใหญ่ก่อน
- การคิดและสำรวจ: การสำรวจ ที่นี่เราสามารถสำรวจตามความต้องการทางธุรกิจ การสร้างต้นแบบ สร้าง PromptFlow และทดสอบว่ามีประสิทธิภาพพอสำหรับสมมติฐานของเราหรือไม่
- การสร้างและเพิ่มคุณค่า: การนำไปใช้ ตอนนี้ เราเริ่มประเมินสำหรับชุดข้อมูลขนาดใหญ่ ใช้เทคนิค เช่น การปรับจูน (Fine-tuning) และ RAG เพื่อตรวจสอบความมั่นคงของโซลูชัน หากไม่ได้ผล ให้ทำซ้ำ เพิ่มขั้นตอนใหม่ในเวิร์กโฟลว์ หรือจัดโครงสร้างข้อมูลใหม่อาจช่วย หลังจากทดสอบเวิร์กโฟลว์และขนาด หากทำงานได้และตรวจสอบเมตริกของเรา พร้อมสำหรับขั้นตอนถัดไป
- การดำเนินงาน: การผสานรวม ตอนนี้เพิ่มระบบการตรวจสอบและแจ้งเตือนไปยังระบบของเรา การปรับใช้และการผสานรวมแอปพลิเคชันกับแอปของเรา
จากนั้น เรามีวงจรหลักของการจัดการที่เน้นความปลอดภัย การปฏิบัติตาม และธรรมาภิบาล
ขอแสดงความยินดี ตอนนี้คุณมีแอป AI พร้อมใช้งานและทำงานได้ สำหรับประสบการณ์ใช้งานจริง ให้ดูที่ Contoso Chat Demo.
ตอนนี้ เครื่องมืออะไรที่เราสามารถใช้ได้บ้าง?
สำหรับเครื่องมือ Microsoft มี Azure AI Platform และ PromptFlow ที่ช่วยอำนวยความสะดวกและทำให้วงจรง่ายต่อการนำไปใช้และพร้อมใช้งาน
Azure AI Platform ช่วยให้คุณใช้ Microsoft Foundry Microsoft Foundry (เดิมชื่อ Azure AI Studio) เป็นพอร์ทัลเว็บที่ช่วยให้คุณสำรวจโมเดล ตัวอย่าง และเครื่องมือ จัดการทรัพยากร และใช้เวิร์กโฟลว์การพัฒนาระบบ UI รวมถึงตัวเลือก SDK/CLI สำหรับการพัฒนาด้วยโค้ดเป็นหลัก
Azure AI ช่วยให้ใช้ทรัพยากรหลายอย่างเพื่อจัดการการดำเนินงาน บริการ โครงการ การค้นหาด้วยเวกเตอร์ และความต้องการฐานข้อมูล
สร้าง ตั้งแต่ Proof-of-Concept(POC) จนถึงแอปพลิเคชันขนาดใหญ่ด้วย PromptFlow:
- ออกแบบและสร้างแอปจาก VS Code ด้วยเครื่องมือเชิงภาพและฟังก์ชัน
- ทดสอบและปรับแต่งแอปของคุณเพื่อคุณภาพ AI ได้อย่างง่ายดาย
- ใช้ Microsoft Foundry เพื่อผสานรวมและทำซ้ำกับคลาวด์ กดและปรับใช้เพื่อผสานรวมรวดเร็ว
ยอดเยี่ยม ตอนนี้เรียนรู้เพิ่มเติมเกี่ยวกับวิธีโครงสร้างแอปเพื่อใช้แนวคิดกับ Contoso Chat App เพื่อตรวจสอบว่า Cloud Advocacy เพิ่มแนวคิดเหล่านี้ในการสาธิตอย่างไร สำหรับเนื้อหาเพิ่มเติม ดูที่ Ignite breakout session!
ตอนนี้ ดูบทเรียน 15 เพื่อเข้าใจว่า Retrieval Augmented Generation และฐานข้อมูลเวกเตอร์ มีผลกระทบต่อ Generative AI และทำให้แอปพลิเคชันน่าสนใจยิ่งขึ้นอย่างไร!
ปฏิเสธความรับผิดชอบ: เอกสารนี้ได้รับการแปลโดยใช้บริการแปลภาษา AI Co-op Translator ขณะที่เราพยายามให้ความถูกต้อง โปรดทราบว่าการแปลโดยอัตโนมัติอาจมีข้อผิดพลาดหรือความไม่ถูกต้อง เอกสารต้นฉบับในภาษาต้นทางควรถูกพิจารณาเป็นแหล่งข้อมูลที่เชื่อถือได้ สำหรับข้อมูลที่สำคัญ แนะนำให้ใช้การแปลโดยมนุษย์มืออาชีพ เราไม่รับผิดชอบต่อความเข้าใจผิดหรือการตีความที่ผิดพลาดที่เกิดขึ้นจากการใช้การแปลนี้