Egy fontos kérdés minden MI alkalmazás esetében az MI funkciók relevanciája, mivel az MI gyorsan fejlődő terület. Annak érdekében, hogy az alkalmazásod releváns, megbízható és robusztus maradjon, folyamatosan figyelnie, értékelnie és fejlesztenie kell azt. Itt lép be a generatív MI életciklusa.
A generatív MI életciklusa egy keretrendszer, amely végigvezet a generatív MI alkalmazás fejlesztésének, telepítésének és karbantartásának szakaszain. Segít meghatározni céljaidat, mérni a teljesítményedet, azonosítani a kihívásaidat, és megvalósítani a megoldásaidat. Továbbá segít az alkalmazásod összhangba hozni az adott terület és az érintettek etikai és jogi szabályaival. A generatív MI életciklus követésével biztosíthatod, hogy alkalmazásod mindig értéket nyújtson és elégedetté tegye a felhasználóidat.
Ebben a fejezetben:
- Megérted az MLOps-ról az LLMOps-ra való paradigmaváltást
- Az LLM életciklusa
- Eszközök az életciklus kezeléséhez
- Életciklus metrikák és értékelés
Az LLM-ek új eszközök a mesterséges intelligencia arzenáljában, hihetetlenül erősek az elemző és generáló feladatokban, azonban ez az erő következményekkel jár az MI és a klasszikus gépi tanulás feladatainak egyszerűsítésében.
Ezért egy új paradigma szükséges, hogy dinamikusan, a megfelelő ösztönzőkkel igazítsuk ezt az eszközt. A régebbi MI alkalmazásokat "ML alkalmazásokként", az újabbakat pedig "GenAI alkalmazásokként" vagy egyszerűen "MI alkalmazásokként" kategorizálhatjuk, tükrözve az adott időszakban alkalmazott fő technológiákat és technikákat. Ez a megközelítés több szempontból is módosítja a narratívánkat, lásd az alábbi összehasonlítást.
Vegyük észre, hogy az LLMOps inkább az alkalmazásfejlesztőkre összpontosít, az integrációkat kulcspontként használva, a "Modellek mint szolgáltatások" szemléletet alkalmazva, és a következő metrikákra koncentrálva.
- Minőség: Válasz minősége
- Kár: Felelős MI
- Őszinteség: Válasz megalapozottsága (Értelmes? Helyes?)
- Költség: Megoldás költségvetése
- Válaszidő: Átlagos idő tokenválaszra
Először is, az életciklus megértéséhez és a módosításokhoz nézzük meg a következő infografikát.
Ahogy észreveheted, ez eltér a megszokott MLOps életciklusoktól. Az LLM-ek számos új követelményt támasztanak, mint a promptolás, különböző minőségjavító technikák (finomhangolás, RAG, meta-promptok), eltérő értékelés és felelősség a felelős MI kapcsán, valamint új értékelési metrikák (minőség, kár, őszinteség, költség és válaszidő).
Például nézd meg, hogyan alkotunk ötleteket. Prompt mérnökséget használunk, hogy különböző LLM-ekkel kísérletezzünk, és felfedezzük a lehetőségeket, tesztelve, hogy a hipotézisünk helyes lehet-e.
Jegyezd meg, hogy ez nem lineáris, hanem integrált ciklusokból áll, ismétlődő és egy átfogó ciklussal.
Hogyan fedezhetjük fel ezeket a lépéseket? Nézzük meg részletesen, hogyan építhetünk életciklust.
Ez talán kissé bonyolultnak tűnhet, fókuszáljunk először a három nagy lépésre.
- Ötletelés/Felfedezés: Felfedezés, itt üzleti igényeink szerint kutathatunk. Prototípus készítés, PromptFlow létrehozása és tesztelése, hogy elég hatékony-e a hipotézisünkhöz.
- Építés/Bővítés: Megvalósítás, ekkor elkezdjük értékelni a nagyobb adatkészleteket, megvalósítunk technikákat, mint a finomhangolás és a RAG, hogy ellenőrizzük megoldásunk robusztusságát. Ha nem működik, újra megvalósíthatjuk, további lépéseket adhatunk a folyamatunkhoz vagy átszervezhetjük az adatokat. A folyamatunk és a skálázás tesztelése után, ha működik és az értékelő metrikák megfelelőek, készen áll a következő lépésre.
- Üzembe helyezés: Integráció, most hozzáadjuk a monitorozási és riasztási rendszereket a rendszerünkhöz, telepítjük és integráljuk az alkalmazásba.
Ezután jön az átfogó menedzsment ciklus, amely a biztonságra, megfelelőségre és irányításra fókuszál.
Gratulálunk, most már készen áll az MI alkalmazásod az éles működésre. Gyakorlati tapasztalathoz nézd meg a Contoso Chat Demo bemutatót.
Most pedig, milyen eszközöket használhatunk?
Az eszközökhöz a Microsoft az Azure AI Platformot és a PromptFlow-t kínálja, amelyek megkönnyítik és egyben egyszerűvé teszik az életciklus megvalósítását.
Az Azure AI Platform lehetővé teszi a Microsoft Foundry használatát. A Microsoft Foundry (korábban Azure AI Studio) egy webes portál, amely modellek, minták és eszközök felfedezését, erőforrások kezelését, UI fejlesztési folyamatokat és SDK/CLI opciókat kínál kód alapú fejlesztéshez.
Az Azure AI lehetővé teszi több erőforrás használatát az üzemeltetésedhez, szolgáltatásokhoz, projektekhez, vektor kereséshez és adatbázis igényekhez.
Készíts proof-of-concepttől (POC) a nagyszabású alkalmazásokig a PromptFlow-val:
- Alkalmazások tervezése és fejlesztése VS Code-ból vizuális és funkcionális eszközökkel
- Alkalmazások tesztelése és finomhangolása a minőségi MI érdekében, egyszerűen.
- Használd a Microsoft Foundry-t a felhővel való integrációra és iterációra, gyors integráció érdekében tolás és telepítés.
Nagyszerű, most tanulj meg többet arról, hogyan épül fel egy alkalmazás, hogy alkalmazd a koncepciókat a Contoso Chat App segítségével, ahol a Cloud Advocacy bemutatja ezeket a koncepciókat demonstráció során. Több tartalomért nézd meg az Ignite breakout sessionünket!
Most pedig nézd meg a 15. leckét, hogy megértsd, hogyan befolyásolják a Retrieval Augmented Generation és a Vektor Adatbázisok a generatív MI-t, és hogy még érdekesebb alkalmazásokat készíthess!
Jogi nyilatkozat: Ez a dokumentum az AI fordítási szolgáltatás, a Co-op Translator segítségével készült. Bár az pontosságra törekszünk, kérjük, vegye figyelembe, hogy az automatikus fordítások hibákat vagy pontatlanságokat tartalmazhatnak. Az eredeti dokumentum az anyanyelvén tekintendő hiteles forrásnak. Fontos információk esetén professzionális emberi fordítást javasolunk. Nem vállalunk felelősséget semmilyen félreértésért vagy téves értelmezésért, amely ebből a fordításból ered.