ఈ మాడ్యుల్ జనరేటివ్ AI మోడల్స్ లో సమర్థవంతమైన ప్రాంప్ట్లను సృష్టించడానికి ముఖ్యమైన భావనలు మరియు సాంకేతికతలను కవర్ చేస్తుంది. మీరు LLM కు మీ ప్రాంప్ట్ ఎలా రాస్తారో కూడా ముఖ్యం. జాగ్రత్తగా రూపొందించిన ప్రాంప్ట్ మెరుగైన ప్రతిస్పందన నాణ్యతను సాధించగలదు. అయితే ప్రాంప్ట్ మరియు ప్రాంప్ట్ ఇంజనీరింగ్ వంటి పదాలు ఏమిటి? మరియు నేను LLM కు పంపే ప్రాంప్ట్ ఇన్పుట్‌ను ఎలా మెరుగుపరచగలను? ఈ ప్రశ్నలను మనం ఈ అధ్యాయం మరియు తదుపరి అధ్యాయంలో సమాధానం చెప్పేందుకు ప్రయత్నిస్తాము.
జనరేటివ్ AI యూజర్ అభ్యర్థనలకు స్పందనగా కొత్త కంటెంట్ (ఉదాహరణకు, టెక్స్ట్, చిత్రాలు, ఆడియో, కోడ్ మొదలైనవి) సృష్టించగలదు. ఇది OpenAI యొక్క GPT ("Generative Pre-trained Transformer") సిరీస్ వంటి లార్జ్ లాంగ్వేజ్ మోడల్స్ ఉపయోగించి సాధించబడుతుంది, ఇవి సహజ భాష మరియు కోడ్ ఉపయోగానికి శిక్షణ పొందినవి.
ఇప్పుడు యూజర్లు ఎటువంటి సాంకేతిక నైపుణ్యాలు లేదా శిక్షణ లేకుండానే చాట్ వంటి పరిచితమైన పద్ధతులతో ఈ మోడల్స్‌తో ముత్తుమీదికి మాట్లాడవచ్చు. ఈ మోడల్స్ ప్రాంప్ట్-ఆధారిత - యూజర్లు ఒక టెక్స్ట్ ఇన్పుట్ (ప్రాంప్ట్) పంపిస్తారు, ఆపై AI ప్రతిస్పందన (కంప్లిషన్) వస్తుంది. వారు ఆపై "AI తో చాట్ చేయవచ్చు" పలు మార్ల సంభాషణలలో, వారి ప్రాంప్ట్‌ను మెరుగుపరుచుకుంటూ వారి ఆశించిన ప్రతిస్పందన వస్తుండే వరకు.
"ప్రాంప్ట్స్" ఇప్పుడు జనరేటివ్ AI అనువర్తనాల కోసం ప్రధాన ప్రోగ్రామింగ్ ఇంటర్‌ఫేస్ అవుతాయి, ఇవి మోడల్స్‌కి ఏమి చేయాలనే చెప్పగలవు మరియు అందులోని ప్రతిస్పందన నాణ్యతను ప్రభావితం చేస్తాయి. "ప్రాంప్ట్ ఇంజనీరింగ్" అనేది వేగంగా పెరుగుతున్న పరిశోధన రంగం, ఇది స్థిరమైన మరియు నాణ్యమైన ప్రతిస్పందనలను భారీగా అందించే ప్రాంప్ట్ల రూపకల్పన మరియు ఆప్టిమైజేషన్ పై దృష్టి పెడుతుంది.
ఈ పాఠంలో, ప్రాంప్ట్ ఇంజనీరింగ్ అంటే ఏమిటి, అది ఎందుకు ముఖ్యం, మరియు ఇచ్చిన మోడల్ మరియు అనువర్తన లక్ష్యానికి మరింత సమర్థవంతమైన ప్రాంప్ట్లను ఎలా రూపొందించవచ్చో నేర్చుకొంటాము. మనం ప్రాంప్ట్ ఇంజనీరింగ్ యొక్క ప్రధాన అభిజ్ఞానం మరియు ఉత్తమ ఆచారాలు అర్థం చేసుకుని, ఈ భావనలు నిజమైన ఉదాహరణల్లో ఎలా వర్తించబడుతున్నాయో చూడటానికి జూపిటర్ నోట్‌బుక్స్ "సాండ్‌బాక్స్" వాతావరణం గురించి తెలుసుకుంటాము.
ఈ పాఠం ముగిసే ముందు, మనం చేయగలిగే పనులు:
- ప్రాంప్ట్ ఇంజనీరింగ్ అంటే ఏమిటి, మరియు అది ఎందుకు ముఖ్యం అనేది వివరించగలగటం.
- ఒక ప్రాంప్ట్ యొక్క భాగాలు ఏమిటి మరియు అవి ఎలా ఉపయోగపడతాయో వర్ణించగలగటం.
- ప్రాంప్ట్ ఇంజనీరింగ్ కోసం ఉత్తమ ఆచారాలు మరియు సాంకేతికతలను నేర్చుకోవటం.
- నేర్చుకున్న సాంకేతికతలను ఒపెన్‌ఎఐ ఎండ్‌పాయింట్ ఉపయోగించి నిజమైన ఉదాహరణలపై వర్తింప జేయగలగటం.
ప్రాంప్ట్ ఇంజనీరింగ్: కావలసిన అవుట్‌పుట్‌లను ఉత్పత్తి చేయడానికి AI మోడల్స్‌ను మార్గదర్శనం చేయడానికి ఇన్పుట్లను డిజైన్ చేసి సవరిచే సాధన. టోకనైజేషన్: టెక్స్ట్‌ను చిన్న భాగాలుగా, అంటే టోకెన్లుగా మారుస్తూ, మోడల్ అర్థం చేసుకోవడానికి మరియు ప్రాసెస్ చేయడానికి చేసే ప్రక్రియ. ఇన్‌స్ట్రక్షన్-ట్యూన్డ్ LLMs: నిర్దిష్ట సూచనలతో మెరుగుపరచబడిన ప్రతిస్పందన ఖచ్చితత్వం మరియు సంబంధితత కోసం ఫైన్-ట్యూన్ చేసిన భారీ భాషా మోడల్స్ (LLMs).
ప్రాంప్ట్ ఇంజనీరింగ్ ప్రస్తుతం శాస్త్రానికి కంటే కళకార్యం ఎక్కువ. దీనిపై మన అవగాహనను మెరుగ్పరచడం కోసం మనం మరిన్ని సార్లు ప్రాక్టీస్ చేయాలి మరియు అన్వయ మరియు ప్రయోగ పద్ధతిని అనుసరించాలి, ఇది అనువర్తన డొమైన్ నైపుణ్యాలను సూచించిన సాంకేతికతలతో మరియు మోడల్ నిర్దిష్ట ఆప్టిమైజేషన్లతో కలుపుతుంది.
ఈ పాఠంతో కూడిన జూపిటర్ నోట్‌బుక్ ఒక సాండ్‌బాక్స్ వాతావరణాన్ని అందిస్తుంది, అక్కడ మీరు నేర్చుకున్న విషయాలను ప్రయోగం చేయవచ్చు - పాఠమాల మధ్య లేదా చివరని కోడ్ ఛాలెంజ్ భాగంగా. వ్యాయామాలను అమలు చేయడానికి, మీరు తోకాల్సినవి:
- Azure OpenAI API కీ - ఒక ప్రతిష్టిత LLM సేవా ఎండ్‌పాయింట్.
- పైథాన్ రంటైం - దానిలో నోట్‌బుక్ అమలు చేయబడుతుంది.
- లోకల్ వాతావరణ చరాలు - సెట్టప్ దశలను పూర్తి చేయండి.
నోట్‌బుక్ ప్రారంభానికి కొద్దిగా వ్యాయామాలు వస్తాయి - కానీ మీరు మీ స్వంత మార్క్డౌన్ (వివరణ) మరియు కోడ్ (ప్రాంప్ట్ అభ్యర్థనల) సెక్షన్లను జోడించవచ్చు - మరిన్ని ఉదాహరణలు లేదా ఆలోచనలను పరీక్షించడానికి మరియు ప్రాంప్ట్ రూపకల్పనపై మీ అవగాహనను పెంపొందించడానికి.
మీరు ఈ పాఠం కవర్ చేసే ప్రధాన అంశాల పెద్ద దృశ్యాన్ని ముందుగా తెలుసుకోవాలనుకుంటున్నారా? ఈ చిత్రీకరించిన మార్గదర్శిని చూడండి, ఇది మీరు ఆలోచించు ముఖ్య అంశాలు మరియు ప్రాథమిక సమాచారం కోసం మౌలిక అంశాలను మరియు కీలక పాఠాలను సూచిస్తుంది. పాఠం రోడ్‌మ్యాప్ మౌలిక భావనలు మరియు సవాళ్లను అర్థం చేసుకోవడంతో మొదలుకుని వాటిని సంబంధిత ప్రాంప్ట్ ఇంజనీరింగ్ సాంకేతికతలు మరియు ఉత్తమ ఆచారాలతో పరిష్కరించే వరకు తీసుకుంటుంది. ఈ మార్గదర్శిలో "అత్యున్నత సాంకేతికతలు" విభాగం ఈ పరిసర కార్యక్రమం యొక్క తదుపరి అధ్యాయంలో కవర్ అయిన విషయం.
ఇప్పుడు, ఈ విషయం మన స్టార్టప్ ధ్యేయానికి ఎలా సంబంధించినదో మాట్లాడుకుందాం, అది విద్యకు AI ఆవిష్కరణను తీసుకురావడం. మనము వ్యక్తిగతీకరించిన అభ్యాసం అనువర్తనాలను AI శక్తితో నిర్మించాలని భావిస్తున్నాము - కాబట్టి మన అనువర్తన వివిధ యూజర్లు ప్రాంప్ట్లను ఎలా "రూపకల్పన" చేయవచ్చో ఆలోచిద్దాం:
- ప్రశాసకులు: AI ని పాఠ్య పాఠ్యాంశాల్లో పొరపాట్లు గుర్తించడానికి అనాలైజ్ చేయమని అడగవచ్చు. AI ఫలితాలను సారాంశం రూపొందించగలదు లేదా కోడ్‌తో దృశ్యీకరణ చేయగలదు.
- ఆచార్యులు: AI ని ఒక లక్ష్య ప్రేక్షక మరియు విషయం కోసం పాఠ ప్రణాళిక సృష్టించమని అడగవచ్చు. AI వ్యక్తిగతీకరించిన ప్రణాళికను నిర్దిష్ట ఫార్మాట్లో రూపొందించగలదు.
- విద్యార్థులు: AI ని కష్టమైన విషయాలలో వారిని బోధించమని అడగవచ్చు. AI ఇప్పుడు విద్యార్థులకు వారి స్థాయికి తగిన పాఠాలు, సూచనలు & ఉదాహరణలతో మార్గనిర్దేశనం చేయగలదు.
ఇది కేవలం ముంతుల పైభాగం మాత్రమే. Prompts For Education చూడండి - విద్యా నిపుణులు సంరక్షించిన ఓపెన్-సోర్స్ ప్రాంప్ట్స్ లైబ్రరీ - అవకాశాల సమగ్ర దృశ్యం పొందడానికి! ఆ సాండ్‌బాక్స్‌లో లేదా OpenAI ప్లేగ్రౌండ్‌లో ఆ ప్రాంప్ట్లను అమలు చేసి ఏ జరుగుతుందో చూడండి!
మనం ఈ పాఠాన్ని ప్రారంభించేటప్పుడు ప్రాంప్ట్ ఇంజనీరింగ్ అనేది ఒక యాప్లికేషన్ లక్ష్యం మరియు మోడల్ కోసం స్థిరమైన, నాణ్యమైన ప్రతిస్పందనలను అందించేందుకు టెక్స్ట్ ఇన్పుట్లను (ప్రాంప్ట్‌లు) డిజైన్ చేసి ఆప్టిమైజ్ చేయడం ప్రక్రియ అని నిర్వచించాము. దీన్ని రెండు దశల ప్రక్రియగా మనం చూడవచ్చు:
- ఇచ్చిన మోడల్ మరియు లక్ష్యానికి ప్రారంభ ప్రాంప్ట్‌ను డిజైన్ చేయడం
- ప్రతిస్పందన నాణ్యతను మెరుగుపరచడానికి ప్రాంప్ట్‌ను పునరావృతంగా సవరించడం
ఇది తప్పనిసరిగా ప్రయోగం మరియు తప్పిదం విధానాన్ని తావుతుంది, ఇది సరైన ఫలితాలు కోసం యూజర్ అవగాహన మరియు ప్రయత్నం అవసరం. అంతే కాదు, ఇది ఎందుకు ముఖ్యం? అంటే బాధ్యతగా మూడు భావనలను అర్థం చేసుకోవాలి:
- టోకనైజేషన్ = మోడల్ ప్రాంప్ట్‌ను ఎలా "చూస్తుంది"
- బేస్ LLMs = ఫౌండేషన్ మోడల్ ప్రాంప్ట్‌ను ఎలా "ప్రాసెస్" చేస్తుంది
- ఇన్‌స్ట్రక్షన్-ట్యూన్డ్ LLMs = మోడల్ ఇప్పుడు "పనులు" ను ఎలా చూడగలదు
ఒక LLM ప్రాంప్ట్లను _టోకెన్ల సీక్వెన్స్_గా చూస్తుంది, వేరే మోడల్స్ (లేదా ఒక మోడల్ యొక్క వేరియెంట్లు) ఒకే ప్రాంప్ట్‌ను వేర్వేరు రీతులలో టోకనైజ్ చేయవచ్చు. LLMలు టోకెన్లపై శిక్షణ పొందినప్పటికీ (రా టెక్స్ట్‌కాదు), ప్రాంప్ట్ల టోకనైజేషన్ విధానం ఉత్పత్తి చేయబడుతున్న ప్రతిస్పందన నాణ్యతపై ప్రత్యక్ష ప్రభావం చూపుతుంది.
టోకనైజేషన్ ఎలా పనిచేస్తుందో భావన పొందడానికి, క్రింది OpenAI Tokenizer వంటి పరికరాలను ప్రయత్నించండి. మీ ప్రాంప్ట్ కాపీ చేసి - అది టోకెన్లుగా ఎలా మార్చబడుతుందో గమనించండి, శూన్యస్థాన అక్షరాలు మరియు పంక్తి చిహ్నాలు ఎలా నిర్వహించబడుతున్నాయో శ్రద్ధ వహించండి. ఈ ఉదాహరణ ఒక పాత LLM (GPT-3) ని చూపించుతుంది, కాబట్టి కొత్త మోడల్ తో ప్రయత్నిస్తే వేరైన ఫలితం రావచ్చు.
ఒక ప్రాంప్ట్ టోకనైజ్ అయిన తర్వాత, "బేస్ LLM" (లేదా ఫౌండేషన్ మోడల్) యొక్క ప్రాథమిక విధానం ఆ సీక్వెన్స్‌లోని టోకెన్‌ను అంచనా వేయడం. LLMలు భారీ టెక్స్ట్ డేటాసెట్లపై శిక్షణ పొందినందున టోకెన్ల మధ్య గణాంక సంబంధాలను బాగా అర్థం చేసుకొని ఆ అంచనాను కొంత నమ్మకంతో చేయగలవు. వారు ప్రాంప్ట్ లేదా టోకెన్‌లలోని పదాల అర్థం ను అర్థం చేసుకోరు; వారు అంచనా వేయగల ఒక నమూనాను మాత్రమే చూస్తారు. వారు ఉపయోగదారు పాత్రమార్పు లేదా అలాగే నిర్వచించబడిన షరతు వరకు ఈ సీక్వెన్స్‌ను ముందుకు అంచనా వేయగలరు.
ప్రాంప్ట్ ఆధారిత కంప్లిషన్ ఎలా పనిచేస్తుందో చూడాలనుకుంటున్నారా? పై ప్రాంప్ట్‌ను Microsoft Foundry playground లో డిఫాల్ట్ సెట్టింగులతో ఎంటర్ చేయండి. ఆ సిస్టమ్ ప్రాంప్ట్లను సమాచార అభ్యర్థనలుగా పరిగణిస్తుందని కనుక మీరు ఈ సందర్భానికి తగిన కంప్లిషన్‌ను చూడగలుగుతారు.
కానీ యూజర్ ఏదైనా నిర్దిష్టమైన విషయం కనుగొనాలనుకుంటే లేదా స్పష్టమైన కార్యక్రమ లక్ష్యానికి ఏదైనా అవసరం ఉంటే? ఇక్కడే ఇన్‌స్ట్రక్షన్-ట్యూన్డ్ LLMs పాత్రలోకి వస్తాయి.
ఒక ఇన్‌స్ట్రక్షన్ ట్యూన్డ్ LLM ఫౌండేషన్ మోడల్‌తో ప్రారంభమైదే, ఉదాహరణలు లేదా ఇన్పుట్/అవుట్పుట్ జతల (ఉదా: బహు-మార్ల "మెసేజ్‌లు")తో దీన్ని ఫైన్-ట్యూన్ చేస్తుంది, అందులో ఖచ్చితమైన సూచనలు ఉంటాయి - AI ఆ సూచనను అనుసరించడానికి ప్రయత్నిస్తుంది.
ఇది మానవ అభిప్రాయం తో రీయిన్ఫోర్స్మెంట్ లర్నింగ్ (RLHF) వంటి సాంకేతికతలను ఉపయోగించి, మోడల్‌ను సూచనలను అనుసరించడానికి మరియు అభిప్రాయం నుంచి నేర్చుకోడానికి శిక్షిస్తాయి, తద్వారా అది అనువర్తనాలకు తగిన సమాధానాలను మరియు యూజర్ లక్ష్యాలకు సంబంధితమైన ప్రతిస్పందనలను ఇవ్వగలదు.
దీన్ని ప్రయత్నిద్దాం - పై ప్రాంప్ట్‌ను తిరిగి చూస్తూ, ఇప్పడు సిస్టమ్ సందేశం ను క్రింద సూచించిన విధంగా మార్చండి:
మీకు అందించిన విషయాన్ని రెండో గ్రేడ్ విద్యార్థికి సరిపడినట్టు సారాంశం చేయండి. ఫలితాన్ని ఒక పేరాగ్రాఫ్ లో 3-5 బుల్లెట్ పాయింట్లుగా ఉంచండి.
ఇప్పుడు ఫలితం కోరుకున్న లక్ష్యం మరియు ఫార్మాట్ తో సరిపోయేలా ట్యూన్ ఐనట్టు చూడండి? ఒక ఆచార్యుడు ఈ ప్రతిస్పందనను తమ స్లైడులలో నేరుగా ఉపయోగించగలడు.
ఇప్పుడు మనం ఎలా ప్రాంప్ట్‌లు LLMలు ద్వారా ప్రాసెస్ అవుతాయో తెలుసుకున్నపుడు, మనం ప్రాంప్ట్ ఇంజనీరింగ్ ఎందుకు అవసరమో చర్చించుదాం. సమాధానం ప్రస్తుతం ఉన్న LLMలలో కొన్ని సవాళ్లున్నాయని, అవి నమ్మకమైన మరియు స్థిరమైన పూర్తయిన ప్రతిస్పందనలు అందించడం కోసం ప్రాంప్ట్ రూపకల్పన మరియు ఆప్టిమైజేషన్ లో శ్రమ పెట్టకపోతే కష్టాలు ఉంటాయని ఉంటుంది. ఉదాహరణకు:
-
మోడల్ ప్రతిస్పందనలు స్టోచాస్ట్ (సిద్ధాంతాస్పద) గా ఉంటాయి. అనే ప్రాంప్ట్ వేర్వేరు మోడల్స్ లేదా మోడల్ వర్షన్లతో వేరువేరు ప్రతిస్పందనలు ఇవ్వవచ్చు. అదే మోడల్ ఒకేసారి వేరే సమయాల్లో కూడా వేర్వేరు ఫలితాలు ఇవ్వవచ్చు. ప్రాంప్ట్ ఇంజనీరింగ్ సాంకేతికతలు ఈ వేరియేషన్లను తగ్గించడానికి మంచిగా గార్డ్రైల్స్ ఇవ్వగలవు.
-
మోడల్స్ తప్పు సమాధానాలు తయారు చేయవచ్చు. మోడల్స్ పెద్ద కానీ పరిమిత డేటాసెట్లపై శిక్షణ పొందినవి, అందుకే శిక్షణ పరిధికి వెలుపల ఉన్న ఆలోచనల గురించి తెలివి లేకపోవచ్చు. ఫలితంగా, అవి తప్పుగా, కల్పితంగా, లేదా నిజమైన వాస్తవాలకు వ్యతిరేకంగా ఉండే కంప్లిషన్లను ఉత్పత్తి చేయవచ్చు. ప్రాంప్ట్ ఇంజనీరింగ్ సాంకేతికతలు యూజర్లకు అలాంటి గోప్యాలు గుర్తించి నివారించడంలో సహాయపడతాయి, ఉదా: AI నుండి సూచనలు లేదా తర్జుమాను అడగడం.
-
మోడల్స్ సామర్థ్యాలు వేరుచేస్తాయి. కొత్త మోడల్స్ లేదా మోడల్ తరాల వద్ద అధిక సామర్థ్యాలు ఉంటాయి కానీ ఖర్చు మరియు సంక్లిష్టతలో ప్రత్యేక విమర్శలు మరియు వెండి కలుగుతాయి. ప్రాంప్ట్ ఇంజనీరింగ్ మనకు ఉత్తమ ఆచారాలను మరియు పనిఫలాల నియమాలను అభివృద్ధి చేయటానికి సహాయపడుతుంది, ఇవి భిన్నతలను abstraction చేసి, మోడల్ నిర్దిష్ట అవసరాలకు అనుగుణంగా మాడ్జులు సక్రమంగా మరియు నిరంతరం అనుసరించగల వాటిగా తయారుచేస్తాయి.
దీన్ని OpenAI లేదా Azure OpenAI ప్లేగ్రౌండ్‌లో ప్రాక్టికల్‌గా చూద్దాం:
- వేర్వేరు LLM వినియోగాల్లో అదే ప్రాంప్ట్‌ని ఉపయోగించండి (ఉదా: OpenAI, Azure OpenAI, Hugging Face) - వేరియేషన్లు గమనించాలా?
- అదే LLM వినియోగంలో అనేకసార్లు అదే ప్రాంప్ట్ ఉపయోగించి చూడు (ఉదా: Azure OpenAI ప్లేగ్రౌండ్) - వేర్వేరు ఫలితాలు ఎలా వచ్చాయో గమనించండి?
ఈ కోర్సులో, మేము "కల్పన" అనే పదం ఉపయోగిస్తాము, ఇది LLMలు శిక్షణ పరిమితులు లేదా ఇతర కారణాల వల్ల కొన్నిసార్లు వాస్తవానికి తగినట్టు కాని తప్పుదిద్దుబాటు సమాచారాన్ని రూపొందించే పరిస్థితిని సూచిస్తుంది. మీరు దీనిని ప్రాచుర్యంలో ఉన్న వ్యాసాలు లేదా పరిశోధనా పత్రాలలో "హాల్యూసినేషన్స్" గా కూడా వింటుంటే ఉండవచ్చు. అయితే, మేము "కల్పన" అనే పదాన్ని ఉపయోగించే సూచన చేస్తాము, ఎందుకంటే దీనివల్ల మనం యంత్రం చేత అమలైన ఫలితాన్ని మానవ స్వభావాలతో పొరపాటుగా అనువదించడం నివారిస్తుంది. ఇది విజిలెన్స్ AI మార్గదర్శకాలు కన్నా సాంకేతిక పదబంధాల పరంగా కూడా బాగుంటుంది, కొన్నిసార్లు ఆపద్భావ సూచనలను లేదా అనేక సందర్భాల్లో అలంకార రహిత పదాలను తొలగిస్తుంది.
కల్పనల పని ఎలా జరుగుతుందో తెలుసుకోవాలనుకుంటారా? ఒక ప్రాంప్ట్‌ని ఆలోచించండి, అది AI ని శిక్షణ డేటాసెట్‌లో లేని ఒక కల్పిత విషయంపై కంటెంట్ సృష్టించేలా సూచిస్తుంది. ఉదాహరణకి - నేను ఈ ప్రాంప్ట్ ప్రయత్నించాను:
ప్రాంప్ట్: 2076 న జరిగిన మార్షియన్ యుద్ధం పై పాఠ ప్రణాళిక సృష్టించు.
ఒక వెబ్ శోధన నాకు ప్రదర్శించిందీ, మార్షియన్ యుద్ధాల పై కల్పిత కథనాలు (ఉదా: టెలివిజన్ సిరీస్ లేదా పుస్తకాలు) ఉన్నాయి - కానీ 2076 లో కాదు. సాధారణ జ్ఞానం ప్రకారం 2076 భవిష్యత్ లో ఉండే సంవత్సరం కాబట్టి, ఇది నిజజీవిత ఘటనకు అనుబంధం కాదు.
కాబట్టి వివిధ LLM ప్రొవైడర్స్‌తో ఈ ప్రాంప్ట్ నడిపితే ఏమవుతుంది?
ప్రతిస్పందన 1: OpenAI ప్లేగ్రౌండ్ (GPT-35)
ప్రతిస్పందన 2: Azure OpenAI ప్లేగ్రౌండ్ (GPT-35)
ప్రతిస్పందన 3: : Hugging Face చాట్ ప్లేగ్రౌండ్ (LLama-2)
అంచనాకు అనుగుణంగా, ప్రతి మోడల్ (లేదా మోడల్ వెర్షన్) స్టోచాస్టిక్ ప్రవర్తన మరియు మోడల్ సామర్థ్యాల్లో తేడాల కారణంగా కొంతవరకు భిన్నమైన ప్రతిస్పందనలను ఉత్పత్తి చేస్తుంది. ఉదాహరణకు, ఒక మోడల్ 8వ తరగతి ప్రేక్షకులను లక్ష్యంగా ఉంచగా, మరొకటి హైస్కూల్ విద్యార్థిని అనుకుంటుంది. కానీ ఈ మూడు మోడల్స్ కూడా దృఢంగా అననవసరమైన వినియోగదారుని ఈ సంఘటన నిజమే అనే భావన కలిగించే ప్రతిస్పందనలను జనరేట్ చేశారు.
మెటాప్రమ్ప్టింగ్ మరియు తాపన సెట్టింగు లాంటి ప్రాంప్ట్ ఇంజినీరింగ్ సాంకేతికతలు కొంత మేరకు మోడల్ తయారీలో లోపాలను తగ్గించగలవు. కొత్త ప్రాంప్ట్ ఇంజినీరింగ్ వాసనాలు కూడా ఈ ప్రభావాలు కొంత తగ్గించడానికి మరియు నియంత్రించడానికి కొత్త టూల్స్ మరియు సాంకేతికతలను సజావుగా ప్రాంప్ట్ ప్రవాహంలో చేర్చుతుంటాయి.
ఒక కేస్ స్టడీని చూస్తూ ప్రాంప్ట్ ఇంజినీరింగ్ నిజ జీవిత పరిష్కారాల్లో ఎలా ఉపయోగించబడుతున్నదో అవగాహన చేసుకుందాం: GitHub Copilot.
GitHub Copilot మీ "AI జత ప్రోగ్రామర్" - ఇది టెక్స్ట్ ప్రాంప్ట్స్‌ను కోడ్ పూర్తి‌లుగా మారుస్తుంది మరియు మీ అభివృద్ధి పరిసరంలో (ఉదా., Visual Studio Code) సమ్మిళితమైనది, సజావుగా ఉపయోగించుకోగల అనుభవాన్ని ఇవ్వడానికి. క్రింది బ్లాగుల శ్రేణిలో పొందుపరిచినట్లుగా, ప్రారంభ వెర్షన్ OpenAI Codex మోడల్ ఆధారంగా ఉండింది - ఇంజినీర్లు త్వరగా మోడల్‌ను మెరుగుపరచడం మరియు మెరుగైన ప్రాంప్ట్ ఇంజినీరింగ్ సాంకేతికతలను అభివృద్ధి చేయాల్సిన అవసరాన్ని గ్రహించారు, కోడ్ నాణ్యత పెరిగేందుకు. జూలైలో వారు Codex మించిపోయే మెరుగైన AI మోడల్‌ను ప్రవేశపెట్టారు ఇంకా వేగంగా సూచనలు ఇవ్వడానికి.
వారి అభ్యాస ప్రయాణం తెలుసుకోవాలంటే క్రింది పోస్ట్లను ఆర్డర్ ప్రకారం చదవండి.
- మే 2023 | GitHub Copilot మీ కోడ్ అర్థం చేసుకోవడంలో మెరుగ్గా మారుతోంది
- మే 2023 | GitHub లో: GitHub Copilot వెనుక ఉన్న LLMలతో పని చేయడం
- జూన్ 2023 | GitHub Copilot కోసం మెరుగైన ప్రాంప్ట్స్ ఎలా రాయాలి
- జూలై 2023 | .. Codex మించి మెరుగైన AI మోడల్‌తో GitHub Copilot
- జూలై 2023 | డెవలపర్ గైడ్: ప్రాంప్ట్ ఇంజినీరింగ్ మరియు LLMలు
- సెప్టెంబర్ 2023 | ఎంటర్ప్రైజ్ LLM యాప్‌ను ఎలా నిర్మించాలి: GitHub Copilot నుండి పాఠాలు
మీరు వారి ఇంజినీరింగ్ బ్లాగ్ చూడవచ్చు మరిన్ని పోస్ట్స్ కోసం, అందులో ఇది వంటి వ్యాసాలు ఉన్నాయి, ఇవి ఈ మోడల్స్ మరియు సాంకేతికతలు ఎలా నిజ జీవిత అనువర్తనాలు నడిపించడంలో అన్వయించబడ్డాయో చూపిస్తాయి.
ప్రాంప్ట్ ఇంజినీరింగ్ ఎందుకు ముఖ్యమో చూసాం - ఇప్పుడు ప్రాంప్ట్లను ఎలా నిర్మించబేస్తారో అర్థం చేసుకుందాం, తద్వారా మరింత సమర్థవంతమైన ప్రాంప్ట్ డిజైన్ కోసం వివిధ సాంకేతికతలను మూల్యాంకనం చేయవచ్చు.
ఇతర పరిసరాలు లేకుండా మోడల్‌కు పంపే ఒక టెక్స్ట్ ఇన్పుట్: దీనితో ప్రారంభిద్దాం. ఉదాహరణకి, US జాతీయ గీతం మొదటి కొన్ని పదాలను OpenAI Completion API కి పంపితే అది వెంటనే తదుపరి పంక్తులతో స్పందనను పూర్తిచేస్తుంది, ఇది ప్రాథమిక భావించు ప్రవర్తనను చూపిస్తుంది.
| ప్రాంప్ట్ (ఇన్పుట్) | పూర్తిచేత (ఔట్‌పుట్) |
|---|---|
| ఓహ్ చెప్పు నీవు చూస్తున్నావా | మీరు "ది స్టార్-స్పాంగ్లడ్ బానర్" అనే పాట యొక్క లిరిక్స్ మొదలు పెడుతున్నట్టుంది, ఇది యునైటెడ్ స్టేట్స్ జాతీయ గీతం. పూర్తి లిరిక్స్ ... |
ఇప్పుడు ఆ ప్రాథమిక ప్రాంప్ట్‌కు పరిసరాలు మరియు సూచనలు జోడిద్దాం. Chat Completion API మేము పలు మెసేజెస్ కలిగి ఒక సంక్లిష్ట ప్రాంప్ట్‌ను నిర్మించేందుకు సహాయపడుతుంది, అవి:
- యూజర్ ఇన్పుట్ మరియు అసిస్టెంట్ స్పందన ప్రతిబింబించే ఇన్పుట్/ఆతోట్ జంటలు.
- అసిస్టెంట్ ప్రవర్తన లేదా వ్యక్తిత్వం కోసం సిస్టమ్ మెసేజ్.
ఇప్పుడు అభ్యర్థన క్రిందివిధంగా ఉంటుంది, ఇక్కడ టోకనైజేషన్ సారూప్య సమాచారాన్ని సరిగా పట్టుకుంటుంది. సిస్టమ్ పరిసరాన్ని మార్చడం, యూజర్ ఇన్‌పుట్లకు సమానమైన ప్రమాణంలో, పూర్తిచేత నాణ్యతపై ప్రభావం చూపుతుంది.
response = client.responses.create(
model="gpt-5-mini",
input=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Who won the world series in 2020?"},
{"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},
{"role": "user", "content": "Where was it played?"}
]
)పై ఉదాహరణల్లో, యూజర్ ప్రాంప్ట్ ఒక సాదా టెక్స్ట్ ప్రశ్న మాత్రమే, అది సమాచారాన్నినడుల కోరుతుందన్న రీతిలో అర్థం చేసుకోవచ్చేలా. సూచనా ప్రాంప్ట్ల తో, ఆ టెక్స్ట్‌ను మరింత వివరణాత్మకంగా ఒక కార్యాన్ని స్పష్టీకరించడానికి ఉపయోగించవచ్చు, AIకి మెరుగైన మార్గదర్శకత్వం ఇవ్వడానికి. ఉదాహరణ:
| ప్రాంప్ట్ (ఇన్పుట్) | పూర్తిచేత (ఔట్‌పుట్) | సూచనా రకం |
|---|---|---|
| సివిల్ వార్ యొక్క వివరణ రాయండి | సాదా పేరాగ్రాఫ్ ఇచ్చింది | సాదా |
| సివిల్ వార్ యొక్క వివరణ రాయండి. ముఖ్య తేదీలు మరియు సంఘటనలన్నింటినీ పేర్కొని వాటి ప్రాముఖ్యతను వివరిస్తూ రాయండి | ముఖ్య సంఘటనల తేదీల జాబితాను వివరణలతో పాటు పేరాగ్రాఫ్ ఇచ్చింది | సంక్లిష్ట |
| సివిల్ వార్ వివరణను 1 పేరాగ్రాఫ్‌లో రాయండి. ముఖ్య తేదీలకు 3 బుల్లెట్ పాయింట్లు మరియు వాటి ప్రాముఖ్యతనూ ఇవ్వండి. ముఖ్య చారిత్రక వ్యక్తులకు 3 మరింత బుల్లెట్ పాయింట్లను ఇవ్వండి, అలాగే వారి కృషిని వివరిస్తూ. అవుట్‌పుట్‌ను JSON ఫైల్‌గా ఇవ్వండి | మరిన్ని వివరాలను JSON ఆకృతిలో టెక్స్ట్ బాక్స్‌లో ఇస్తుంది, దాన్ని కాపీ చేసి ఫైల్లో పేస్ట్ చేసి అవసరమైతే ధృవీకరించవచ్చు | సంక్లిష్టం. ఆకృతీకరించబడింది. |
పై ఉదాహారాల్లో, ప్రాంప్ట్ ఇంకా క్రొత్తగా ఉండి, LLM దాని ప్రీ-ట్రెండ_dataset లో మరింత సంబంధిత భాగాన్ని ఎంచుకునే అవకాశం ఉంది. ప్రాథమిక విషయం డిజైన్ నమూనాలో, ఇన్పుట్ టెక్స్ట్ రెండు భాగాలుగా విభజించబడుతుంది:
- ఒక సూచన (కార్యాచరణ)
- సంబంధిత కంటెంట్ (క్విక్ ప్రవర్తనను ప్రభావితం చేసే)
ఇక్కడ ఒక ఉదాహరణ ఉంది, ఇన్‌స్ట్రక్షన్ “దీన్ని 2 వాక్యాల్లో సారాంశం చేయండి”.
| ప్రాంప్ట్ (ఇన్పుట్) | పూర్తిచేత (ఔట్‌పుట్) |
|---|---|
| జ్యుపిటర్ సూర్యుని నుండి ఐదవ గ్రహం మరియు సౌర వ్యవస్థలో అతి పెద్ద గ్రహం. ఇది ఒక గ్యాస్ జయింట్, దాని ద్రవ్యరాశి సూర్యుని ద్రవ్యరాశి యొక్క వందవ భాగం మాత్రమే అయినా, సౌర వ్యవస్థలో ఉన్న మిగిలిన గ్రహాల మోతాదుకు రెండువేల కనీసం ఎక్కువ. జ్యుపిటర్ మనుషులు చూపగలిగే మెరుగైన వస్తువులలో ఒకటి, పురాతన నాగరికతలు పూర్వకాలం నుండి ఇది తెలుసుకున్నాయి. ఇది రోమన్ దేవుడు జ్యుపిటర్ పేరుతో పిలవబడుతుంది.[19] భూమి నుండి చూసినపుడు జ్యుపిటర్ వెలుతురు రేఖలను వదలగలిగేలా ప్రకాశవంతంగా ఉంటుంది,[20] మరియు సగటున చంద్రుడు మరియు శుక్రుడి తరువాత రాత్రి ఆకాశంలో మూడవ ప్రకాశవంతమైన సహజ వస్తువుగా ఉంటుంది. ఇది 2 చిన్న వాక్యాలలో సారాంశం చేయండి |
జ్యుపిటర్, సూర్యుని నుండి ఐదవ గ్రహం, సౌర వ్యవస్థలో అతి పెద్దది మరియు రాత్రి ఆకాశంలో ప్రకాశవంతమైన వస్తువుల్లో ఒకటి. రోమన్ దేవుడు జ్యుపిటర్ పేరుతో పిలవబడే ఇది, సౌర వ్యవస్థలోని మిగిలిన గ్రహాల కంటే రెండు మరియు పది రెట్లు ఎక్కువ ద్రవ్యరాశి ఉన్న గ్యాస్ జయింట్. |
ప్రాథమిక కంటెంట్ భాగం వివిధ రకాలుగా సమర్థవంతమైన సూచనలను నడిపేందుకు ఉపయోగించవచ్చు:
- ఉదాహరణలు - మోడల్‌కు స్పష్టమైన సూచనే ఇచ్చే బదులు, ఏమి చేయాలో ఉదాహరణలు ఇచ్చి మూల ప్రత్యేకతను అర్థం చేసుకోనివ్వడం.
- సూచనలు - సూచన తరువాత "క్యూ"ని ఇవ్వడం, ఇది పూర్తిచేతను ప్రేరేపించి, మోడల్‌కి మరింత సంబంధిత ప్రతిస్పందనలకు దారితీస్తుంది.
- టెంప్లేట్లు - వీటివంటి ప్రాంప్ట్‌లకు మళ్ళీ మళ్ళీ ఉపయోగించదగిన 'రెసిపీలు' వంటి ప్లేస్‌హోల్డర్లతో (వేరియబుల్స్) ఉండి విశేష సందర్భాలను కోసం దత్తాంశంతో అనుకూలీకరించబడతాయి.
ఇవి ఎలా పనిచేస్తాయో పరిశీలిద్దాం.
ఇదిలా ఉంటుంది: మీరు ప్రాథమిక విషయం ఉపయోగించి ఇచ్చే సూచనకు కావలసిన అవుట్‌పుట్‌కు కొన్ని ఉదాహరణలను "మోడల్‌కి ఇస్తారు" మరియు అవి కావలసిన అవుట్పుట్ రూపాన్ని అర్థం చేసుకుని మూల ప్రత్యేకతను అర్థం చేసుకోవడానికి అనుమతిస్తారు. ఇచ్చిన ఉదాహరణల సంఖ్య ఆధారంగా, జీరో-షాట్, ఒకసారి-షాట్, ఫ్యూ-షాట్ ప్రాంప్టింగ్ లాంటి పద్ధతులు ఉంటాయి.
ప్రాంప్ట్ ఇప్పుడు ఈ మూడు భాగాలను కలిగి ఉంటుంది:
- ఒక కార్య వివరణ
- కావలసిన అవుట్పుట్ కొంత ఉదాహరణలు
- కొత్త ఉదాహరణ ప్రారంభం (ఇది లోపలి కార్య వివరణగా మారుతుంది)
| అభ్యసన రకం | ప్రాంప్ట్ (ఇన్పుట్) | పూర్తిచేత (ఔట్‌పుట్) |
|---|---|---|
| జీరో-షాట్ | "The Sun is Shining". స్పానిష్‌కు అనువదించండి | "El Sol está brillando". |
| ఒకసారి-షాట్ | "The Sun is Shining" => ""El Sol está brillando". "It's a Cold and Windy Day" => |
"Es un día frío y ventoso". |
| ఫ్యూ-షాట్ | The player ran the bases => Baseball The player hit an ace => Tennis The player hit a six => Cricket The player made a slam-dunk => |
Basketball |
జీరో-షాట్ ప్రాంప్టింగ్‌లో ప్రత్యక్ష సూచన ("స్పానిష్‌కు అనువదించండి") ఇవ్వాల్సివచ్చింది, కానీ ఒకసారి-షాట్ ఉదాహరణలో అది అర్థం చేసుకోవబడింది. ఫ్యూ-షాట్ ఉదాహరణను చూశాక, ఎక్కువ ఉదాహరణలు ఇచ్చితే మోడల్స్ మరింత ఖచ్చితంగా అర్థం చేసుకోవడంలో సహాయపడతాయని తెలుస్తుంది.
మరొక పద్ధతి, ప్రాథమిక విషయాన్ని ఉపయోగించి ఉదాహరణల బదులు సూచనలు ఇవ్వడం. ఈ పరిస్థితిలో, మోడల్‌కు కావలసిన ప్రతిస్పందన ఫార్మాట్ ప్రతిబింబించే ఒక చిన్న భాగం ఇచ్చి ప్రారంభం చేస్తాం. ఆపై మోడల్ ఆ "సూచన"ను గ్రహించి ఆ దిశలో కొనసాగుతుంది.
| సూచనల సంఖ్య | ప్రాంప్ట్ (ఇన్పుట్) | పూర్తిచేత (ఔట్‌పుట్) |
|---|---|---|
| 0 | జ్యుపిటర్ సూర్యుని నుండి ఐదవ గ్రహం మరియు సౌర వ్యవస్థలో అతి పెద్ద గ్రహం. ఇది ఒక గ్యాస్ జయింట్, దాని ద్రవ్యరాశి సూర్యుని ద్రవ్యరాశి యొక్క వందవ భాగం మాత్రమే అయినా, సౌర వ్యవస్థలో ఉన్న మిగిలిన గ్రహాల మోతాదుకు రెండువేల కనీసం ఎక్కువ. జ్యుపిటర్ మనుషులు చూపగలిగే మెరుగైన వస్తువులలో ఒకటి, పురాతన నాగరికతలు పూర్వకాలం నుండి ఇది తెలుసుకున్నాయి. ఇది సారాంశం చేయండి |
జ్యుపిటర్ సౌర వ్యవస్థలో అతి పెద్ద గ్రహం మరియు సూర్యుని నుండి ఐదవ గ్రహం. ఇది సూర్యుని కంటే 1/1000 వేరియం హేతువు గ్యాస్ జయింట్ అయినా, మిగిలిన అన్ని గ్రహాల కంటే ఎక్కువ బరువు కలిగి ఉంది. పురాతన నాగరికతలకు జ్యుపిటర్ తెలుకుపడింది, మరియు రాత్రి ఆకాశంలో సులభంగా కనిపిస్తుంది. |
| 1 | జ్యుపిటర్ సూర్యుని నుండి ఐదవ గ్రహం మరియు సౌర వ్యవస్థలో అతి పెద్ద గ్రహం. ఇది ఒక గ్యాస్ జయింట్, దాని ద్రవ్యరాశి సూర్యుని ద్రవ్యరాశి యొక్క వందవ భాగం మాత్రమే అయినా, సౌర వ్యవస్థలో ఉన్న మిగిలిన గ్రహాల మోతాదుకు రెండువేల కనీసం ఎక్కువ. జ్యుపిటర్ మనుషులు చూపగలిగే మెరుగైన వస్తువులలో ఒకటి, పురాతన నాగరికతలు పూర్వకాలం నుండి ఇది తెలుసుకున్నాయి. ఇది సారాంశం చేయండి మనం తెలుసుకున్నది జ్యుపిటర్ |
సూర్యుని నుండి ఐదవ గ్రహం మరియు సౌర వ్యవస్థలో అతి పెద్ద గ్రహం. ఇది ఒక గ్యాస్ జయింట్, దాని ద్రవ్యరాశి సూర్యుని ద్రవ్యరాశి యొక్క వందవ భాగం మాత్రమే అయినా, సౌర వ్యవస్థలో ఉన్న మిగిలిన అన్ని గ్రహాల మోతాదుకు రెండువేల కనీసం ఎక్కువ. ఇది సులభంగా కనిపించే గ్రహం మరియు పురాతనకాలం నుండి తెలిసి ఉంది. |
| 2 | జూపిటర్ సూర్యుని నుండి ఐదవ గ్రహం మరియు సౌరవ్యవస్థలో అతి పెద్ద గ్రహం. ఇది గ్యాస్ జెయింట్, సూర్యుడి ద్రవ్యరాశి యొక్క వేరు-వేరు వందవ భాగం కలిగి ఉంటుంది, కానీ సౌరవ్యవస్థలోని అన్ని ఇతర గ్రహాలపై రెండు-అర ఐదు రెట్లు ఎక్కువ. జూపిటర్ రాత్రి ఆకాశంలో కనబడే ప్రకాశవంతమైన వస్తువులలో ఒకటి, మరియు రికార్డు చేసిన చరిత్ర కంటే ముందే ప్రాచీన నాగరికతలకు తెలిసినది. సారాంశం చేయండి మనం నేర్చుకున్న అత్యున్నత 3 నిజాలు: |
1. జూపిటర్ సూర్యుని నుండి ఐదవ గ్రహం మరియు సౌరవ్యవస్థలో అతి పెద్ద గ్రహం. 2. ఇది సూర్యుని ద్రవ్యరాశి యొక్క వేరు-వేరు వందవ భాగం కలిగిన గ్యాస్ జెయింట్... 3. జూపిటర్ ప్రాచీన కాలం నుండే కనపడుతున్నది ... |
ప్రాంప్ట్ టెంప్లేట్ అనేది ప్రాంప్ట్ కోసం ముందుగా నిర్వచించిన రెసిపీ ఇది అవసరాన్ని అనుసరించి నిల్వ చేయబడుతూ, ప్రామాణికమైన వాడుకదారుల అనుభవాలను భారీగా నడిపించుటకు ఉపయోగించబడుతుంది. సులభంగా చెప్పాలంటే, ఇది ఒపెన్ ఏఐ నుండి ఈ ఉదాహరణ వంటి ప్రాంప్ట్ నమూనాల సంకలనం, ఇది ఇంటరాక్టివ్ ప్రాంప్ట్ భాగాలు (వాడుకదారు మరియు సిస్టమ్ సందేశాలు) మరియు API నడిపింపబడే అభ్యర్థన ఫార్మాట్ - రెండింటినీ అందిస్తుంది - పునర్వినియోగానికి మద్దతుగా.
మరింత క్లిష్టమైన రూపంలో లాంగ్‌చెయిన్ నుండి ఈ ఉదాహరణ లో, అది వివిధ మూలాల నుండి డేటాతో భర్తీ చేయగల ప్లేస్‌హోల్డర్స్ కలిగి ఉంటుంది (వాడుకదారు ఇన్పుట్, సిస్టమ్ సందర్భం, బాహ్య డేటా మూలాలు మొదలైనవి), ప్రాంప్ట్‌ను డైనమిక్‌గా తయారుచేయడానికి. ఇది మాకు పునర్వినియోగం అయ్యే ప్రాంప్ట్ లైబ్రరీ క్రియేట్ చేయడానికి అవకాశం కల్పిస్తుంది, ఇది ప్రోగ్రామ్యాటిక్గా భారీగా ప్రామాణిక వాడుకదారు అనుభవాలను నడిపించడానికి ఉపయోగపడుతుంది.
చివరిగా, టెంప్లేట్ల యొక్క నిజమైన విలువ వర్టికల్ అప్లికేషన్ డొమెయిన్‌ల కోసం ప్రాంప్ట్ లైబ్రరీలు సృష్టించి ప్రచురించే సామర్ధ్యలో ఉంది - ఇక్కడ ప్రాంప్ట్ టెంప్లేట్ ప్రస్తుతం అప్లికేషన్‌కు సంబంధించిన సందర్భం లేదా ఉదాహరణలను ప్రతిబింబించి, లక్ష్య వాడుకదారుల కోసం ప్రతిస్పందనలను మరింత సంబంధితంగా మరియు ఖచ్చితంగా మార్చడానికి ఆప్టిమైజ్ చేయబడింది. Prompts For Edu రిపోజిటరీ దుస్తులు నమూనా మరియు సబ్జెక్ట్ బోధనల మాదిరిగాను విద్యా రంగం కోసం ప్రాంప్ట్ల లైబ్రరీని కూడగట్టి ఈ విధానానికి గొప్ప ఉదాహరణ.
మనం ప్రాంప్ట్ నిర్మాణం ను ఒక సూచన (పనిది) మరియు ఒక లక్ష్యం (ప్రాథమిక కంటెంట్) తో కలిగి ఉన్నట్టు ఊహిస్తే, ద్వితీయ కంటెంట్ అనేది మనం అందించే అదనపు సందర్భం, ఇది ఎలాంటి రూపంలోనైనా అవుట్‌పుట్‌ను ప్రభావితం చేయడానికి ఉపయోగపడుతుంది. ఇది ట్యూనింగ్ పరామితులు, ఫార్మాటింగ్ సూచనలు, టాపిక్ ట్యాక్సానమీ మొదలైనవి కావచ్చు, ఇవి మోడల్ యొక్క ప్రతిస్పందనను అవసరమైన వాడుకదారు గోలులకు లేదా అంచనాకు సరిపోయేలా అనుకూలం చేసేందుకు సహాయపడతాయి.
ఉదాహరణకు: టాక్ సిలబస్‌లో అందుబాటులో ఉన్న అన్ని కోర్సులు గూర్చి విస్తృత మెటాడేటా (పేరు, వివరణ, స్థాయి, మెటాడేటా ట్యాగ్స్, శిక్షకుడు మొదలైనవి) ఉన్న కోర్సు క్యాటలాగ్ ఇవ్వబడినప్పుడు:
- మనం "Fall 2023 కోసం కోర్సు క్యాటలాగ్ సారాంశం" చేయమని సూచన నిర్వచించవచ్చు
- మనం ప్రాథమిక కంటెంట్ ఉపయోగించి కావలసిన అవుట్పుట్ యొక్క కొన్ని ఉదాహరణలను అందించవచ్చు
- మనం ద్వితీయ కంటెంట్ ఉపయోగించి టాప్ 5 "ట్యాగ్స్" గుర్తించవచ్చు.
ఇప్పుడు, మోడల్ కొన్ని ఉదాహరణల రూపంలో చూపించిన రూపంలో సారాంశం ఇవ్వగలదు - కానీ ఒక ఫలితం‌కు అనేక ట్యాగ్స్ ఉన్నప్పుడు, ద్వితీయ కంటెంట్‌లో గుర్తించిన 5 ట్యాగ్స్‌కి ప్రాధాన్యం ఇవ్వగలదు.
ప్రాంప్ట్‌లు ఎలా తయారుచేయబడతాయో మనకు తెలుసుకున్న తర్వాత, వాటిని ఉత్తమ ఆచారాలను ప్రతిబింబించేలా డిజైన్ చేయడం గురించి ఆలోచించడం ప్రారంభించవచ్చు. దీన్ని రెండు భాగాలుగా ఆలోచించవచ్చు - సరైన మైండ్‌సెట్ కలిగి ఉండటం మరియు సరైన సాంకేతికతలు అప్లై చేయడం.
ప్రాంప్ట్ ఇంజనీరింగ్ ఒక ట్రయల్-అండ్-ఎర్రర్ ప్రక్రియ కాబట్టి మూడు ప్రాథమిక మార్గదర్శక అంశాలను గుర్తుంచుకోండి:
-
డొమెయిన్ అర్థం ముఖ్యం. ప్రతిస్పందన ఖచ్చితత్వం మరియు సంబంధితత అనేది ఆ అప్లికేషన్ లేదా వాడుకదారు పనిచేసే డొమెయిన్ యొక్క ఫంక్షన్. మీ ఊహశక్తి మరియు డొమెయిన్ అనుభవంతో సాంకేతికతలను ప్రత్యేకీకరించండి. ఉదాహరణకు, మీ సిస్టమ్ ప్రాంప్ట్‌లలో డొమెయిన్-ప్రత్యేక వ్యక్తిత్వాలను నిర్వచించండి, లేదా వాడుకదారు ప్రాంప్ట్‌లలో డొమెయిన్-ప్రత్యేక టెంప్లేట్లను ఉపయోగించండి. డొమెయిన్-ప్రత్యేక సందర్భాలను ప్రతిబింబించే ద్వితీయ కంటెంట్ ఇవ్వండి, లేదా మోడల్‌ను పరిచయమైన వాడుక నమూనాల వైపు తోలగడానికి డొమెయిన్-ప్రత్యేక సూచనలు మరియు ఉదాహరణలు ఉపయోగించండి.
-
మోడల్ అర్థం ముఖ్యం. మోడల్స్ సహజంగా స్టోక్స్టిక్‌ అన్నది మనకు తెలుసు. కానీ మోడల్ అమలులో వారు ఉపయోగించే శిక్షణ డేటాసెట్ (మునుపటి జ్ఞానం), అందించే సామర్థ్యాలు (ఉదా: API లేదా SDK ద్వారా), మరియు వారు ఆప్టిమైజ్ అయిన కంటెంట్ రకం (ఉదా: కోడ్ vs. ఇమేజులు vs. టెక్స్ట్) విషయంలో తేడాలు ఉంటాయి. మీరు ఉపయోగిస్తున్న మోడల్ యొక్క బలం మరియు పరిమితులను అర్థం చేసుకుని, ఆ జ్ఞానంతో పనులను ప్రాధాన్యమివ్వండి లేదా మోడల్ సామర్థ్యాలకు అనుకూలమైన అనుకూలీకరించిన టెంప్లేట్లను సృష్టించండి.
-
పునరావృతం & ధృవీకరణ ముఖ్యం. మోడళ్లు వేగంగా అభివృద్ధి చెందుతున్నాయి, అలాగే ప్రాంప్ట్ ఇంజనీరింగ్ సాంకేతికతలు కూడా. మీరు ఒక డొమెయిన్ నిపుణుడిగా, మీ నిర్దిష్ట అప్లికేషన్ కోసం ఉన్న ఇతర సందర్భాలు లేదా ప్రమాణాలు ఉండవచ్చు, అవి సాధారణ సమాజానికి వర్తించకపోవచ్చు. ప్రాంప్ట్ ఇంజనీరింగ్ పనిముట్లు మరియు సాంకేతికతలు ఉపయోగించి ప్రాంప్ట్ నిర్మాణాన్ని "జంప్ స్టార్ట్" చేయండి, ఆపై మీ స్వంత ఊహశక్తి మరియు నిపుణ్యం ఉపయోగించి ఫలితాలను పునరావృతం చేసి ధృవీకరించండి. మీ గమనికలను రికార్డు చేసి, ఇతరులకు వేగవంతమైన పునరావృతాల కోసం గమనిక బేస్ (ఉదా: ప్రాంప్ట్ లైబ్రరీలు) సృష్టించండి.
ఇప్పుడు మనం ఒపెన్ ఏఐ మరియు అజ్యూర్ ఓపెన్ ఏఐ నిపుణులు సూచించే సాధారణ ఉత్తమ ఆచారాలను చూద్దాం.
| ఏం | ఎందుకు |
|---|---|
| తాజా మోడల్స్‌ను అంచనా వేయండి. | కొత్త మోడల్ తరం మంచి లక్షణాలు మరియు నాణ్యత పొందే అవకాశం ఉంది - కానీ అదనపు వ్యయాలను కూడా కలిగి ఉండవచ్చు. ప్రభావాన్ని అంచనా వేసి, తరలింపు నిర్ణయాలు తీసుకోండి. |
| సూచనలు & సందర్భాన్ని వేరు చేయండి | మీ మోడల్/ప్రొవైడర్ సూచనలు, ప్రాథమిక మరియు ద్వితీయ కంటెంట్‌ను స్పష్టంగా వేరు చేయడానికి డెలిమిటర్లను నిర్వచించాడో లేదో తనిఖీ చేయండి. ఇది మోడల్స్ టోకెన్లకు మరింత ఖచ్చితమైన బరువును కేటాయించడంలో సహాయపడుతుంది. |
| స్పష్టంగా మరియు నిర్దిష్టంగా ఉండండి | కావలసిన సందర్భం, ఫలితం, పొడవు, ఫార్మాట్, శైలి మొదలైనవలన గురించి మరిన్ని వివరాలు ఇవ్వండి. ఇది ప్రతిస్పందనల నాణ్యత మరియు సమరూపతను మెరుగుపరుస్తుంది. రెసిపీలను పునర్వినియోగ టెంప్లేట్లుగా సేకరించండి. |
| వివరించేలా ఉండండి, ఉదాహరణలు ఉపయోగించండి | మోడల్స్ "చూపి చెప్పు" విధానానికి మంచిగా స్పందించవచ్చు. జీరో-షాట్ విధానంతో ప్రారంభించి, దీనికి సూచన ఇస్తారు (కానీ ఉదాహరణలు కాదు), తరువాత ఫ్యూ-షాట్ ను ప్రమాద నివాసం చేసుకుని, కావలసిన అవుట్పుట్ యొక్క కొన్ని ఉదాహరణలను అందించండి. ఊహించుకోండి. |
| స్పందనలను ప్రారంభించడానికి సూచనలు ఇవ్వండి | మోడల్‌ను కావలసిన ఫలితం వైపు పిలిపించడానికి, దాని ప్రత్యుత్తరానికి స్టార్టింగ్ పాయింట్ గా ఉపయోగించగల కొన్ని మొదటి అక్షరాలు లేదా పదజాలాలు ఇవ్వండి. |
| మరింత ప్రయత్నించండి | కొన్నిసార్లు మీరు మోడల్ నొప్పి తెలియజేయడం అవసరం. ప్రాథమిక కంటెంట్ ముందు మరియు తరువాత సూచనలు ఇవ్వండి, సూచన మరియు సంకేతం ఏర్పాటు చేయండి, మొదలైనవి. పునరావృతం చేసి, ధృవీకరణ చేసుకుని ఏది పనిచేస్తుందో చూడండి. |
| క్రమం ముఖ్యం | మీరు మోడల్‌కు ఇచ్చే సమాచార క్రమం అవుట్‌పుట్‌‌ని ప్రభావితం చేస్తుంది, అధ్యయన ఉదాహరణలలో కూడా, తాజా ప్రాధాన్యత కారణంగా. ఏది మంచి పని చేస్తుందో చూడడానికి భిన్న ఎంపికలను ప్రయత్నించండి. |
| మోడల్‌కు “బయటి మార్గం” ఇవ్వండి | మోడల్ ఫలితాన్ని పూర్తి చేయలేకపోతే ఇవ్వ గల ఫాల్‌బ్యాక్ పూర్తీకరణ ప్రతిస్పందనను దీని ద్వారా ఇవ్వండి. ఇది మోడళ్లు తప్పు లేదా కల్పిత ప్రతిస్పందనలు ఇవ్వడాన్ని తగ్గిస్తుంది. |
ఏ ఉత్తమ ఆచారమో తీసుకోవాలంటే, మీరు ఉపయోగిస్తున్న మోడల్, పని మరియు డొమెయిన్ ఆధారంగా మీ అనుభవం మార్చుకోగలదు అని గుర్తుంచుకోండి. వీటిని ప్రారంభ పాయింట్‌గా ఉపయోగించి, మీకు అత్యున్నతమైనది ఏమిటి అనేది కనుగొనడానికి పునరావృతం చేయండి. కొత్త మోడల్స్ మరియు టూల్స్ లభించగానే మీ ప్రాంప్ట్ ఇంజనీరింగ్ ప్రక్రియను నిరంతరం పున:సమీక్షించండి, ప్రక్రియ పరిమాణపరిమాణత మరియు ప్రతిస్పందన నాణ్యతపై దృష్టి సారించండి.
అభినందనలు! మీరు పాఠం చివరి వరకు వచ్చారు! ఇప్పుడు ఆ కాన్సెప్ట్‌లు మరియు సాంకేతికతలను నిజమైన ఉదాహరణలతో పరీక్షించడానికి సమయం!
మా అసైన్‌మెంట్ కొరకు, మీరు ఇంటరాక్టివ్‌గా పూర్తి చేయగల జూపిటర్ నోట్‌బుక్ ఉపయోగిస్తాము. మీరు మీ స్వంత మార్క్డౌన్ మరియు కోడ్ సెల్స్ తో కూడించి ఆలోచనలను మరియు సాంకేతికతలను మీ స్వయంగా అన్వేషించుకోవచ్చు.
- (సిఫార్సు) GitHub కోడ్స్పేసెస్‌ను ప్రారంభించండి
- (వికల్పంగా) రిపోను మీ స్థానిక పరికరానికి క్లోన్ చేసి, Docker Desktop తో ఉపయోగించండి
- (వికల్పంగా) మీ ఇష్టమైన నోట్‌బుక్ రన్నింగ్ ప్రాతివారం‌తో నోట్‌బుక్ తెరవండి
- రిపో రూట్ లోని
.env.copyఫైల్ ను.envగా నకిలీ చేసి,AZURE_OPENAI_API_KEY,AZURE_OPENAI_ENDPOINTమరియుAZURE_OPENAI_DEPLOYMENTవిలువలను పూరించండి. దీనిని నేర్చుకునేందుకు లెర్నింగ్ సాండ్‌బాక్స్ సెక్షన్ కు తిరిగి రావండి.
- రన్నింగ్ కర్నెల్‌ను ఎంచుకోండి. 1 లేదా 2 ఎంపికలు ఉపయోగిస్తే, dev కంటెయినర్ అందించే డిఫాల్ట్ Python 3.10.x కర్నెల్ ఎంచుకోండి.
మీరు వ్యాయామాలను నిర్వహించడానికి సిద్ధంగా ఉన్నారు. ఇక్కడ సరైన మరియు తప్పు జవాబులు లేవు – కేవలం ట్రయల్-అండ్-ఎర్రర్ ద్వారా ఎంపికలు పరిశీలించి, ఏది మోడల్ మరియు అప్లికేషన్ డొమెయిన్‌కు పని చేస్తుందో అనుభూతి పొందడం.
కాబట్టి ఈ పాఠంలో కోడ్ పరిష్కార భాగాలు లేవు. బదులు, నోట్‌బుక్‌లో "నా పరిష్కారం:" అని టైటిల్ ఉన్న మార్క్డౌన్ సెల్స్ ఉంటాయి, అవి ఒక ఉదాహరణ అవుట్పుట్ ను సూచిస్తాయి.
ఈ క్రింది వాటిలో ఏది కొంత వరకు ఉత్తమ ఆచారాలను అనుసరించే మంచి ప్రాంప్ట్?
- నన్ను ఎరుపు కారు యొక్క చిత్రం చూపించు
- నన్ను ఒక ఎరుపు కారు యొక్క చిత్రం చూపించు, అది వోిల్వో తయారీ, XC90 మోడల్, పర్వతం పక్కన పార్క్ చేయబడింది, సూర్యుడు అస్తమయిస్తోంది
- నన్ను వోిల్వో తయారీ మరియు XC90 మోడల్ ఉన్న ఎరుపు కారు యొక్క చిత్రం చూపించు
జవాబు: 2, ఇది ఉత్తమ ప్రాంప్ట్ ఎందుకంటే ఇది "ఏంటి" అనే విషయంపై వివరాలు అందిస్తుంది మరియు ప్రత్యేకమైన తయారీ మరియు మోడల్ (సాధారణ కారుకు కాకుండా) గురించి స్పష్టం చేస్తుంది, అలాగే మొత్తం సందర్భాన్ని కూడా వివరించును. 3 రెండవ మంచి ఎంపిక ఎందుకంటే ఇది కూడా చాలా వివరణ కలిగి ఉంది.
"cue" సాంకేతికతను ప్రాంప్ట్ తో ప్రయత్నించండి: వాక్యం పూర్తి చేయండి "నన్ను వోిల్వో తయారీ మరియు " ఎరుపు కారు యొక్క చిత్రం చూపించు". ఇది ఏమని స్పందిస్తుంది, మీరు దీన్ని ఎలా మెరుగుపరుస్తారు?
వేరే ప్రాంప్ట్ ఇంజనీరింగ్ కాన్సెప్ట్‌ల గురించి నేర్చుకోవాలనుకుంటున్నారా? ఈ విషయంపై ఇతర గొప్ప వనరులను కనుగొనడానికి కొనసాగించే నేర్చుకునే పేజీ కి వెళ్ళండి.
తర్వాతి పాఠం 5 కు వెళ్ళండి, అక్కడ మనం అధునాతన ప్రాంప్టింగ్ సాంకేతికతలను చూద్దాం!
అస్వీకరణ: ఈ పత్రం AI అనువాద సేవ Co-op Translator ఉపయోగించి అనువదించబడింది. మేము ఖచ్చితత్వానికి ప్రయత్నిస్తున్నప్పటికీ, ఆటోమేటెడ్ అనువాదాలు తప్పులు లేదా అసమగ్రతలను కలిగి ఉండవచ్చు. దాని స్వదేశ భాషలో ఉన్న అసలు పత్రాన్ని అధికారం కలిగిన మూలంగా పరిగణించాలి. కీలకమైన సమాచారం కోసం, ప్రొఫెషనల్ మానవ అనువాదాన్ని సిఫారసు చేస్తాము. ఈ అనువాదం ఉపయోగం వల్ల కలిగే ఏవైనా అపార్థాలు లేదా తప్పుదారులు కోసం మేము బాధ్యత వహించము.