প্লেটো ডেটা ইন্টেলিজেন্স।
উল্লম্ব অনুসন্ধান এবং Ai.

কথোপকথনের অভিজ্ঞতায় জেনারেটিভ এআই অন্বেষণ: অ্যামাজন লেক্স, ল্যাংচেইন এবং সেজমেকার জাম্পস্টার্টের সাথে একটি ভূমিকা | আমাজন ওয়েব সার্ভিসেস

তারিখ:

গ্রাহকরা আজকের দ্রুতগতির বিশ্বে ব্যবসার কাছ থেকে দ্রুত এবং দক্ষ পরিষেবা আশা করে। কিন্তু চমৎকার গ্রাহক সেবা প্রদান উল্লেখযোগ্যভাবে চ্যালেঞ্জিং হতে পারে যখন অনুসন্ধানের পরিমাণ তাদের মোকাবেলায় নিযুক্ত মানব সম্পদের চেয়ে বেশি। যাইহোক, বড় ভাষা মডেল (এলএলএম) দ্বারা চালিত জেনারেটিভ কৃত্রিম বুদ্ধিমত্তার (জেনারেটিভ এআই) অগ্রগতির সাথে ব্যক্তিগতকৃত এবং দক্ষ গ্রাহক পরিষেবা প্রদান করার সময় ব্যবসাগুলি এই চ্যালেঞ্জটি মোকাবেলা করতে পারে।

জেনারেটিভ এআই চ্যাটবটগুলি মানুষের বুদ্ধি অনুকরণ করার ক্ষমতার জন্য কুখ্যাতি অর্জন করেছে। যাইহোক, টাস্ক-ভিত্তিক বটগুলির বিপরীতে, এই বটগুলি পাঠ্য বিশ্লেষণ এবং বিষয়বস্তু তৈরির জন্য এলএলএম ব্যবহার করে। এলএলএম এর উপর ভিত্তি করে ট্রান্সফরমার আর্কিটেকচার, একটি গভীর শিক্ষার নিউরাল নেটওয়ার্ক জুন 2017 এ প্রবর্তিত হয়েছে যা লেবেলবিহীন পাঠ্যের একটি বিশাল কর্পাসের উপর প্রশিক্ষিত হতে পারে। এই পদ্ধতিটি আরও মানুষের মতো কথোপকথনের অভিজ্ঞতা তৈরি করে এবং বেশ কয়েকটি বিষয়কে মিটমাট করে।

এই লেখার মতো, সমস্ত আকারের সংস্থাগুলি এই প্রযুক্তিটি ব্যবহার করতে চায় তবে কোথায় শুরু করতে হবে তা নির্ধারণের জন্য সহায়তা প্রয়োজন৷ আপনি যদি জেনারেটিভ AI এবং কথোপকথন AI-তে LLM-এর ব্যবহার শুরু করতে চান, তাহলে এই পোস্টটি আপনার জন্য। আমরা দ্রুত একটি স্থাপন করার জন্য একটি নমুনা প্রকল্প অন্তর্ভুক্ত করেছি অ্যামাজন লেক্স বট যা একটি প্রাক-প্রশিক্ষিত ওপেন সোর্স এলএলএম ব্যবহার করে। কোডটিতে একটি কাস্টম মেমরি ম্যানেজার বাস্তবায়নের সূচনা পয়েন্টও রয়েছে। এই প্রক্রিয়াটি একটি এলএলএমকে কথোপকথনের প্রসঙ্গ এবং গতি বজায় রাখার জন্য পূর্ববর্তী মিথস্ক্রিয়াগুলি স্মরণ করার অনুমতি দেয়। অবশেষে, সুসংগত ফলাফল পেতে ফাইন-টিউনিং প্রম্পট এবং এলএলএম এলোমেলোতা এবং ডিটারমিনিজম প্যারামিটারগুলির সাথে পরীক্ষা করার গুরুত্ব তুলে ধরা অপরিহার্য।

সমাধান ওভারভিউ

সমাধানটি একটি জনপ্রিয় ওপেন সোর্স এলএলএম-এর সাথে একটি অ্যামাজন লেক্স বটকে সংহত করে৷ আমাজন সেজমেকার জাম্পস্টার্ট, একটি মাধ্যমে অ্যাক্সেসযোগ্য আমাজন সেজমেকার শেষপ্রান্ত. আমরা ল্যাংচেইনও ব্যবহার করি, একটি জনপ্রিয় ফ্রেমওয়ার্ক যা LLM-চালিত অ্যাপ্লিকেশনগুলিকে সরল করে। অবশেষে, আমরা আমাদের চ্যাটবটের জন্য একটি ব্যবহারকারী ইন্টারফেস প্রদান করতে একটি QnABot ব্যবহার করি।

প্রথমত, আমরা পূর্ববর্তী চিত্রে প্রতিটি উপাদান বর্ণনা করে শুরু করি:

  • জাম্পস্টার্ট বিভিন্ন ধরনের সমস্যার জন্য প্রাক-প্রশিক্ষিত ওপেন সোর্স মডেল অফার করে। এটি আপনাকে দ্রুত মেশিন লার্নিং (ML) শুরু করতে সক্ষম করে। এটা অন্তর্ভুক্ত FLAN-T5-XL মডেল, একটি LLM একটি গভীর শিক্ষার পাত্রে স্থাপন করা হয়েছে৷ এটি টেক্সট জেনারেশন সহ বিভিন্ন ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং (NLP) টাস্কে ভালো করে।
  • A সেজমেকার রিয়েল-টাইম ইনফারেন্স এন্ডপয়েন্ট ইভেন্টের পূর্বাভাস দেওয়ার জন্য ML মডেলগুলির দ্রুত, মাপযোগ্য স্থাপনা সক্ষম করে। Lambda ফাংশনগুলির সাথে একীভূত করার ক্ষমতা সহ, শেষ পয়েন্টটি কাস্টম অ্যাপ্লিকেশন তৈরি করার অনুমতি দেয়।
  • সার্জারির এডাব্লুএস ল্যাম্বদা ফাংশন Amazon Lex বট বা থেকে অনুরোধ ব্যবহার করে QnABot SageMaker এন্ডপয়েন্ট ব্যবহার করার জন্য পেলোড প্রস্তুত করতে ল্যাংচেইন. LangChain হল একটি কাঠামো যা ডেভেলপারদের LLM দ্বারা চালিত অ্যাপ্লিকেশন তৈরি করতে দেয়।
  • Amazon Lex V2 বটটিতে বিল্ট-ইন রয়েছে AMAZON.FallbackIntent অভিপ্রায় প্রকার। এটি ট্রিগার হয় যখন একজন ব্যবহারকারীর ইনপুট বট-এর কোনো উদ্দেশ্যের সাথে মেলে না।
  • QnABot হল একটি ওপেন সোর্স AWS সমাধান যা Amazon Lex বটগুলিতে একটি ইউজার ইন্টারফেস প্রদান করে। আমরা একটি দিয়ে এটি কনফিগার করেছি ল্যাম্বডা হুক একটি জন্য ফাংশন CustomNoMatches আইটেম, এবং এটি ল্যাম্বডা ফাংশনকে ট্রিগার করে যখন QnABot উত্তর খুঁজে পায় না। আমরা অনুমান করছি আপনি ইতিমধ্যেই এটি স্থাপন করেছেন এবং নিম্নলিখিত বিভাগে এটি কনফিগার করার পদক্ষেপগুলি অন্তর্ভুক্ত করেছেন৷

নিম্নলিখিত ক্রম চিত্রে সমাধানটি উচ্চ স্তরে বর্ণনা করা হয়েছে।

সমাধান দ্বারা সঞ্চালিত প্রধান কাজ

এই বিভাগে, আমরা আমাদের সমাধানে সম্পাদিত প্রধান কাজগুলি দেখি। এই সমাধানের সম্পূর্ণ প্রোজেক্ট সোর্স কোডটি এতে আপনার রেফারেন্সের জন্য উপলব্ধ GitHub সংগ্রহস্থল.

চ্যাটবট ফলব্যাকগুলি পরিচালনা করা

Lambda ফাংশন "জানি না" এর মাধ্যমে উত্তরগুলি পরিচালনা করে AMAZON.FallbackIntent Amazon Lex V2 এবং তে CustomNoMatches QnABot-এ আইটেম। ট্রিগার করা হলে, এই ফাংশনটি একটি সেশনের অনুরোধ এবং ফলব্যাক অভিপ্রায়ের দিকে নজর দেয়। একটি মিল থাকলে, এটি একটি Lex V2 প্রেরণকারীর কাছে অনুরোধটি হস্তান্তর করে; অন্যথায়, QnABot প্রেরণকারী অনুরোধটি ব্যবহার করে। নিম্নলিখিত কোড দেখুন:

def dispatch_lexv2(request): """Summary Args: request (dict): Lambda event containing a user's input chat message and context (historical conversation) Uses the LexV2 sessions API to manage past inputs https://docs.aws.amazon.com/lexv2/latest/dg/using-sessions.html Returns: dict: Description """ lexv2_dispatcher = LexV2SMLangchainDispatcher(request) return lexv2_dispatcher.dispatch_intent() def dispatch_QnABot(request): """Summary Args: request (dict): Lambda event containing a user's input chat message and context (historical conversation) Returns: dict: Dict formatted as documented to be a lambda hook for a "don't know" answer for the QnABot on AWS Solution see https://docs.aws.amazon.com/solutions/latest/QnABot-on-aws/specifying-lambda-hook-functions.html """ request['res']['message'] = "Hi! This is your Custom Python Hook speaking!" qna_intent_dispatcher = QnASMLangchainDispatcher(request) return qna_intent_dispatcher.dispatch_intent() def lambda_handler(event, context): print(event) if 'sessionState' in event: if 'intent' in event['sessionState']: if 'name' in event['sessionState']['intent']: if event['sessionState']['intent']['name'] == 'FallbackIntent': return dispatch_lexv2(event) else: return dispatch_QnABot(event)

আমাদের LLM মেমরি প্রদান

একটি মাল্টি-টার্ন কথোপকথনে LLM মেমরি সংরক্ষণ করতে, Lambda ফাংশন অন্তর্ভুক্ত a ল্যাংচেইন কাস্টম মেমরি ক্লাস মেকানিজম যা ব্যবহার করে Amazon Lex V2 Sessions API চলমান মাল্টি-টার্ন কথোপকথন বার্তাগুলির সাথে সেশনের বৈশিষ্ট্যগুলির ট্র্যাক রাখতে এবং পূর্ববর্তী মিথস্ক্রিয়াগুলির মাধ্যমে কথোপকথনমূলক মডেলের প্রসঙ্গ সরবরাহ করতে। নিম্নলিখিত কোড দেখুন:

class LexConversationalMemory(BaseMemory, BaseModel): """Langchain Custom Memory class that uses Lex Conversation history Attributes: history (dict): Dict storing conversation history that acts as the Langchain memory lex_conv_context (str): LexV2 sessions API that serves as input for convo history Memory is loaded from here memory_key (str): key to for chat history Langchain memory variable - "history" """ history = {} memory_key = "chat_history" #pass into prompt with key lex_conv_context = "" def clear(self): """Clear chat history """ self.history = {} @property def memory_variables(self) -> List[str]: """Load memory variables Returns: List[str]: List of keys containing Langchain memory """ return [self.memory_key] def load_memory_variables(self, inputs: Dict[str, Any]) -> Dict[str, str]: """Load memory from lex into current Langchain session memory Args: inputs (Dict[str, Any]): User input for current Langchain session Returns: Dict[str, str]: Langchain memory object """ input_text = inputs[list(inputs.keys())[0]] ccontext = json.loads(self.lex_conv_context) memory = { self.memory_key: ccontext[self.memory_key] + input_text + "nAI: ", } return memory

একটি LangChain ConversationChain-এ কাস্টম মেমরি ক্লাস প্রবর্তনের জন্য আমরা যে নমুনা কোডটি তৈরি করেছি তা হল:

# Create a conversation chain using the prompt, # llm hosted in Sagemaker, and custom memory class
self.chain = ConversationChain( llm=sm_flant5_llm, prompt=prompt, memory=LexConversationalMemory(lex_conv_context=lex_conv_history), verbose=True
)

প্রম্পট সংজ্ঞা

একটি LLM-এর জন্য একটি প্রম্পট হল একটি প্রশ্ন বা বিবৃতি যা জেনারেট করা প্রতিক্রিয়ার টোন সেট করে। প্রম্পটগুলি প্রেক্ষাপটের একটি ফর্ম হিসাবে কাজ করে যা প্রাসঙ্গিক প্রতিক্রিয়া তৈরির দিকে মডেলটিকে নির্দেশ করতে সহায়তা করে। নিম্নলিখিত কোড দেখুন:

# define prompt
prompt_template = """The following is a friendly conversation between a human and an AI. The AI is talkative and provides lots of specific details from its context. If the AI does not know the answer to a question, it truthfully says it does not know. You are provided with information
about entities the Human mentions, if relevant. Chat History:
{chat_history} Conversation:
Human: {input}
AI:"""

LLM মেমরি সমর্থনের জন্য একটি Amazon Lex V2 সেশন ব্যবহার করা

Amazon Lex V2 একটি সেশন শুরু করে যখন একজন ব্যবহারকারী একটি বটের সাথে যোগাযোগ করে। ম্যানুয়ালি থামানো বা সময় শেষ না হওয়া পর্যন্ত একটি সেশন সময়ের সাথে চলতে থাকে। একটি সেশন সেশন অ্যাট্রিবিউট নামে পরিচিত মেটাডেটা এবং অ্যাপ্লিকেশন-নির্দিষ্ট ডেটা সঞ্চয় করে। অ্যামাজন লেক্স ক্লায়েন্ট অ্যাপ্লিকেশন আপডেট করে যখন Lambda ফাংশন সেশন বৈশিষ্ট্য যোগ করে বা পরিবর্তন করে। QnABot-এ Amazon Lex V2-এর উপরে সেশন অ্যাট্রিবিউট সেট এবং পেতে একটি ইন্টারফেস অন্তর্ভুক্ত রয়েছে।

আমাদের কোডে, আমরা কথোপকথনের ইতিহাসের ট্র্যাক রাখতে এবং LLM-কে স্বল্প-মেয়াদী এবং দীর্ঘমেয়াদী মিথস্ক্রিয়াগুলি স্মরণ করতে সক্ষম করতে LangChain-এ একটি কাস্টম মেমরি ক্লাস তৈরি করতে এই প্রক্রিয়াটি ব্যবহার করেছি। নিম্নলিখিত কোড দেখুন:

class LexV2SMLangchainDispatcher(): def __init__(self, intent_request): # See lex bot input format to lambda https://docs.aws.amazon.com/lex/latest/dg/lambda-input-response-format.html self.intent_request = intent_request self.localeId = self.intent_request['bot']['localeId'] self.input_transcript = self.intent_request['inputTranscript'] # user input self.session_attributes = utils.get_session_attributes( self.intent_request) self.fulfillment_state = "Fulfilled" self.text = "" # response from endpoint self.message = {'contentType': 'PlainText','content': self.text} class QnABotSMLangchainDispatcher(): def __init__(self, intent_request): # QnABot Session attributes self.intent_request = intent_request self.input_transcript = self.intent_request['req']['question'] self.intent_name = self.intent_request['req']['intentname'] self.session_attributes = self.intent_request['req']['session']

পূর্বশর্ত

স্থাপনার সাথে শুরু করার জন্য, আপনাকে নিম্নলিখিত পূর্বশর্তগুলি পূরণ করতে হবে:

সমাধান স্থাপন করুন

সমাধান স্থাপন করতে, নিম্নলিখিত পদক্ষেপগুলি নিয়ে এগিয়ে যান:

  1. বেছে নিন স্ট্যাক চালু করুন সমাধান চালু করতে us-east-1 অঞ্চল:
    CloudFormation স্ট্যাক চালু করুন
  2. জন্য স্ট্যাকের নাম, একটি অনন্য স্ট্যাকের নাম লিখুন।
  3. জন্য HFModel, আমরা ব্যবহার করি Hugging Face Flan-T5-XL মডেল জাম্পস্টার্টে উপলব্ধ।
  4. জন্য HFT টাস্কপ্রবেশ করান text2text.
  5. রাখা S3BucketName যেমনটি

এগুলো খুঁজে বের করতে ব্যবহার করা হয় আমাজন সিম্পল স্টোরেজ সার্ভিস (Amazon S3) সমাধানটি স্থাপন করার জন্য প্রয়োজনীয় সম্পদ এবং এই পোস্টের আপডেট প্রকাশিত হওয়ার সাথে সাথে পরিবর্তন হতে পারে।

সমাধান স্ট্যাক পরামিতি

  1. সক্ষমতা স্বীকার করুন।
  2. বেছে নিন স্ট্যাক তৈরি করুন.

চারটি সফলভাবে তৈরি করা স্ট্যাক থাকা উচিত।

ক্লাউডফর্মেশন স্ট্যাকের দ্বারা তৈরি স্ট্যাকের তালিকা

Amazon Lex V2 বট কনফিগার করুন

Amazon Lex V2 বটের সাথে কিছু করার নেই। আমাদের ক্লাউডফর্মেশন টেমপ্লেট ইতিমধ্যে ভারী উত্তোলন করেছে।

QnABot কনফিগার করুন

আমরা ধরে নিচ্ছি আপনার পরিবেশে ইতিমধ্যেই একটি বিদ্যমান QnABot মোতায়েন করা আছে। কিন্তু আপনি সাহায্যের প্রয়োজন হলে, টি অনুসরণ করুনএই নির্দেশাবলী এটি স্থাপন করতে।

  1. AWS ক্লাউডফরমেশন কনসোলে, আপনি যে প্রধান স্ট্যাকটি স্থাপন করেছেন সেখানে নেভিগেট করুন।
  2. উপরে আউটপুট ট্যাব, এর একটি নোট করুন LambdaHookFunctionArn কারণ আপনাকে এটি পরে QnABot-এ ঢোকাতে হবে।

QnABot কনফিগারেশনের জন্য Lambdahook ফাংশন

  1. লগ ইন করুন QnABot ডিজাইনার ইউজার ইন্টারফেস (UI) একজন প্রশাসক হিসাবে।
  2. মধ্যে প্রশ্ন UI, একটি নতুন প্রশ্ন যোগ করুন।

প্রশ্ন UI এ একটি প্রশ্ন যোগ করুন

  1. নিম্নলিখিত মান লিখুন:
    • ID - CustomNoMatches
    • প্রশ্ন - no_hits
    • উত্তর - "জানি না" এর জন্য কোনো ডিফল্ট উত্তর
  2. বেছে নিন অগ্রসর এবং যান ল্যাম্বডা হুক অধ্যায়.
  3. আপনি পূর্বে উল্লেখ করা Lambda ফাংশনের Amazon Resource Name (ARN) লিখুন।

অ্যামাজন লেক্স বটের সাথে লিঙ্ক করতে ARN

  1. বিভাগের নীচে স্ক্রোল করুন এবং নির্বাচন করুন সৃষ্টি.

আপনি একটি সফল বার্তা সহ একটি উইন্ডো পাবেন।

qnabot-এ lambda হুক যোগ করার পর সফল বার্তা

আপনার প্রশ্ন এখন দৃশ্যমান প্রশ্ন পাতা.

নতুন প্রশ্ন তৈরি করা হয়েছে

সমাধান পরীক্ষা করুন

এর সমাধান পরীক্ষা করে এগিয়ে চলুন. প্রথমত, এটা উল্লেখ করার মতো যে আমরা জাম্পস্টার্ট দ্বারা প্রদত্ত FLAN-T5-XL মডেলটি কোনো ফাইন-টিউনিং ছাড়াই স্থাপন করেছি। এটির কিছু অনির্দেশ্যতা থাকতে পারে, যার ফলে প্রতিক্রিয়াগুলিতে সামান্য তারতম্য হতে পারে।

একটি Amazon Lex V2 বট দিয়ে পরীক্ষা করুন

এই বিভাগটি আপনাকে Lambda ফাংশনের সাথে Amazon Lex V2 বট ইন্টিগ্রেশন পরীক্ষা করতে সাহায্য করে যা SageMaker এন্ডপয়েন্টে মোতায়েন করা LLM কল করে।

  1. অ্যামাজন লেক্স কনসোলে, এনটাইটেলড বটটিতে নেভিগেট করুন Sagemaker-Jumpstart-Flan-LLM-Fallback-Bot.
    এই বটটিকে ল্যাম্বডা ফাংশনকে কল করার জন্য কনফিগার করা হয়েছে যেটি সেজমেকার এন্ডপয়েন্টকে LLM হোস্ট করে একটি ফলব্যাক অভিপ্রায় হিসাবে যখন অন্য কোন উদ্দেশ্য মেলে না।
  2. বেছে নিন ইন্টেন্টস নেভিগেশন ফলকে।

আমাজন লেক্স নেভিগেশন ফলক

উপরের ডানদিকে, একটি বার্তা পড়ে, "ইংরেজি (ইউএস) পরিবর্তনগুলি তৈরি করেনি।"

  1. বেছে নিন নির্মাণ করা.
  2. এটি সম্পূর্ণ হওয়ার জন্য অপেক্ষা করুন।

অবশেষে, আপনি একটি সাফল্যের বার্তা পাবেন, যেমনটি নিম্নলিখিত স্ক্রিনশটে দেখানো হয়েছে।

বট কনফিগারেশনের পর সফলতার বার্তা

  1. বেছে নিন পরীক্ষা.

একটি চ্যাট উইন্ডো প্রদর্শিত হবে যেখানে আপনি মডেলের সাথে যোগাযোগ করতে পারেন।

বট উইন্ডোর সাথে মিথস্ক্রিয়া

আমরা অন্তর্নির্মিত অন্বেষণ সুপারিশ অ্যামাজন লেক্স বটগুলির মধ্যে একীকরণ এবং আমাজন কানেক্ট. এবং এছাড়াও, মেসেজিং প্ল্যাটফর্মগুলি (ফেসবুক, স্ল্যাক, টুইলিও এসএমএস) বা তৃতীয় পক্ষের যোগাযোগ কেন্দ্রগুলি যেমন Amazon Chime SDK এবং Genesys Cloud ব্যবহার করে৷

একটি QnABot উদাহরণ দিয়ে পরীক্ষা করুন

এই বিভাগটি ল্যাম্বডা ফাংশনের সাথে AWS ইন্টিগ্রেশনে QnABot পরীক্ষা করে যা সেজমেকার এন্ডপয়েন্টে স্থাপন করা এলএলএমকে কল করে।

  1. উপরের বাম কোণায় টুল মেনু খুলুন।

টুল মেনু খুলছে

  1. বেছে নিন QnABot ক্লায়েন্ট.

QnABot ক্লায়েন্ট নির্বাচন

  1. বেছে নিন অ্যাডমিন হিসাবে সাইন ইন করুন.

QnABot ক্লায়েন্ট সাইন ইন উইন্ডো

  1. ইউজার ইন্টারফেসে যেকোনো প্রশ্ন লিখুন।
  2. প্রতিক্রিয়া মূল্যায়ন.

QnAbot ক্লায়েন্ট UI

পরিষ্কার কর

ভবিষ্যতের চার্জ এড়াতে, এই পদক্ষেপগুলি অনুসরণ করে আমাদের সমাধান দ্বারা তৈরি সংস্থানগুলি মুছুন:

  1. AWS CloudFormation কনসোলে, নামের স্ট্যাকটি নির্বাচন করুন SagemakerFlanLLMStack (অথবা আপনি স্ট্যাকে সেট করা কাস্টম নাম)।
  2. বেছে নিন মুছে ফেলা.
  3. আপনি যদি আপনার পরীক্ষার জন্য QnABot উদাহরণ স্থাপন করেন, QnABot স্ট্যাক নির্বাচন করুন।
  4. বেছে নিন মুছে ফেলা.

উপসংহার

এই পোস্টে, আমরা একটি টাস্ক-ওরিয়েন্টেড বট-এ ওপেন-ডোমেন ক্ষমতার সংযোজন অন্বেষণ করেছি যা ব্যবহারকারীর অনুরোধগুলিকে একটি ওপেন-সোর্স বৃহৎ ভাষা মডেলে রুট করে।

আমরা আপনাকে উৎসাহিত করতে:

  • কথোপকথনের ইতিহাস একটি বাহ্যিক অধ্যবসায় পদ্ধতিতে সংরক্ষণ করুন. উদাহরণস্বরূপ, আপনি কথোপকথনের ইতিহাস সংরক্ষণ করতে পারেন আমাজন ডায়নামোডিবি অথবা একটি S3 বালতি এবং এটি Lambda ফাংশন হুকে পুনরুদ্ধার করুন। এইভাবে, আপনাকে Amazon Lex দ্বারা অফার করা অভ্যন্তরীণ অ-স্থির সেশন বৈশিষ্ট্য ব্যবস্থাপনার উপর নির্ভর করতে হবে না।
  • সংক্ষিপ্তকরণের সাথে পরীক্ষা করুন – মাল্টিটার্ন কথোপকথনে, এটি একটি সারাংশ তৈরি করা সহায়ক যা আপনি আপনার প্রম্পটগুলিতে প্রসঙ্গ যোগ করতে এবং কথোপকথনের ইতিহাসের ব্যবহার সীমিত করতে ব্যবহার করতে পারেন। এটি বট সেশনের আকার ছাঁটাই করতে এবং ল্যাম্বডা ফাংশন মেমরি খরচ কম রাখতে সাহায্য করে।
  • প্রম্পট বৈচিত্রের সঙ্গে পরীক্ষা - আপনার পরীক্ষার উদ্দেশ্যগুলির সাথে মেলে এমন মূল প্রম্পট বিবরণটি সংশোধন করুন।
  • সর্বোত্তম ফলাফলের জন্য ভাষা মডেল মানিয়ে নিন - আপনি এলোমেলোতার মতো উন্নত এলএলএম প্যারামিটারগুলিকে ফাইন-টিউনিং করে এটি করতে পারেন (temperature) এবং নির্ধারণবাদ (top_p) আপনার অ্যাপ্লিকেশন অনুযায়ী। আমরা নমুনা মান সহ একটি প্রাক-প্রশিক্ষিত মডেল ব্যবহার করে একটি নমুনা ইন্টিগ্রেশন প্রদর্শন করেছি, কিন্তু আপনার ব্যবহারের ক্ষেত্রে মানগুলিকে সামঞ্জস্য করতে মজা পান৷

আমাদের পরবর্তী পোস্টে, আমরা আপনাকে কীভাবে আপনার নিজস্ব ডেটা দিয়ে প্রাক-প্রশিক্ষিত LLM-চালিত চ্যাটবটগুলিকে সূক্ষ্ম-টিউন করতে হয় তা আবিষ্কার করতে সাহায্য করার পরিকল্পনা করছি।

আপনি কি AWS-এ LLM চ্যাটবট নিয়ে পরীক্ষা করছেন? মন্তব্য আরো আমাদের বলুন!

সম্পদ এবং রেফারেন্স


লেখক সম্পর্কে

মার্সেলো সিলভা একজন অভিজ্ঞ প্রযুক্তি পেশাদার যিনি অত্যাধুনিক পণ্য ডিজাইন, বিকাশ এবং বাস্তবায়নে দক্ষতা অর্জন করেন। সিসকোতে তার কর্মজীবন শুরু করে, মার্সেলো বিভিন্ন উচ্চ-প্রোফাইল প্রকল্পে কাজ করেছেন যার মধ্যে রয়েছে প্রথম ক্যারিয়ার রাউটিং সিস্টেমের স্থাপনা এবং ASR9000 এর সফল রোলআউট। তার দক্ষতা ক্লাউড টেকনোলজি, অ্যানালিটিক্স, এবং প্রোডাক্ট ম্যানেজমেন্টে প্রসারিত, GenAI-তে যোগদানের আগে Cisco, Cape Networks, এবং AWS-এর মতো বিভিন্ন কোম্পানির সিনিয়র ম্যানেজার হিসেবে কাজ করেছেন। বর্তমানে একজন কথোপকথনমূলক AI/GenAI প্রোডাক্ট ম্যানেজার হিসেবে কাজ করছেন, মার্সেলো ইন্ডাস্ট্রি জুড়ে উদ্ভাবনী সমাধান প্রদানে দক্ষতা অর্জন করে চলেছেন।

ভিক্টর রেড একজন অত্যন্ত অভিজ্ঞ প্রযুক্তিবিদ যিনি AI, ML, এবং সফ্টওয়্যার ডেভেলপমেন্টের সর্বশেষ বিষয়ে আগ্রহী। তার দক্ষতার সাথে, তিনি AWS অংশীদারদের কাছে Amazon Textract এবং AWS কন্টাক্ট সেন্টার ইন্টেলিজেন্স (CCI) এর সফল প্রবর্তনের নেতৃত্ব দেওয়ার সময় Amazon Alexa কে মার্কিন যুক্তরাষ্ট্র এবং মেক্সিকো বাজারে আনার ক্ষেত্রে একটি গুরুত্বপূর্ণ ভূমিকা পালন করেছেন। কথোপকথনমূলক এআই কম্পিটেন্সি পার্টনারস প্রোগ্রামের বর্তমান প্রিন্সিপাল টেক লিডার হিসেবে, ভিক্টর উদ্ভাবন চালাতে এবং শিল্পের ক্রমবর্ধমান চাহিদা মেটাতে অত্যাধুনিক সমাধান আনতে প্রতিশ্রুতিবদ্ধ।

জাস্টিন লেটো অ্যামাজন ওয়েব সার্ভিসেস-এর একজন সিনিয়র সলিউশন আর্কিটেক্ট যিনি মেশিন লার্নিং-এ বিশেষায়িত হন। তার আবেগ গ্রাহকদের মেশিন লার্নিং এবং AI এর শক্তিকে কাজে লাগাতে সাহায্য করছে ব্যবসায়িক বৃদ্ধির জন্য। জাস্টিন AWS সামিট সহ গ্লোবাল এআই কনফারেন্সে উপস্থাপনা করেছেন এবং বিশ্ববিদ্যালয়গুলিতে বক্তৃতা দিয়েছেন। তিনি NYC মেশিন লার্নিং এবং এআই মিটআপে নেতৃত্ব দেন। তার অবসর সময়ে, সে অফশোর সেলিং এবং জ্যাজ বাজানো উপভোগ করে। তিনি তার স্ত্রী এবং শিশু কন্যার সাথে নিউইয়র্ক সিটিতে থাকেন।

রায়ান গোমস AWS প্রফেশনাল সার্ভিসেস ইন্টেলিজেন্স প্র্যাকটিস সহ একজন ডেটা এবং এমএল ইঞ্জিনিয়ার। তিনি ক্লাউডে বিশ্লেষণ এবং মেশিন লার্নিং সমাধানের মাধ্যমে গ্রাহকদের আরও ভাল ফলাফল অর্জনে সহায়তা করার বিষয়ে উত্সাহী। কাজের বাইরে, তিনি ফিটনেস উপভোগ করেন, রান্না করেন এবং বন্ধু এবং পরিবারের সাথে মানসম্পন্ন সময় কাটান।

মহেশ বিররদার DevOps এবং অবজারভেবিলিটিতে বিশেষীকরণ সহ অ্যামাজন ওয়েব সার্ভিসের একজন সিনিয়র সলিউশন আর্কিটেক্ট। তিনি গ্রাহকদের সাশ্রয়ী মূল্যের আর্কিটেকচার বাস্তবায়নে সহায়তা করতে উপভোগ করেন। কাজের বাইরে, তিনি সিনেমা দেখতে এবং হাইকিং উপভোগ করেন।

কাঞ্জনা চন্দ্রেন অ্যামাজন ওয়েব সার্ভিসেস (AWS) এর একজন সলিউশন আর্কিটেক্ট যিনি মেশিন লার্নিং সম্পর্কে উত্সাহী। তিনি গ্রাহকদের তাদের AWS কাজের চাপ ডিজাইন, বাস্তবায়ন এবং পরিচালনা করতে সহায়তা করেন। কাজের বাইরে তিনি ভ্রমণ, পড়া এবং পরিবার এবং বন্ধুদের সাথে সময় কাটাতে পছন্দ করেন।

স্পট_আইএমজি

সর্বশেষ বুদ্ধিমত্তা

স্পট_আইএমজি

আমাদের সাথে খোস গল্প কর

হাই সেখানে! আপনাকে কিভাবে সাহায্য করতে পারি?