বড় ভাষার মডেল: তারা কি এবং কিভাবে তারা কাজ করে

এলএলএম বা "বৃহৎ ভাষার মডেল" শব্দগুলো আজকাল আরও বেশি করে প্রচারিত হচ্ছে। বেশিরভাগ মানুষই জানেন যে তারা কৃত্রিম বুদ্ধিমত্তার সাথে যুক্ত, কিন্তু এটাই যথেষ্ট।

আজকের অনেক শক্তিশালী কৃত্রিম বুদ্ধিমত্তা সিস্টেম - OpenAI এর ChatGPT থেকে Google এর BERT - বড় ভাষা মডেলের উপর ভিত্তি করে, যা ঘটনাক্রমে, তাদের শক্তির উৎস। কিন্তু কী এই এলএলএমগুলিকে তাদের আগে অন্যান্য কৃত্রিম বুদ্ধিমত্তা প্রযুক্তি থেকে আলাদা করে তোলে?

বৃহৎ ভাষার মডেল, তাদের নাম অনুসারে, অনেক বড়। এগুলি অত্যধিক বিপুল পরিমাণ ডেটা সহ প্রশিক্ষিত AI সিস্টেম, যা তাদের মানব ভাষার সাথে খুব দক্ষ করে তোলে। এই পোস্ট কিভাবে ব্যাখ্যা.

বড় ভাষার মডেল কি?

বৃহৎ ভাষার মডেল হল এক ধরনের কৃত্রিম বুদ্ধিমত্তা সিস্টেম যা পাঠ্য বা অন্যান্য বিষয়বস্তুকে চিনতে, প্রতিলিপি করা, ভবিষ্যদ্বাণী করা এবং ম্যানিপুলেট করার জন্য প্রশিক্ষিত। আধুনিক বৃহৎ ভাষার মডেলগুলিতে কোটি কোটি বা তার বেশি প্যারামিটার সহ AI নিউরাল নেটওয়ার্ক থাকে এবং প্রায়শই পেটাবাইট ডেটা ব্যবহার করে প্রশিক্ষণ দেওয়া হয়।

একটি বৃহৎ ভাষা মডেল একজন মানুষের মত অনেক কিছু বুঝতে পারে, যদিও সবকিছু নয়। যাইহোক, বেশিরভাগ মানুষের বিপরীতে, একটি বৃহৎ ভাষার মডেলের প্রায় সবকিছু সম্পর্কে আরও বিস্তৃত জ্ঞান থাকতে পারে, যা এটিকে একটি মত দেখায়। সর্বজ্ঞ কম্পিউটার।

ইন্টারনেটে প্রচুর পরিমাণে ডিজিটাল তথ্য, কম্পিউটিংয়ের কম খরচ এবং সিপিইউ এবং জিপিইউ সমান্তরাল প্রসেসরের কম্পিউটিং শক্তি বৃদ্ধির কারণে আজ বৃহৎ ভাষার মডেল তৈরি সম্ভব।

কিভাবে বড় ভাষার মডেল কাজ করে?

পৃষ্ঠের উপর, যেমন একটি বড় ভাষা মডেল চ্যাটজিপিটি ব্যবহার করা সহজ। আপনাকে যা করতে হবে তা হল কিছু পাঠ্য টাইপ করুন এবং এটি এর উত্তর দেবে – প্রশ্ন থেকে শুরু করে সব ধরনের অনুরোধ।

তবে, পৃষ্ঠের নীচে, আপাতদৃষ্টিতে অনায়াসে ফলাফল তৈরি করতে আরও অনেক কিছু চলছে যার জন্য বড় ভাষা মডেলগুলি পরিচিত। উদাহরণস্বরূপ, ChatGPT ফলাফলের ধরন তৈরি করতে সিস্টেমটিকে প্রথমে তৈরি, প্রশিক্ষিত এবং সূক্ষ্ম-টিউন করতে হবে।

সুতরাং, এখানে বিভিন্ন প্রক্রিয়ার উপর একটি দ্রুত নজর দেওয়া হয়েছে যা বড় ভাষা মডেলগুলিকে সম্ভব করে তোলে।

• নকশা: একটি বৃহৎ ভাষার মডেলের নকশা নির্ধারণ করবে এটি কীভাবে কাজ করে, কোন অ্যালগরিদম এবং প্রশিক্ষণ পদ্ধতিতে নিয়োগ করা হবে, সেইসাথে সামগ্রিক প্রশিক্ষণ এবং রক্ষণাবেক্ষণের জন্য সময় এবং খরচ।
• ট্রান্সফরমার: অধিকাংশ বড় ভাষা মডেল ট্রান্সফরমার ডিপ লার্নিং মডেল ব্যবহার করে নির্মিত হয়। ট্রান্সফরমারগুলি সহায়ক কারণ তারা একটি স্ব-মনোযোগ ব্যবস্থা বৈশিষ্ট্যযুক্ত যা তাদের আরও প্রসঙ্গ-সচেতন করে তোলে এবং তাই, পুরানো মডেলের তুলনায় কম প্রশিক্ষণের সময় প্রয়োজন।
• প্রাক-প্রশিক্ষণ এবং ডেটা: উইকিপিডিয়া থেকে বৃহৎ ডাটাবেস এবং অন্যান্য অনন্য তথ্য উত্স পর্যন্ত, একটি বৃহৎ ভাষার মডেল প্রশিক্ষণে ব্যবহৃত ডেটার পরিমাণ এবং গুণমান তার আউটপুট ক্ষমতা নির্ধারণ করবে। প্রাক-প্রশিক্ষণ একটি বৃহৎ ভাষা মডেল দেয় যা লিখিত পাঠ্য, ভাষা, প্রসঙ্গ এবং আরও অনেক কিছু বোঝার জন্য প্রয়োজনীয় প্রাথমিক তথ্য দেয়। বেশিরভাগ এলএলএম প্রাক-প্রশিক্ষণ আধা-তত্ত্বাবধানে বা স্ব-তত্ত্বাবধানে শেখার মোডে লেবেলবিহীন ডেটা ব্যবহার করে করা হয়।
• ফাইন-টিউনিং: একটি LLM-এর প্রাক-প্রশিক্ষণ পর্যায়ের পর, পরবর্তী ধাপ হল সাধারণত ডোমেন-নির্দিষ্ট ফাইন-টিউনিং যাতে নির্দিষ্ট উদ্দেশ্যে চ্যাটিং, ব্যবসায়িক গবেষণা, কোড সমাপ্তি ইত্যাদির জন্য এটিকে আরও দরকারী টুলে পরিণত করা। এটি সেই পর্যায় যেখানে গিটহাব কপিলট এবং ওপেনএআই-এর চ্যাটজিপিটি-এর মতো সরঞ্জামগুলি তৈরি করা হয়।

বড় ভাষার মডেল এবং সফ্টওয়্যার সরঞ্জাম

একটি বৃহৎ ভাষা মডেল প্লাগইন এবং API ইন্টিগ্রেশনের মাধ্যমে অন্যান্য সফ্টওয়্যার সিস্টেম বা প্ল্যাটফর্মের সাথেও সংযোগ স্থাপন করতে পারে। এটি LLM-কে বাস্তব-বিশ্বের কার্যকলাপগুলি প্রভাবিত করতে দেয়, যেমন সময় পরীক্ষা করা, পাটিগণিত সম্পাদন করা, ওয়েব ব্রাউজ করা এবং Zapier-এর মতো প্ল্যাটফর্মের মাধ্যমে ওয়েব অ্যাপগুলির সাথে ইন্টারঅ্যাক্ট করা।

এটি বর্তমানে একটি উন্নয়নশীল এলাকা এবং সম্ভাবনা ব্যাপক। উদাহরণস্বরূপ, আপনাকে যা করতে হবে তা হল নির্দেশনা দেওয়া, এবং LLM ওয়েবে আপনার জন্য জিনিসগুলি সন্ধান করতে পারে, সংরক্ষণ করতে পারে, ব্রেকিং নিউজ বিষয়গুলিতে নজর রাখতে পারে, আপনার কেনাকাটা করতে পারে এবং আরও অনেক কিছু করতে পারে।

এলএলএম শর্তাবলী এবং লেবেল

একটি বৃহৎ ভাষার মডেল তৈরির জন্য কোনো নির্দিষ্ট পদ্ধতি নেই, তাই বিকাশকারী গোষ্ঠীগুলি বিভিন্ন মডেলের সাথে শেষ হয় যা একই লক্ষ্যে পৌঁছানোর জন্য কিছুটা ভিন্ন পদ্ধতি ব্যবহার করে। এই পরিস্থিতিটি বিভিন্ন লেবেলের জন্ম দিয়েছে, কারণ তারা প্রতিটি মডেল কীভাবে কাজ করে তা বর্ণনা করার চেষ্টা করে। নিম্নলিখিত এই শর্তাবলী এবং তাদের অর্থ কি.

• জিরো-শট মডেল: একটি প্রাক-প্রশিক্ষিত বৃহৎ ভাষার মডেল তার প্রাথমিক প্রশিক্ষণ সেটের বাইরে শ্রেণীবিভাগ করতে এবং সাধারণ ব্যবহারের জন্য মোটামুটি সঠিক ফলাফল দিতে সক্ষম।
• ফাইন-টিউনড মডেল: একটি ডোমেন-নির্দিষ্ট মডেল।
• মাল্টি-মডেল মডেল: টেক্সট ব্যতীত অন্য মিডিয়া প্রকারগুলি বুঝতে এবং উত্পাদন করতে সক্ষম, যেমন ছবি।
• GPT: জেনারেটিভ প্রাক-প্রশিক্ষিত ট্রান্সফরমার।
• T5: টেক্সট-টু-টেক্সট ট্রান্সফরমার।
• বার্ট: দ্বিমুখী এবং অটো-রিগ্রেসিভ ট্রান্সফরমার।
• বার্ট: ট্রান্সফরমার থেকে দ্বিমুখী এনকোডার উপস্থাপনা।
• রবারটা: দৃঢ়ভাবে অপ্টিমাইজ করা BERT পদ্ধতি।
• এবার CTRL: শর্তাধীন ট্রান্সফরমার ভাষা মডেল।
• লামা: বড় ভাষার মডেল মেটা এআই।
• টুরিং এনএলজি: প্রাকৃতিক ভাষা প্রজন্ম।
• এমডিএ: সংলাপ অ্যাপ্লিকেশনের জন্য ভাষার মডেল।
• ইলেকট্রা: দক্ষতার সাথে একটি এনকোডার শেখা যা সঠিকভাবে টোকেন প্রতিস্থাপনকে শ্রেণীবদ্ধ করে।

বড় ভাষার মডেলের অ্যাপ্লিকেশন

বৃহৎ ভাষার মডেলগুলি ব্যবসা, উন্নয়ন এবং গবেষণার জন্য অনেক ক্ষেত্রে কার্যকরভাবে প্রয়োগ করা যেতে পারে। আসল সুবিধাগুলি সূক্ষ্ম-টিউনিংয়ের পরে আসে, যা সম্পূর্ণরূপে মডেলটি কীসের জন্য ডিজাইন করা হয়েছে তার উপর নির্ভর করে। এখানে তাদের আবেদনের অনেক ক্ষেত্র রয়েছে।

1. ভাষা অনুবাদ: বড় ভাষার মডেল একাধিক ভাষার সাথে ভাল পারফর্ম করে। তারা সহজ বাক্যকে কম্পিউটার কোডে অনুবাদ করতে পারে বা এক সাথে একাধিক মানব ভাষা অনুবাদও করতে পারে।
2. কন্টেন্ট জেনারেশন: টেক্সট জেনারেশন থেকে শুরু করে ইমেজ পর্যন্ত এবং এর বাইরেও, পণ্যের বিবরণ, মার্কেটিং বিষয়বস্তু, কোম্পানির ইমেল এবং এমনকি আইনি নথিগুলি সহ সমস্ত ধরণের সামগ্রী তৈরি করতে LLMগুলিকে লাভজনকভাবে নিয়োগ করা যেতে পারে৷
3. ভার্চুয়াল সহকারী: মানুষের ভাষা সম্পর্কে তাদের ভালো বোঝাপড়া এলএলএমদের আদর্শ ভার্চুয়াল সহকারী করে তোলে। তারা মানব ভাষাকে একটি আদেশ হিসাবে গ্রহণ করতে পারে এবং এটিকে জিনিসপত্র লিখতে, অনলাইনে কাজ সম্পাদন করতে, গবেষণা চালাতে এবং আরও অনেক কিছু করতে ব্যবহার করতে পারে।
4. চ্যাট এবং কথোপকথন: তারা দুর্দান্ত চ্যাট পার্টনারও, যেমনটি জনপ্রিয় ChatGPT মডেল প্রদর্শন করে৷
5. প্রশ্নের উত্তর: বড় ভাষা মডেল প্রশিক্ষণের সময় প্রচুর তথ্য শোষণ করে, এবং এটি তাদের বেশিরভাগ সাধারণ-জ্ঞানের প্রশ্নের উত্তর দিতে সক্ষম করে।
6. বিষয়বস্তুর সারাংশ: তারা বড় টেক্সট বিষয়বস্তুকে ছোট আকারে সংক্ষিপ্ত করতে পারে। ট্রান্সফরমার মডেলগুলি এতে দুর্দান্ত।
7. আর্থিক বিশ্লেষণ: ব্লুমবার্গজিপিটি এটির একটি দুর্দান্ত উদাহরণ।
8. কোড জেনারেশন: কম্পিউটার প্রোগ্রামাররা প্রোগ্রামিং-এর জন্য সূক্ষ্ম সুরযুক্ত বড় ভাষা মডেল দ্বারা চালিত কপিলটগুলির সাথে আরও দক্ষ হয়ে উঠছে।
9. প্রতিলিপি পরিষেবা: এলএলএম ফ্লাইতে টেক্সট-টু-স্পিচ এবং স্পিচ-টু-টেক্সট ট্রান্সক্রিপশন পরিচালনা করা সহজ করে তোলে।
10. বিষয়বস্তু পুনর্লিখন: হয় একই ভাষায় বা ভিন্ন স্টাইলে।
11. অনুভূতির বিশ্লেষণ: LLMs কার্যকরভাবে মানব যোগাযোগে এমবেডেড অনুভূতি অনুমান করতে ব্যবহার করা যেতে পারে। বিপণন দলগুলি তাদের গ্রাহকদের অধ্যয়ন করে এটি লাভজনকভাবে প্রয়োগ করা যেতে পারে।
12. তথ্য আহরণ: মানুষের ভাষা সম্পর্কে তাদের ভালো বোধগম্যতা এলএলএম-গুলিকে আধুনিক সার্চ ইঞ্জিনের একটি গুরুত্বপূর্ণ অংশ করে তোলে।
13. প্রশিক্ষণ: ইন্টারেক্টিভ শেখার সরঞ্জাম থেকে স্মার্ট এবং ব্যক্তিগতকৃত টিউটরিং এবং গ্রেডিং সিস্টেম, শিক্ষায় LLM-এর সম্ভাব্য অ্যাপ্লিকেশনগুলি বিশাল।

বড় ভাষার মডেলের সুবিধা

বৃহৎ ভাষার মডেলের বিকাশের দ্বারা উত্থাপিত অনেক চ্যালেঞ্জ সত্ত্বেও, এর সুবিধাগুলি অনেক এবং কষ্টের মূল্য। এখানে প্রধান বেশী.

• ভাষার সমৃদ্ধ বোঝাপড়া: এলএলএম আপনার ভাষা বুঝতে এবং প্রতিক্রিয়া জানাতে পারে যেন আপনি অন্য মানুষের সাথে কথা বলছেন। এটি মানুষকে এবং কম্পিউটার জগতের মধ্যে একটি ইন্টারফেস হিসাবে বিশেষভাবে মূল্যবান করে তোলে।
• সৃজনশীলতা: জেনারেটিভ প্রাক-প্রশিক্ষিত ট্রান্সফরমারগুলি চ্যাটজিপিটি এবং ছবিগুলির মতো চিত্তাকর্ষক টেক্সট আউটপুট তৈরিতে তাদের ক্ষমতা প্রমাণ করেছে স্থিতিশীল বিস্তার.
• বহুমুখতা: একটি জিরো-শট মডেল হল একটি বহুমুখী টুল যা বিভিন্ন পরিবেশ এবং অ্যাপ্লিকেশনের প্রয়োজনে অনেক কাজ এবং প্রকল্পের জন্য নিযুক্ত করা যেতে পারে।
• ফাইন-টিউনিং ক্ষমতা: যে কোনো প্রতিষ্ঠান একটি প্রাক-প্রশিক্ষিত মডেল নিতে পারে এবং তাদের কর্মপ্রবাহে কাজ এবং প্রক্রিয়াগুলি গ্রহণ করার জন্য এটিকে সূক্ষ্ম সুর করতে পারে। এবং এর মধ্যে রয়েছে সংগঠনের সংস্কৃতি এবং ব্র্যান্ডিং, স্লোগান এবং পদ্ধতির মতো নীতি-নৈতিকতায় ভিজানো।

চ্যালেঞ্জ

বৃহৎ ভাষার মডেলগুলি অনেকগুলি চ্যালেঞ্জ উপস্থাপন করে, যা তাদের বেশিরভাগ ভাল-তহবিলযুক্ত কর্পোরেশনগুলির ডোমেইন করে তুলেছে। এলএলএম-এর ক্ষেত্রে ডেভেলপাররা যে প্রধান সমস্যাগুলির মুখোমুখি হন তা এখানে রয়েছে।

• উন্নয়ন এবং রক্ষণাবেক্ষণ খরচ: বড় ভাষা মডেলগুলি বিকাশ এবং বজায় রাখা উভয়ই ব্যয়বহুল।
• স্কেল এবং জটিলতা: নামই সব বলে। বড় ভাষার মডেলগুলি বিশাল এবং জটিল। একটি তৈরি এবং পরিচালনা করার জন্য আপনার একটি ভাল দল দরকার।
• পক্ষপাত ও ভুল: তারা যে তত্ত্বাবধানহীন শিক্ষার মধ্য দিয়ে যায় তার নিছক আকারের পরিপ্রেক্ষিতে, বৃহৎ ভাষার মডেলগুলিতে প্রচুর পক্ষপাত এবং ভুলতা অন্তর্ভুক্ত থাকতে পারে যেভাবে তারা সেগুলি বেছে নিয়েছে।

জনপ্রিয় বড় ভাষার মডেলের তালিকা

S / n	নাম	বছর	বিকাশকারী	কর্পাস সাইজ	পরামিতি	লাইসেন্স
1.	GPT-4	2023	OpenAI	অজানা	~ 1 ট্রিলিয়ন	পাবলিক API
2.	পাংগু-Σ	2023	হুয়াওয়ে	329 বিলিয়ন টোকেন	এক্সএনইউএমএক্স ট্রিলিয়ন	মালিকানা
3.	এমটি-এনএলজি	2021	মাইক্রোসফট/এনভিডিয়া	338 বিলিয়ন টোকেন	530 বিলিয়ন	সীমাবদ্ধ
4.	ওপেন সহকারী	2023	LAION	1.5 ট্রিলিয়ন টোকেন	17 বিলিয়ন	আপাচি 2.0
5.	ব্লুমবার্গজিপিটি	2023	ব্লুমবার্গ এল.পি.	700+ বিলিয়ন টোকেন	50 বিলিয়ন	মালিকানা
6.	এলএলএএমএ	2023	মেটা	এক্সএনইউএমএক্স ট্রিলিয়ন	65 বিলিয়ন	সীমাবদ্ধ
7.	গ্যালাকটিকা	2022	মেটা	106 বিলিয়ন টোকেন	120 বিলিয়ন	সিসি-বাই-এনসি
8.	সেরিব্রাস-জিপিটি	2023	সেরিব্রাবস	-	13 বিলিয়ন	আপাচি 2.0
9.	পুষ্প	2022	HugginFace & Co	350 বিলিয়ন টোকেন	175 বিলিয়ন	দায়ী এআই
10.	জিপিটি-নিও	2021	EleutherAI	825 গিগাবাইট	2.7 বিলিয়ন	এমআইটি
11.	বাজপাখি	2023	টিআইআই	1 ট্রিলিয়ন টোকেন	40 বিলিয়ন	আপাচি 2.0
12.	GLaM	2021	গুগল	1.6 ট্রিলিয়ন টোকেন	এক্সএনইউএমএক্স ট্রিলিয়ন	মালিকানা
13.	GPT-3	2020	OpenAI	300 বিলিয়ন টোকেন	175 বিলিয়ন	পাবলিক API
14.	বার্ট	2018	গুগল	3.3 বিলিয়ন	340 মিলিয়ন	এ্যাপাচি
15.	আলেক্সাটিএম	2022	মর্দানী স্ত্রীলোক	এক্সএনইউএমএক্স ট্রিলিয়ন	20 বিলিয়ন	পাবলিক API
16.	ইয়াএলএম	2022	ইয়ানডেক্স	1.7 টিবি	100 বিলিয়ন	আপাচি 2.0

ওপেন সোর্স এলএলএম

অনেক জনপ্রিয় বৃহৎ ভাষার মডেলই ওপেন-সোর্স প্রকল্প, যদিও তাদের জটিলতা এবং বিশাল খরচের কারণে অনেক ডেভেলপারের পক্ষে সেগুলি গ্রহণ করা অসম্ভব হয়ে পড়ে। তবে, আপনি এখনও প্রশিক্ষিত মডেলগুলি গবেষণার উদ্দেশ্যে অথবা তাদের ডেভেলপারের অবকাঠামোতে উৎপাদনের জন্য চালাতে পারেন। কিছু বিনামূল্যে, অন্যগুলি সাশ্রয়ী মূল্যের। এখানে একটি সুন্দর তালিকা।

শীর্ষ এলএলএম সম্পদের তালিকা

বৃহৎ ভাষার মডেল এবং এআই শিল্প সম্পর্কে সবকিছু শেখার এবং তা বজায় রাখার জন্য ওয়েবের শীর্ষস্থানীয় সংস্থানগুলির একটি তালিকা নীচে দেওয়া হল।

• OpenAI: ChatGPT, GPT-4, এবং Dall-E এর বিকাশকারীরা
• আলিঙ্গন মুখ: ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং (NLP) থেকে বৃহৎ ভাষার মডেল পর্যন্ত এআই-সম্পর্কিত জিনিসের জন্য জনপ্রিয় ওয়েবসাইট
• গুগল এআই ব্লগ: তথ্য, গবেষণা আপডেট, অধ্যয়ন, এবং Google এর গবেষণা দলের নিবন্ধগুলি অফার করে৷
• GitHub: প্রচুর ওপেন সোর্স প্রকল্প এবং তাদের কোড সহ জনপ্রিয় কোড হোস্টিং প্ল্যাটফর্ম৷
• এনভিডিয়া: সমান্তরাল কম্পিউটিং হার্ডওয়্যার নির্মাতারা
• ACL Anthology: ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং এবং কম্পিউটেশনাল ভাষাতত্ত্বের উপর 80k+ পেপার সহ বড় প্ল্যাটফর্ম।
• নিউরিপস: নিউরাল তথ্য প্রক্রিয়াকরণ সিস্টেম সম্মেলন.
• মধ্যম: বিভিন্ন বিশেষজ্ঞ এবং গবেষকদের প্রচুর AI এবং মেশিন লার্নিং ব্লগ সহ ব্লগিং প্ল্যাটফর্ম।
• ArXiv: এআই এবং বৃহৎ ভাষার মডেল সহ সকল প্রকার গবেষণাপত্র সহ প্রধান বৈজ্ঞানিক ভান্ডার।

সচরাচর জিজ্ঞাস্য

বৃহৎ ভাষার মডেল সম্পর্কে প্রায়শই জিজ্ঞাসিত কিছু প্রশ্ন নিচে দেওয়া হল।

উপসংহার

বৃহৎ ভাষার মডেলগুলির এই অন্বেষণ এবং সেগুলি কী, আপনি সম্মত হবেন যে তারা বিশ্বকে পরিবর্তন করছে এবং এখানে থাকার জন্য রয়েছে৷

যদিও আপনার প্রতিষ্ঠানের প্রযুক্তিগত সক্ষমতা নির্ধারণ করে যে আপনি এখানে অংশগ্রহণ করতে পারবেন কি না, আপনার ব্যবসা সর্বদা এর অনেকগুলি সুবিধা লাভ করতে পারে জেনারেটিভ এআই বৃহৎ ভাষা মডেল দ্বারা প্রদান করা হয়.