• Generative AI তে Hallucination মানে হলো মডেল যখন ভুল বা কল্পিত তথ্য আত্মবিশ্বাসের সঙ্গে উপস্থাপন করে।

• Generative AI:
- Generative AI এমন এক ধরনের কৃত্রিম বুদ্ধিমত্তা, যা নতুন কনটেন্ট (যেমন লেখা, ছবি, অডিও, ভিডিও) তৈরি করতে পারে।
- এটি মানুষের মতো উত্তর তৈরি করে, কারণ এটি ডেটা থেকে ভাষার ধরন ও প্যাটার্ন শেখে। উদাহরণ: ChatGPT, DALL·E, Gemini, Claude ইত্যাদি।
- এটি large language model (LLM) বা deep neural network ব্যবহার করে।
- এই মডেলগুলো বিশাল এবং বহুমুখী ডেটাসেটের উপর প্রশিক্ষিত।
- LLM মূলগতভাবে একটি পরবর্তী-শব্দ পূর্বাভাসকারী (Next-Word Predictor) হিসাবে কাজ করে।

• AI Hallucination:
- যখন এই মডেলটি বাস্তব তথ্যের পরিবর্তে ভুল, কল্পিত বা বানানো তথ্য দেয়, তখন সেটি AI Hallucination বলে।
- এটি এমনভাবে উত্তর দেয় যেন সেটি সত্য, যদিও তথ্যটি ভিত্তিহীন বা সম্পূর্ণ ভুল।

• Hallucination ঘটার কারণ:
- যখন মডেল বাস্তব ডাটাবেস বা ইন্টারনেট থেকে তথ্য যাচাই করতে পারে না,
- নিশ্চিত উত্তর না থাকলে মডেলটি শূন্য আউটপুট দেওয়ার চেয়ে একটি সম্ভাব্য অনুমান তৈরি করে, যা প্রায়শই ভুল হয়।
- ডেটাসেটে ভুল, অসম্পূর্ণতা বা অসঙ্গতি থাকলে মডেল সেগুলোকে সঠিক প্যাটার্ন হিসেবে শিখে নেয়।
- আউটপুট দীর্ঘ হওয়ার সাথে সাথে একটি ছোট পরিসংখ্যানগত ভুল ক্রমশ বাড়তে থাকে (Error Cascade), ফলে Hallucination-এর সম্ভাবনা বাড়ে।

উৎস:
১। গুগল ক্লাউড ওয়েবসাইট (লিঙ্ক),
২। আইবিএম ওয়েবসাইট (লিঙ্ক)।