আমাদের প্রায় সবারই অনলাইনে কাজের পরিমাণ বাড়ছে। শপিং অ্যাপ থেকে শুরু করে এআই টুলে লেখাপড়া বা কোডিংয়ের কাজ সবটাতেই দক্ষ AI। কার্যত AI এখন আমাদের কাছে প্রতিস্থাপনের চেয়ে বেশি বলা যেতে পারে accelerator হিসেবে কাজ করছে বেশি। যে কোনও জটিল সমস্যায় যেন মুশকিল আসান এই AI। কিন্তু সাম্প্রতিক অতীতে বার বার এই তথ্য উঠে এসেছে যে AI আমাদের জীবনের নানা ক্ষেত্রে গুরুত্বপূর্ণ ভূমিকা নিলেও এর সঙ্গে বাড়ছে ঝুঁকি ও চ্যালেঞ্জও । বর্তমানে সারা বিশ্বে 'AI Hallucination' এই বিষয়টি খুবই ট্রেন্ডে রয়েছে। কিন্তু কী এই AI Hallucination?
আমরা বর্তমানে অনেকেই AI- উপর এতটাই নির্ভরশীল হয়ে পড়েছি, যে ব্রেনের নিজস্ব কাজ করার ক্ষমতাকেই সন্দেহ প্রকাশ করি। শুধু তাই নয়, অনেকেই কোনও বিষয় নিয়েও নিজেদের থেকে বেশি বিশ্বাস করে AI-কে। কিন্তু আপনি কি জানেন AI-এর দেওয়া সব ডেটা সর্বদা নির্ভুল হয় না। আর তখনই আমরা শিকার হই AI Hallucination-এর।
'AI Hallucination' হলো এমন পরিস্থিতি যা একটি Large Language Model (LLM)-বেসড AI টুল, যেমন AI chatbot। অনেক সময়ই AI এমন ডেটা বা উত্তর তৈরি করে যা বাস্তবেই নেই। অর্থাৎ যখন আপনি AI-কে কোনও প্রশ্ন করেন এবং তখন এটি কখনও কখনও সম্পূর্ণ ভুল বা মনগড়া এবং বিভ্রান্তিকর উত্তর দেয়। আর আপনি সেটা পুরোপুরি ভরসা করে বিশ্বাস করেন। মন ও মস্তিষ্কের এই অবস্থাকেই বলে AI Hallucination।
বর্তমানে কেন এটি এত বড় সমস্যা?
আসলে AI hallucination-এর ফলে ভুল ডেটা ছড়িয়ে পড়ে দ্রুত। এর ফলে ইউজ়াররা যখন এটিকে পূর্ণ ভরসায় ব্যবহার করেন, তখন তাঁদের মধ্যেও ছড়িয়ে পড়ে সেই ভুল। এতে বিভ্রান্ত হতে পারেন ইউজ়াররা। পাশাপাশি, ব্রেনের থেকে বেশি মানুষ ভরসা করে যন্ত্রকে। এই প্রযুক্তির উপর অতিরিক্ত নির্ভরতা যথেষ্ট ঝুঁকিপূর্ণ।
AI কেন হ্যালুসিনেশন করে?
এর প্রধান কারণ হলো AI-এর সমস্ত ডেটাই আপনার সার্চ ইঞ্জিনের ডেটা বেসকে নির্ভর করেই। সেই অ্যালগোরিদম যা তথ্য দেবে সেটাই AI আপনাকে রেজ়াল্ট হিসেবে দেখাবে। অনেক সময়ই এমনও হয় AI-কে সঠিক ভাবে প্রশ্ন করা হয় না, কম্যান্ডের ক্ষেত্রে ভুল হলে AI তার ভুল ব্যাখা করে।
AI হ্যালুসিনেশন কী ভাবে কমানো যায়?
প্রথমেই সঠিক কম্যান্ডের ব্যবহার করুন। ভুল কোনও ডেটা AI চ্যাটবটে স্টোর করে রাখবেন না। শুধুমাত্র সঠিক ও যাচাই করা AI প্ল্যাটফর্মগুলি যেমন চ্যাটজিপিটি, জেমিনি, অ্যানথ্রোপিক এগুলিই ব্যবহার করুন। AI-কে নির্দিষ্ট কাঠামো বা Template বার বার দিলে সেটাতেই অভ্যস্ত হয়ে যায় AI। ফলে, আপনি যে ধরনের উত্তর চাইছেন বা সঠিক উত্তর দেওয়ার সম্ভাবনাও বাড়ে।