কমান্ডো প্রস্তুত। আকাশে সামরিক বিমানও প্রস্তুত। আর কিছুক্ষণ পরই হয়তো যুক্তরাষ্ট্রের সঙ্গে চীনের যুদ্ধ বেঁধে যেতে পারতো। ঠিক সেই মুহূর্তে জানা গেল, যে তথ্যের ভিত্তিতে যুদ্ধের আয়োজন– তার সবই ভুল।
দুই শক্তিশালী দেশের মধ্যে যুদ্ধ–যুদ্ধ পরিস্থিতি তৈরির পেছনে কাজ করেছে কৃত্রিম বুদ্ধিমত্তা বা এআই প্রযুক্তি। আরও নির্দিষ্ট করে বললে, একটি এআই চ্যাটবটের ‘হ্যালুসিনেশন’ বা বিভ্রম। এআই চ্যাটবটটি এমন একটি তথ্য তৈরি করেছিল, যা দেখতে গোছানো, বিশ্বাসযোগ্য; কিন্তু বাস্তবে এটা ছিল ভুলে ভরা এক গল্প। তাহলে আসল ঘটনাটি কী? চলুন সেই আলোচনাতেই যাওয়া যাক।
প্রথমে কী হয়েছিল?
সংবাদমাধ্যম সিএনএন-এর এক প্রতিবেদনে বলা হয়েছে, মধ্যপ্রাচ্যে চলমান ইরান-সংক্রান্ত সংঘাতের মাঝেই একটি চীনা জাহাজ নিয়ে মার্কিন গোয়েন্দা মহলে সন্দেহ তৈরি হয়। জাহাজটির পণ্যতালিকা বা কার্গো-সংক্রান্ত কিছু তথ্য একটি গোয়েন্দা বিশ্লেষকের হাতে আসে। এরপর সেই তথ্য এআই চ্যাটবটে দেওয়া হয়। আর সমস্যার গোড়াপত্তন হয় এখানেই।
এআই চ্যাটবটটি বিভিন্ন উৎসের তথ্য মিলিয়ে জাহাজের কার্গো সম্পর্কে এমন একটি সিদ্ধান্ত দেয়, যার ভিত্তিতে ধারণা তৈরি হয়, জাহাজটিতে পারমাণবিক অস্ত্র-সংক্রান্ত সরঞ্জাম থাকতে পারে। এরপর এআইয়ের তৈরি তথ্যের ওপর ভিত্তি করে আরও একটি গোছানো গোয়েন্দা রিপোর্ট তৈরি করা হয়। রিপোর্টটি ছড়িয়ে পড়ে সংশ্লিষ্ট সামরিক মহলে। এরপর বিষয়টি চলে যায় অত্যন্ত বিপজ্জনক পর্যায়ে।
মার্কিন স্পেশাল ফোর্সেসের সদস্যরা জাহাজটিতে অভিযান চালানোর প্রস্তুতি নিতে শুরু করেন। আকাশে সামরিক বিমানও প্রস্তুত রাখা হয়েছিল। অর্থাৎ, একটি এআই-উৎপাদিত ভুল তথ্য বাস্তব সামরিক পদক্ষেপের দ্বারপ্রান্তে এনে দাঁড় করিয়েছিল মার্কিন বাহিনীকে।
ভুলটা কোথায়?
প্রশ্ন হচ্ছে, ভুলটা আসলে কোথায় ছিল। এখানে চলে আসে এআই প্রযুক্তির সবচেয়ে আলোচিত একটি সমস্যা- এআই ‘হ্যালুসিনেশন’ বা বিভ্রম। সহজ ভাষায়, এআই এমন তথ্য আত্মবিশ্বাসের সঙ্গে বলতে পারে, যার বাস্তবে কোনো ভিত্তি নেই। অর্থাৎ, ভুল একটি তথ্যকে আত্মবিশ্বাসের সঙ্গে বিশ্বাসযোগ্যভাবে যখন এআই তুলে ধরে তখন সেটাকে এআই হ্যালুসিনেশন বলা হয়।
এআই মানুষের মতো করে সত্য-মিথ্যা ‘বোঝে’ না। সে মূলত বিপুল পরিমাণ তথ্যের প্যাটার্ন বিশ্লেষণ করে সম্ভাব্য উত্তর তৈরি করে। ফলে কোনো তথ্য অসম্পূর্ণ হলে, বা পরস্পরবিরোধী হলে, কিংবা প্রেক্ষাপট ভুলভাবে উপস্থাপন করা হলে, এআই এমন একটি উত্তর তৈরি করতে পারে, যা শুনতে পেশাদার মনে হলেও, ভেতরে থাকতে পারে ভয়ংকর ভুল। এই ঘটনাতেও ঠিক এমনটাই ঘটেছিল বলে সিএনএনের সূত্রগুলো জানিয়েছে।
আর সমস্যা আরও বড় হয়েছিল কারণ, এআইয়ের তৈরি ভুল তথ্যকে আবার মানুষের তৈরি একটি আনুষ্ঠানিক গোয়েন্দা রিপোর্টের মতো দেখতে বানিয়ে ফেলা হয়েছিল। একবার সেই রিপোর্ট ছড়িয়ে পড়ার পর সেটিকে সত্য ধরে নিয়ে পরবর্তী সিদ্ধান্ত নেওয়ার ঝুঁকি তৈরি হয়।
ঘটনা এত ভয়ংকর কেন?
ঘটনাটি এতটা ভয়ঙ্কর হয়ে ওঠে কারণ এখানে ভুলটা কোনো সাধারণ ভুল ছিল না। ধরুন, এআই আপনাকে ভুল রেস্তোরাঁর ঠিকানা দিল। ফলে আপনার কিছুটা সময় নষ্ট হলো। কিন্তু সামরিক ক্ষেত্রে যদি এআই বলে, ‘ওই জাহাজে বিপজ্জনক অস্ত্র রয়েছে,’ এবং মানুষ সেটি যথাযথ যাচাই-বাছাই না করে সামরিক অভিযান শুরু করে দেয়, তখন কী হবে একবার ভাবুন তো!
তখন এই ভুলের মূল্য হতে পারে মানুষের জীবন। আর যদি সেই জাহাজটি চীনের হয়? তাহলে বিষয়টি শুধু একটি সামরিক অভিযান নয়। এটি হয়ে উঠতে পারে দুই পরাশক্তির সরাসরি সংঘাতের সূত্রপাত। এই কারণেই গোয়েন্দা তথ্য যাচাইয়ের ক্ষেত্রে মানবিক সিদ্ধান্ত, একাধিক উৎস এবং স্বাধীনভাবে যাচাই করা অত্যন্ত গুরুত্বপূর্ণ।
যুক্তরাষ্ট্র এআই নিয়ে কী ভাবছে?
এত বড় ভুল তথ্যের পর যে যুক্তরাষ্ট্র এআইয়ের ব্যবহার কমিয়ে দিচ্ছে, এমন কিন্তু নয়। মার্কিন প্রতিরক্ষা ব্যবস্থায় এআইয়ের ব্যবহার দ্রুত বাড়ছে। প্রতিবেদন অনুযায়ী, মার্কিন যুদ্ধ দপ্তর গুগলের জেমিনাই, ইলন মাস্কের এক্সএআই, এবং স্যাম অল্টম্যানের ওপেনএআই ও চ্যাটজিপিটির বিভিন্ন সংস্করণের ব্যবহারের দিকে এগিয়ে যাচ্ছে।
মার্কিন প্রতিরক্ষামন্ত্রীও এআই প্রযুক্তিকে সামরিক সক্ষমতার কেন্দ্রে নিয়ে আসার কথা বলেছেন। তাদের লক্ষ্য, আরও দ্রুত তথ্য বিশ্লেষণ, আরও দ্রুত সিদ্ধান্ত গ্রহণ, এবং ভবিষ্যতের যুদ্ধক্ষেত্রে এআইকে বড় ভূমিকা দেওয়া। কিন্তু এখানেই তৈরি হচ্ছে সবচেয়ে বড় প্রশ্ন। দ্রুত সিদ্ধান্ত নেওয়ার অর্থই কি সবসময় ভালো সিদ্ধান্ত নেওয়া?
এআই কি বাঁচাবে, নাকি আরও ভুল করাবে?
গোয়েন্দা মহলের উদ্বেগটা এখানেই। একজন কর্মকর্তা সিএনএনকে যে কথাটি বলেছেন, তার সারমর্ম হলো- এআই আপনাকে হয়তো খুব দ্রুত একটি সিদ্ধান্তে পৌঁছে দিতে পারে। কিন্তু সেই সিদ্ধান্ত যদি ভুল হয়? তাহলে এআই আপনাকে শুধু ভুল সিদ্ধান্তই দেয়নি, আরও দ্রুত ভুল সিদ্ধান্তে পৌঁছে দিয়েছে।
আর সামরিক ক্ষেত্রে দ্রুত সিদ্ধান্ত নেওয়ার এই প্রবণতা আরও ভয়ংকর হয়ে উঠতে পারে। কারণ যুদ্ধক্ষেত্রে কয়েক ঘণ্টা নয়, কখনও কয়েক মিনিট, এমনকি কয়েক সেকেন্ডও অত্যন্ত তাৎপর্যপূর্ণ। আর যদি সেই কয়েক মিনিট বা সেকেন্ডে কোনো কমান্ডার একটি ভুল এআই রিপোর্টকে সত্য বলে ধরে নেন, তাহলে সেই ভুল শুধরে নেওয়ার সুযোগ আর নাও থাকতে পারে।
মানুষ কি নিয়ন্ত্রণে আছে?
অনেক সামরিক ব্যবস্থায় বলা হচ্ছে, শেষ সিদ্ধান্ত নিবে মানুষই। তবে শুনতে নিরাপদ মনে হলেও প্রশ্ন হলো, মানুষ যদি এআইয়ের রিপোর্টকে যাচাই না করে অন্ধভাবে বিশ্বাস করে, তাহলে সেই ‘মানুষ’ আসলে কতটা নিয়ন্ত্রণে আছে?
আরও বড় প্রশ্ন হচ্ছে, যদি বিভিন্ন সামরিক ইউনিট বিভিন্ন ধরনের এআই ব্যবহার করে, যাদের নিরাপত্তা নীতি, সীমাবদ্ধতা এবং তথ্য ব্যবহারের পদ্ধতি এক নয়, তখন কী হবে? তাহলে ভুল তথ্য এক দপ্তর থেকে আরেক দপ্তরে ছড়িয়ে পড়ার ঝুঁকি কতটা? এই প্রশ্নগুলোর পরিষ্কার উত্তর এখনও আমাদের সামনে নেই।
শেষ কথা
এই ঘটনার সবচেয়ে গুরুত্বপূর্ণ শিক্ষা হয়তো এটাই যে, এআই যত শক্তিশালী হচ্ছে, তার ভুলের মূল্যও তত বড় হচ্ছে। মনে রাখতে হবে, একটি সাধারণ চ্যাটবটে ভুল উত্তর পাওয়া, আর একটি সামরিক গোয়েন্দা ব্যবস্থায় ভুল তথ্য পাওয়া কিন্তু এক জিনিস নয়।
প্রথম ক্ষেত্রে আপনি হয়তো একটি ভুল উত্তর পাবেন। দ্বিতীয় ক্ষেত্রে একটি ভুল উত্তর তৈরি করতে পারে একটি ভুল গোয়েন্দা রিপোর্ট, এবং সেই ভুল রিপোর্ট তৈরি করতে পারে ভুল সামরিক সিদ্ধান্ত। আর একটি ভুল সামরিক সিদ্ধান্ত? সেটা হয়তো এমন একটি সংঘাতের দরজা খুলে দিতে পারে, যেটা হয়তো কেউই শুরু করতে চায়নি। একথা বলাই যায়, ভবিষ্যতের যুদ্ধ শুধু মানুষ বনাম মানুষ হবে না। যুদ্ধ করবে এআইও।
