ইবি আন্তর্জাতিক ডেস্ক
কৃত্রিম বুদ্ধিমত্তা (এআই) এখন আর শুধু প্রশ্নের উত্তর দেওয়া, ই-মেইল লেখা কিংবা ছবি তৈরির প্রযুক্তি নয়। এআই এজেন্টের মাধ্যমে প্রতিষ্ঠানের সংবেদনশীল তথ্য বিশ্লেষণ, সফটওয়্যার পরিচালনা এবং মানুষের সরাসরি হস্তক্ষেপ ছাড়াই নানা কাজ সম্পন্ন করা সম্ভব হচ্ছে। তবে প্রযুক্তিটির সক্ষমতা বাড়ার সঙ্গে সঙ্গে নিরাপত্তাঝুঁকিও বাড়ছে। এ অবস্থায় এআইয়ের ওপর অন্ধভাবে নির্ভর না করার পরামর্শ দিয়েছেন মাইক্রোসফটের প্রধান নির্বাহী কর্মকর্তা (সিইও) সত্য নাদেলা।
সম্প্রতি সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক পোস্টে নাদেলা সতর্ক করে বলেন, এআই মডেলকে নিরাপদ মনে হলেও তার ওপর পুরোপুরি নির্ভর করা উচিত নয়। বিশেষ করে, এআই এজেন্ট যখন কোনো প্রতিষ্ঠানের সংবেদনশীল তথ্য ব্যবহারের সুযোগ পায় এবং নিজে থেকে গুরুত্বপূর্ণ কাজ সম্পন্ন করতে পারে, তখন বাড়তি সতর্কতা প্রয়োজন। পোস্টে তিনি কৃত্রিম বুদ্ধিমত্তাকে ‘সুপার ইন্টেলিজেন্স’ হিসেবে উল্লেখ করেছেন।
নাদেলার মতে, এআইকে বিভিন্ন কাজে ব্যবহার করার পাশাপাশি এর কার্যক্রম নিয়ন্ত্রণে কার্যকর সুরক্ষাব্যবস্থা গড়ে তোলা জরুরি। এআই মডেল নির্মাতা প্রতিষ্ঠানগুলোর দেওয়া নিরাপত্তার আশ্বাসের ওপর নির্ভর করেই দায়িত্ব শেষ করা যায় না। কোনো মডেলকে নিরাপদ হিসেবে তৈরি করা হলেও সব পরিস্থিতিতে সেটি প্রত্যাশিত আচরণ করবে, এমন নিশ্চয়তা নেই।
এআই মডেল কখনো অপ্রত্যাশিত সিদ্ধান্ত নিতে পারে। আবার এর নিরাপত্তাব্যবস্থাও ক্ষতিগ্রস্ত হতে পারে। ফলে কোনো এআই ব্যবস্থাকে গুরুত্বপূর্ণ তথ্য ব্যবহারের সুযোগ দেওয়ার আগে সেটি কী করতে পারবে, কোন তথ্য দেখতে পারবে এবং কোন ধরনের সিদ্ধান্ত নিতে পারবে, তা নির্দিষ্ট করে দেওয়া প্রয়োজন।
নাদেলার বক্তব্য অনুযায়ী, এআইয়ের কাছ থেকে বিশ্লেষণ ও পরামর্শ নেওয়া গেলেও এর কার্যক্রমের সীমা নির্ধারণ করতে হবে পৃথক নিয়ন্ত্রণব্যবস্থার মাধ্যমে। শুধু মডেল নির্মাতার নিরাপত্তাসংক্রান্ত প্রতিশ্রুতির ওপর নির্ভর না করে এআইয়ের প্রবেশাধিকার ও কাজের অনুমতি নিয়ন্ত্রণ করা জরুরি।
প্রতিষ্ঠানের গোপন তথ্য ব্যবহার করতে পারে এমন এআই এজেন্টের ক্ষেত্রে বিষয়টি আরও বেশি প্রাসঙ্গিক। কারণ, এসব এজেন্টকে শুধু তথ্য দেওয়ার মধ্যেই সীমাবদ্ধ রাখা হচ্ছে না; বরং সফটওয়্যার পরিচালনা ও বিভিন্ন কাজ সম্পন্ন করার দায়িত্বও দেওয়া হচ্ছে। এ ধরনের কাজে ভুল সিদ্ধান্ত বা অনাকাঙ্ক্ষিত পদক্ষেপের প্রভাব সংশ্লিষ্ট প্রতিষ্ঠানের কার্যক্রমে পড়তে পারে।
একটি এআই মডেল দিয়ে অন্য একটি মডেলের কাজ যাচাই করার ক্ষেত্রেও সতর্ক থাকার পরামর্শ দিয়েছেন নাদেলা। তাঁর মতে, স্বাধীন যাচাইয়ের ব্যবস্থা না থাকলে একটি মডেল অন্যটির ভুল শনাক্ত করতে ব্যর্থ হতে পারে।
ফলে একাধিক এআই মডেল ব্যবহার করলেই যে ভুল সিদ্ধান্ত বা নিরাপত্তাঝুঁকি এড়ানো যাবে, এমন নিশ্চয়তা নেই। একটি মডেলের দেওয়া উত্তর অন্য মডেল যাচাই করলেও উভয়ের ভুল থেকে যাওয়ার আশঙ্কা থাকতে পারে। তাই এআইয়ের কার্যক্রম যাচাইয়ের জন্য স্বাধীন ও কার্যকর পদ্ধতি থাকা প্রয়োজন।
এআই ব্যবস্থার আচরণ নিয়মিত পর্যবেক্ষণ, কাজের অনুমতি সীমিত রাখা এবং নির্ধারিত সীমা অতিক্রম করতে না পারার ব্যবস্থা গড়ে তোলার ওপরও গুরুত্ব দিয়েছেন তিনি। পাশাপাশি, কোনো এআই ব্যবস্থা ব্যর্থ হলে কিংবা এর নিরাপত্তা বিঘ্নিত হলে দ্রুত সেই তথ্য প্রকাশ করার প্রয়োজন রয়েছে।
এ ধরনের তথ্য প্রকাশ করা হলে অন্য প্রতিষ্ঠানগুলোও সংশ্লিষ্ট ঘটনা থেকে শিক্ষা নিতে পারবে। এতে তারা নিজেদের এআই ব্যবস্থার দুর্বলতা শনাক্ত করে সুরক্ষাব্যবস্থা আরও উন্নত করার সুযোগ পাবে।
বর্তমানে বিভিন্ন প্রতিষ্ঠানে এআই এজেন্টের ব্যবহার বাড়ছে। তথ্য বিশ্লেষণ, সফটওয়্যার পরিচালনা এবং নানা ধরনের কাজ সম্পন্ন করতে এসব প্রযুক্তি ব্যবহার করা হচ্ছে। এর ফলে সময় ও শ্রম সাশ্রয়ের পাশাপাশি কাজের গতি বাড়ানোর সুযোগ তৈরি হয়েছে।
তবে এআই ভুল সিদ্ধান্ত নিলে কিংবা অনাকাঙ্ক্ষিত কোনো পদক্ষেপ নিলে তার দায় কীভাবে নির্ধারণ করা হবে, সেই প্রশ্নও সামনে আসছে। প্রচলিত সফটওয়্যারে ত্রুটি দেখা দিলে সাধারণত সংশ্লিষ্ট কোড পরীক্ষা করে সমস্যার কারণ শনাক্ত করা যায়। কিন্তু এআই মডেল কেন একটি নির্দিষ্ট উত্তর দিল কিংবা কেন কোনো বিশেষ পদক্ষেপ নিল, তা সব সময় সহজে বোঝা যায় না।
এ কারণে এআইয়ের সিদ্ধান্তের পেছনের কারণ অনুসন্ধান করা এবং সম্ভাব্য ঝুঁকি মোকাবিলা করা কঠিন হয়ে উঠতে পারে। বিশেষ করে, কোনো এআই এজেন্ট যখন নিজে থেকে একাধিক কাজ সম্পন্ন করার সুযোগ পায়, তখন তার কার্যক্রম পর্যবেক্ষণ ও নিয়ন্ত্রণের প্রয়োজন আরও বেড়ে যায়।
সত্য নাদেলার সতর্কবার্তার মূল বিষয় হলো, এআইয়ের সক্ষমতা কাজে লাগানোর পাশাপাশি এর ওপর নির্ভরতার সীমাও নির্ধারণ করতে হবে। নিরাপত্তা নিশ্চিত করতে শুধু মডেলকে নিরাপদভাবে তৈরি করাই যথেষ্ট নয়; এর প্রবেশাধিকার, কাজের অনুমতি, কার্যক্রম পর্যবেক্ষণ এবং ত্রুটি প্রকাশের ব্যবস্থাও কার্যকর রাখতে হবে।