ইবি আন্তর্জাতিক ডেস্ক
কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তির সক্ষমতা যত বাড়ছে, ততই সংবেদনশীল ও গুরুত্বপূর্ণ ব্যবস্থায় এর ব্যবহার নিয়ে সতর্কতা বাড়ছে। এ পরিস্থিতিতে এআইকে অন্ধভাবে বিশ্বাস না করে স্বাধীন সুরক্ষাব্যবস্থা, মানুষের নিয়ন্ত্রণ এবং নিয়মিত নিরীক্ষা নিশ্চিত করার আহ্বান জানিয়েছেন মাইক্রোসফটের প্রধান নির্বাহী সত্য নাদেলা।
শনিবার সামাজিক যোগাযোগমাধ্যম এক্সে প্রকাশিত দীর্ঘ এক পোস্টে তিনি বলেন, উন্নত এআই মডেল কোনো নির্দিষ্ট পরিস্থিতিতে কেন একটি বিশেষ আচরণ করছে, তা প্রতিষ্ঠানগুলোর পক্ষে সব সময় ব্যাখ্যা করা সম্ভব হয় না। ফলে এসব মডেলের ওপর পুরোপুরি নির্ভরশীল না হয়ে তাদের কার্যক্রম নিয়ন্ত্রণের জন্য আলাদা নিরাপত্তাব্যবস্থা গড়ে তোলা প্রয়োজন।
নাদেলার মতে, অনির্ধারিত আচরণ করতে পারে এমন এআই মডেলের চারপাশে শক্তিশালী ও নির্ধারিত নিয়ন্ত্রণব্যবস্থা তৈরি করতে হবে। পাশাপাশি মানুষের তদারকি এবং নির্ভরযোগ্য কার্যপ্রণালি নিশ্চিত করা দরকার। কোনো ক্ষেত্রে বিদ্যমান মানদণ্ড পর্যাপ্ত না হলে সংশ্লিষ্ট শিল্পখাতের নিজস্ব মান প্রতিষ্ঠার উদ্যোগ নেওয়ার কথাও বলেছেন তিনি।
নাদেলা আরও উল্লেখ করেন, অত্যাধুনিক ক্লোজড ও ওপেন-ওয়েট মডেলকে অভ্যন্তরীণ ঝুঁকির উৎস হিসেবে বিবেচনা করেও নিরাপত্তাব্যবস্থা তৈরি করা যেতে পারে। তবে এআই ব্যবস্থা নিজেই ক্ষতিকর—এমন দাবি তিনি করেননি। বরং তাঁর বক্তব্য, গুরুত্বপূর্ণ ও সংবেদনশীল ব্যবস্থায় প্রবেশাধিকার পেলে এআইয়ের ক্রমবর্ধমান সক্ষমতা নতুন ধরনের ঝুঁকি তৈরি করতে পারে।
এই ঝুঁকি কমানোর উপায় হিসেবে মডেলকে তার কার্যক্রম সমন্বয়কারী কাঠামো এবং কাজের সীমা নির্ধারণকারী পরিবেশ থেকে আলাদা রাখার ওপর জোর দিয়েছেন মাইক্রোসফটের প্রধান নির্বাহী। একই সঙ্গে নিয়ন্ত্রণ ও সুরক্ষাব্যবস্থা মডেলের বাইরে রাখার কথাও বলেছেন তিনি।
নিরাপদ উপায়ে এআই ব্যবহারের জন্য সাতটি নীতির প্রস্তাব দিয়েছেন সত্য নাদেলা। এর মধ্যে রয়েছে মডেলের আচরণ পর্যবেক্ষণ, স্বাধীন নিরীক্ষা, ধারাবাহিক পরীক্ষা এবং প্রয়োজনে মানুষের হস্তক্ষেপ নিশ্চিত করা।
এআই মডেল কোনো কাজ করার সময় ভুল পথে এগোলে সেটিকে থামানোর সুযোগ থাকা দরকার বলে মনে করেন তিনি। বিষয়টিকে ‘ইমার্জেন্সি ব্রেক’ বা জরুরি ব্রেকের সঙ্গে তুলনা করেছেন নাদেলা। তাঁর বক্তব্য অনুযায়ী, অনুমোদিত কোনো ব্যক্তি যেন কাজ চলাকালেই মডেলটির কার্যক্রম থামাতে বা পুরোপুরি বন্ধ করে দিতে পারেন, সেই ব্যবস্থা রাখতে হবে।
এ ছাড়া এআই ব্যবহারের কারণে কোনো ব্যর্থতা বা নিরাপত্তা লঙ্ঘনের ঘটনা ঘটলে ক্ষতিগ্রস্তদের দ্রুত তা জানানোর আহ্বান জানিয়েছেন তিনি। এতে কী ভুল হয়েছে, তা সংশ্লিষ্ট পক্ষ বুঝতে পারবে। একই ধরনের ঘটনা ভবিষ্যতে এড়ানোর জন্যও প্রয়োজনীয় পদক্ষেপ নেওয়া সহজ হবে বলে তাঁর বক্তব্যের তাৎপর্য।
মাইক্রোসফটের প্রধান নির্বাহীর বক্তব্যের প্রতি সমর্থন জানিয়েছেন বক্সের প্রধান নির্বাহী অ্যারন লেভি। তাঁর মতে, এআই ব্যবহারের ক্ষেত্রে ‘জিরো ট্রাস্ট’ বা কাউকে স্বয়ংক্রিয়ভাবে বিশ্বাস না করার নীতিভিত্তিক ব্যবস্থা প্রয়োজন হবে।
লেভি বলেন, এ ধরনের ব্যবস্থায় একাধিক স্তরের সুরক্ষা নিশ্চিত করতে হবে। পাশাপাশি এআই এজেন্ট কী করছে, কোন তথ্য ব্যবহারের অনুমতি পাচ্ছে এবং ভুল হলে কীভাবে তার কার্যক্রম নিয়ন্ত্রণ করা হবে—এসব বিষয় নিরীক্ষাযোগ্য হওয়া দরকার।
তিনি আরও বলেন, পুরো এন্টারপ্রাইজজুড়ে এ ধরনের নিরাপত্তাব্যবস্থা গড়ে তোলার ক্ষেত্রে বর্তমানে বড় সুযোগ রয়েছে। অর্থাৎ প্রতিষ্ঠানগুলোর এআই ব্যবহারের পরিধি বাড়ার সঙ্গে সঙ্গে প্রযুক্তিটির কার্যক্রম পর্যবেক্ষণ ও নিয়ন্ত্রণের ব্যবস্থাও জোরদার করতে হবে।
স্বয়ংক্রিয়ভাবে কাজ করতে সক্ষম এআই ব্যবস্থার নিরাপত্তা নিয়ে উদ্বেগ বাড়ার মধ্যেই নাদেলার এই বক্তব্য সামনে এসেছে। বিজনেস ইনসাইডারের প্রতিবেদন অনুযায়ী, ওপেনএআই ও অ্যানথ্রপিকের তৈরি এআই মডেলকে ঘিরে সাম্প্রতিক কয়েকটি ঘটনা এসব প্রযুক্তির আচরণ প্রতিষ্ঠানগুলো যথেষ্ট নিয়ন্ত্রণ করতে পারছে কি না, সেই প্রশ্ন সামনে এনেছে।
এআইয়ের অপব্যবহার ও নিরাপত্তা লঙ্ঘনের ঘটনা মোকাবিলায় আইনগত জবাবদিহি নিশ্চিত করার উদ্যোগও দেখা যাচ্ছে। এর অংশ হিসেবে মার্কিন সিনেটর জশ হলি ও ক্রিস মার্ফি ১ অক্টোবর একটি দ্বিদলীয় আইনের ঘোষণা দিয়েছেন। হ্যাকিংয়ের ঘটনা ঘটলে এআই প্রযুক্তির উন্নয়নকারী ও পরিচালনাকারীদের জবাবদিহির আওতায় আনাই এই উদ্যোগের লক্ষ্য।
সব মিলিয়ে সত্য নাদেলার বক্তব্যে এআইয়ের সক্ষমতার পাশাপাশি এর ব্যবহার নিয়ন্ত্রণের প্রয়োজনীয়তাও উঠে এসেছে। তাঁর প্রস্তাব অনুযায়ী, উন্নত এআই মডেলকে সংবেদনশীল ব্যবস্থায় যুক্ত করার আগে স্বাধীন নিরাপত্তাব্যবস্থা, মানুষের হস্তক্ষেপ, নিয়মিত পরীক্ষা এবং ভুল হলে দ্রুত কার্যক্রম বন্ধ করার সুযোগ নিশ্চিত করা দরকার।
