Satya Nadella on AI: স্মার্ট হলেও AI-র হাতে ক্ষমতা দেওয়া ভয়ঙ্কর! কেন অন্ধ ভরসা করতে বারণ করছেন সত্য নাদেলা?

কৃত্রিম বুদ্ধিমত্তা (AI) যত উন্নতই হোক না কেন, তার বুদ্ধিমত্তা আর কাজ করার ক্ষমতা একসঙ্গে থাকা উচিত নয়। এমনই গুরুত্বপূর্ণ বার্তা দিয়েছেন মাইক্রোসফ্টের সিইও সত্য নাদেলা। তাঁর মতে, কোনও এআই (AI) মডেল আর্থিক লেনদেনের পরামর্শ দিতে পারে, সংস্থার গোপন তথ্য বিশ্লেষণ করতে পারে কিংবা কম্পিউটার সিস্টেমের সেটিংস পরিবর্তনের সুপারিশ করতে পারে। কিন্তু সেই পরামর্শ দেওয়ার অর্থ এই নয় যে, নিজে থেকেই সব কাজ করার অধিকারও তার থাকবে।

নাদেলার বক্তব্য, এআই-এর বুদ্ধিমত্তা এবং তার উপর নিয়ন্ত্রণের ক্ষমতাকে আলাদা রাখতে হবে। অর্থাৎ, কৃত্রিম বুদ্ধিমত্তা কোনও কাজের পরামর্শ দিতে বা নির্দিষ্ট দায়িত্ব পালন করতে পারবে। কিন্তু কোন তথ্য ব্যবহার করবে এবং কী কী কাজ করার অনুমতি পাবে, তা ঠিক করবে পৃথক নিয়ন্ত্রণ ব্যবস্থা।

AI-এর উপর নজরদারি কেন জরুরি?

সত্য নাদেলার মতে, সংস্থাগুলিকে এআই-এর প্রতিটি কাজের রেকর্ড রাখতে হবে। নিয়মিত পরীক্ষা করে দেখতে হবে, কোথাও কোনও ত্রুটি হচ্ছে কি না। পাশাপাশি, প্রয়োজন হলে যাতে কোনও ব্যক্তি সঙ্গে সঙ্গে এআই-এর কাজ বন্ধ করতে পারেন, সেই ব্যবস্থাও রাখতে হবে।

একটি এআই মডেল দিয়ে অন্য একটি এআই মডেলের কাজ যাচাই করার ক্ষেত্রেও সতর্ক থাকতে হবে বলে জানান সত্য নাদেলা। কারণ, স্বাধীনভাবে যাচাই করার ব্যবস্থা না থাকলে, একাধিক এআই সিস্টেম পরস্পরের ভুল ধরতে ব্যর্থ হতে পারে।

তাই এআই কীভাবে কাজ করছে, তার উপর নজরদারি চালানো, অনুমতির সীমা নির্ধারণ করা এবং এআই ভুলপথে এগোলে, দ্রুত তাকে নিয়ন্ত্রণে আনার ব্যবস্থা তৈরি করার পরামর্শ দিয়েছেন তিনি। এআই ব্যবস্থায় কোনও বড় ত্রুটি দেখা দিলে বা সেটি হ্যাকিংয়ের শিকার হলে, সেই তথ্য সময়মতো প্রকাশ করার উপরেও জোর দিয়েছেন নাদেলা। এতে অন্য সংস্থাগুলিও সেই ভুল থেকে শিক্ষা নিতে পারবে।

নাদেলার মূল বার্তা কী?

নাদেলার বক্তব্যের মূল কথা হল, যে এআই মডেলকে আমরা সবচেয়ে বেশি বিশ্বাস করি, সেটিই যে সবচেয়ে নিরাপদ হবে, তার কোনও নিশ্চয়তা নেই। বরং এমন ব্যবস্থা তৈরি করতে হবে, যেখানে এআই-কে অন্ধভাবে বিশ্বাস করার প্রয়োজনই পড়বে না। শক্তিশালী নিয়ন্ত্রণ, নিয়মিত পরীক্ষা এবং মানুষের নজরদারির মাধ্যমেই এআই-কে আরও নির্ভরযোগ্য করে তোলা সম্ভব। অর্থাৎ এআই যত বুদ্ধিমানই হোক, তার ক্ষমতার উপর নিয়ন্ত্রণ থাকা জরুরি।