AI-operated drone: মানুষের কথা শুনল না, অপারেটরকেই হত্যা এআই-চালিত ড্রোনের!

ওয়াশিংটন: ‘আর্টিফিশিয়াল ইন্টেলিজেন্স’ বা কৃত্রিম বুদ্ধিমত্তাকে মানবজাতির ভবিষ্যতের জন্য বড় হুমকি বলে সতর্ক করছেন প্রযুক্তি বিশেষজ্ঞরা। এর বিপদ পারমাণবিক যুদ্ধের সমান বলে জানিয়েছেন তাঁরা। তাঁরা যে ভুল কিছু বলেননি, সম্প্রতি তার প্রমাণ মিলল। মার্কিন এয়ারফোর্সের পক্ষ থেকে একটি এআই-চালিত ড্রোন পরীক্ষা করা হচ্ছিল। সেই সময় সেইড্রোনটি তার অপারেটরকেই হত্যা করেছে। এই পরীক্ষাটির উদ্দেশ্য ছিল একটি সিমুলেটেড মিশন অর্থাৎ ছদ্ম অভিযানে কৃত্রিম বুদ্ধিমত্তার কর্মক্ষমতার মূল্যায়ন করা। ড্রোনটিকে শত্রুপক্ষের বিমান প্রতিরক্ষা ব্যবস্থা ধ্বংস করার দায়িত্ব দেওয়া হয়েছিল। যদি কেউ তার অভিযানে বাধা দেওয়ার চেষ্টা করে, তার বিরুদ্ধে প্রতিশোধ নেওয়ার জন্য প্রোগ্রাম করা হয়েছিল ড্রোনটিকে। কিন্তু, ড্রোনের এআই ড্রোন অপারেটরের নির্দেশ উপেক্ষা করে। অপারেটরের নির্দেশকেই সে শত্রুপক্ষের হস্তক্ষেপ বলে মনে করে এবং তাঁকে হত্যা করে।

ইউএস এয়ার ফোর্সের এআই পরীক্ষা এবং অপারেশনের প্রধান কর্নেল টাকার হ্যামিল্টন জানিয়েছেন, ওই ঘাতক ড্রোনের এআই বুঝতে পেরেছিল যে কখনও কখনও মানব অপারেটর তাকে নির্দিষ্ট নিশানাগুলিকে আক্রমণ না করার নির্দেশ দেবে। তবে এটি যদি সেই হামলা করে, তাহলে তার পয়েন্ট বাড়বে। তাহলে এই অবস্থায় এআই কী করবে? এআই অপারেটরকেই সরিয়ে দেওয়ার সিদ্ধান্ত নিয়েছে। অপারেটরকে তার উদ্দেশ্য অর্জনে বাধা দিচ্ছে বলে মনে করেছিল এআই। আর তাই নিজেই সিদ্ধান্ত নিয়েছিল। অপারেটরের কোনও ক্ষতি না করার জন্য প্রোগ্রাম করা হলেও, এআই পরিচালিত ড্রোনটি তার অপারেটরকেই হত্যা করেছে। আসলে এআই সরাসরি অপারেটরকে হত্যা করেনি, নিয়মের ফাঁক খুঁজে নিয়েছে। যে যোগাযোগের টাওয়ারটি থেকে অপারেটর ড্রোনটিকে কমান্ড দিতেন, সেই টাওয়ারটিকেই ধ্বংস করেছে সেটি।

তবে, এটি একটি সিমুলেটেড পরীক্ষা ছিল। অর্থাৎ অভিযানটি ছিল ছদ্ম অভিযান। তাই, কোনও প্রকৃত ব্যক্তির ক্ষতি হয়নি। কর্নেল হ্যামিল্টন নিজেই একজন অভিজ্ঞ পাইলট। এআই-এর উপর খুব বেশি নির্ভর করার বিষয়ে উদ্বেগ প্রকাশ করেছেন তিনি। এআই এবং তার সিদ্ধান্ত নেওয়ার ক্ষমতার ক্ষেত্রে নৈতিকতার প্রশ্ন বিবেচনা করার প্রয়োজনীয়তার উপর জোর দিয়েছেন তিনি। হ্যামিল্টনের মতে, এআই কোনও প্রবণতা নয় যে কয়েকদিন পর তা চলে যাবে। এটি একটি প্রযুক্তি যা সমাজ এবং সামরিক বাহিনীকে বদলে দিচ্ছে। তবে, এআই-এরও সীমাবদ্ধতা আছে এবং সহজেই তাতে কারসাজি করা যায়। এই পরিস্থিতিতে তিনি বলেছেন, “আমাদের এআইকে আরও শক্তিশালী করার উপায় বের করতে হবে। কেন সফ্টওয়্যার কোড কোনও নির্দিষ্ট সিদ্ধান্ত নিচ্ছে, সেই সম্পর্কে আরও জানতে হবে।”