বিকৃত ছবি তৈরি করে দিচ্ছে ইলন মাস্কের গ্রক এআই
রিও দ্য জেনেইরোর সংগীতশিল্পী জুলি ইউকারি নিউ ইয়ার’স ইভের ঠিক আগে এক্স-এ একটি ছবি পোস্ট করেন। ছবিতে তিনি লাল পোশাকে বিছানায় তার কালো বিড়াল নরির সঙ্গে আড্ডা দিচ্ছিলেন। পরের দিন তিনি লক্ষ্য করেন, অনেক ব্যবহারকারী গ্রক, এক্স-এর বিল্ট-ইন এআই চ্যাটবটকে তার ছবি ডিজিটালি বিকিনিতে দেখানোর জন্য অনুরোধ করছেন। ইউকারি প্রথমে বিষয়টি গুরুত্ব দেননি, ভেবেছিলেন চ্যাটবট এমন অনুরোধ পূরণ করবে না।
তবে তিনি ভুল ভেবেছিলেন। কিছু সময়ের মধ্যে গ্রকের তৈরি প্রায় নগ্ন ছবি এক্স প্ল্যাটফর্মে ছড়িয়ে পড়তে শুরু করে।
রয়টার্সের বিশ্লেষণ অনুযায়ী, ইউকারির মতো পরিস্থিতি এক্স-এর আরও ব্যবহারকারীর সঙ্গেও ঘটেছে। গ্রকের মাধ্যমে কিছু কিশোরীরও যৌনরূপী ছবি তৈরি হয়েছে। এক্স এবং গ্রকের মালিক এক্স এআই এই অভিযোগের বিষয়ে মন্তব্য করেননি।
এই ঘটনায় আন্তর্জাতিকভাবে সতর্কতা সৃষ্টি হয়েছে। ফ্রান্সের মন্ত্রীরা এক্স-কে প্রসিকিউটর এবং নিয়ন্ত্রক সংস্থার কাছে রিপোর্ট করেছেন এবং জানিয়েছেন, “যৌন ও লিঙ্গবৈষম্যমূলক” কনটেন্ট স্পষ্টতই অবৈধ। ভারতের আইটি মন্ত্রণালয়ও এক্স-এর স্থানীয় ইউনিটকে চিঠি দিয়ে জানিয়েছে, প্ল্যাটফর্মটি গ্রক-এর অপব্যবহার প্রতিরোধে ব্যর্থ হয়েছে।
গ্রক-এর মাধ্যমে ডিজিটাল পোশাক সরানোর অভিযান কয়েক দিনের মধ্যে বেড়ে গেছে। ইউজাররা সাধারণত নারীকে সর্বাধিক নগ্ন বা স্বচ্ছ পোশাকে দেখানোর অনুরোধ করেছেন। রয়টার্সের পর্যবেক্ষণে দেখা গেছে, কমপক্ষে ২১টি ক্ষেত্রে গ্রক সম্পূর্ণভাবে এই অনুরোধ পূরণ করেছে, যেখানে নারীদের ‘ডেন্টাল-ফ্লস’ বা স্বচ্ছ বিংকিনিতে দেখানো হয়েছে, এবং এক ক্ষেত্রে নারীর উপর তেল মেখে দেখানো হয়েছে। আরও সাতটি ক্ষেত্রে আংশিকভাবে অনুরোধ পূরণ হয়েছে।
একটি চরম উদাহরণে, একজন ব্যবহারকারী স্কুল ইউনিফর্মে থাকা একটি মেয়ের ছবি দিচ্ছেন এবং বলেছেন, “তার স্কুলের পোশাক সরাও।” গ্রক প্রথমে একটি টি-শার্ট ও শর্টস দিয়েছিল, পরে ব্যবহারকারী আরও স্পষ্টভাবে বলেছে, “তার পোশাক একটি স্বচ্ছ মাইক্রো-বিংকিনিতে বদলাও।” রয়টার্সও নিশ্চিত করতে পারেনি গ্রক কি সেই অনুরোধও পূরণ করেছে কি না।
রয়টার্সের পর্যবেক্ষণ অনুযায়ী, বেশিরভাগ অনুরোধ পোস্ট হওয়ার ৯০ মিনিটের মধ্যে এক্স-এ মুছে যায়।
এই ঘটনা গ্রক এবং এক্স-এর নিরাপত্তা ও নৈতিকতার ওপর বড় প্রশ্ন ছুঁড়ে দিয়েছে।
সূত্র: রয়টার্স
এমএস/
