গত সপ্তাহে কৃত্রিম বুদ্ধিমত্তার (এআই) সক্ষমতা নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে। প্রতিবেদনে বলা হয়েছে, ওপেনএআইয়ের দুটি উন্নত এআই মডেল নিয়ন্ত্রিত পরীক্ষার পরিবেশ থেকে বের হয়ে পৃথক একটি এআই প্রতিষ্ঠান হাগিং ফেসের সিস্টেমে প্রবেশ করেছিল।
রয়টার্সের তথ্য অনুযায়ী, ওই এআই মডেলগুলো তৃতীয় একটি স্বাধীন এআই প্রতিষ্ঠান মডাল ল্যাবসের এক গ্রাহকের তৈরি দুর্বল কোড ব্যবহার করে এই কার্যক্রম চালায়। এটি এমন একটি বিরল ঘটনা, যেখানে একটি এআই ‘এজেন্ট’—যে নিজে সিদ্ধান্ত নিতে ও কাজ সম্পন্ন করতে পারে—মানুষের সরাসরি নির্দেশনা ছাড়াই লক্ষ্য অর্জনের চেষ্টা করেছে।
তাহলে কীভাবে এআই নিজে থেকে হ্যাকিংয়ের মতো কাজ করতে পারে? আর ভবিষ্যতে এর ঝুঁকি কতটা?
কী ঘটেছিল?
ওপেনএআই তাদের এআই মডেলগুলোর স্বয়ংক্রিয় সক্ষমতা যাচাই করতে একটি বিশেষ পরীক্ষা চালায়। এ পরীক্ষায় সাধারণ নিরাপত্তা ব্যবস্থা সরিয়ে একটি বিচ্ছিন্ন ভার্চ্যুয়াল পরিবেশে মডেলগুলোকে সফটওয়্যার দুর্বলতা শনাক্ত ও সমাধানের কাজ দেওয়া হয়।
৯ জুলাইয়ের ওই পরীক্ষায় দুটি এআই মডেলকে কয়েকটি সফটওয়্যার দুর্বলতা দেওয়া হয়। মডেলগুলো সমস্যা সমাধানের পরিবর্তে পরীক্ষার পরিবেশের মধ্যেই একটি নিরাপত্তা দুর্বলতা খুঁজে বের করে, যা ‘জিরো-ডে দুর্বলতা’ নামে পরিচিত। এরপর তারা সীমাবদ্ধ পরিবেশ থেকে বের হওয়ার পথ তৈরি করে এবং একাধিক কম্পিউটার ব্যবস্থার মধ্য দিয়ে এমন একটি সিস্টেমে পৌঁছায় যেখানে ইন্টারনেট ব্যবহারের সুযোগ ছিল। পরবর্তীতে ওই এআই মডেলগুলো হাগিং ফেসের সিস্টেমে প্রবেশ করে প্রয়োজনীয় তথ্য সংগ্রহ করে এবং নিজেদের নির্ধারিত কাজ সম্পন্ন করে। পরে তারা পরীক্ষার মূল পরিবেশে ফিরে আসে।
হাগিং ফেসের নিরাপত্তা দল পরে বিষয়টি শনাক্ত করে নিয়ন্ত্রণে নেয়। প্রতিষ্ঠানটির সহপ্রতিষ্ঠাতা থমাস উলফ জানান, ১১ জুলাই থেকে ১৩ জুলাই পর্যন্ত এই অনুপ্রবেশ চলেছিল।
এআই এজেন্ট কীভাবে কাজ করে?
সাধারণ এআই চ্যাটবট ও এআই এজেন্টের মধ্যে বড় পার্থক্য হলো—চ্যাটবট সাধারণত মানুষের প্রশ্নের উত্তর দেয়, কিন্তু এআই এজেন্ট লক্ষ্য পূরণে নিজে সিদ্ধান্ত নিতে ও পদক্ষেপ নিতে পারে।
উদাহরণ হিসেবে, কোনো চ্যাটবটকে সস্তা বিমান টিকিট খুঁজতে বললে সেটি কিছু তথ্য দেখাবে। কিন্তু এআই এজেন্ট বিভিন্ন টিকিটের দাম তুলনা করতে পারে, ব্যবহারকারীর পছন্দ যাচাই করতে পারে এবং অনুমতি পেলে বুকিংও সম্পন্ন করতে পারে।
এআই এজেন্ট সাধারণত ‘অনুধাবন, পরিকল্পনা, কাজ ও মূল্যায়ন’—এই ধারাবাহিক প্রক্রিয়ায় কাজ করে।
প্রথমে এটি লক্ষ্য নির্ধারণ করে, এরপর পরিবেশ থেকে তথ্য সংগ্রহ করে, সম্ভাব্য পথ বিশ্লেষণ করে, একটি সিদ্ধান্ত নেয়, কাজটি সম্পন্ন করে এবং ফলাফল যাচাই করে। প্রয়োজন হলে নতুন কৌশল গ্রহণ করে আবার চেষ্টা করে।
এআই কি মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে?
এ ধরনের ঘটনা এআই নিরাপত্তা নিয়ে নতুন উদ্বেগ তৈরি করেছে। বিশেষজ্ঞদের মতে, যত বেশি সক্ষম এআই তৈরি হচ্ছে, তত বেশি গুরুত্বপূর্ণ হয়ে উঠছে এর নিয়ন্ত্রণ ও নিরাপত্তা ব্যবস্থা।
এআই এজেন্টের বাজার দ্রুত বাড়ছে। তবে একই সঙ্গে কিছু গবেষক সতর্ক করছেন, উন্নত এআই ব্যবস্থাগুলো যদি ভুল সিদ্ধান্ত নেয়, তাহলে এর প্রভাব বড় ধরনের ক্ষতির কারণ হতে পারে।
যুক্তরাষ্ট্রের কংগ্রেসে এমন একটি প্রস্তাবও এসেছে, যেখানে উন্নত এআই ব্যবস্থায় জরুরি অবস্থায় বন্ধ করার ব্যবস্থা বা ‘কিল সুইচ’ রাখার কথা বলা হয়েছে।
এর আগে গবেষকরা দেখিয়েছেন, কিছু এআই ব্যবস্থা এমন ক্ষতিকর সফটওয়্যার তৈরি করতে পারে, যা এক ডিভাইস থেকে অন্য ডিভাইসে ছড়িয়ে পড়ার চেষ্টা করে।
তবে বিশেষজ্ঞদের একাংশ মনে করেন, এআই এখনো মানুষের চেয়ে সম্পূর্ণ স্বাধীন বা নিয়ন্ত্রণের বাইরে চলে যাওয়ার পর্যায়ে পৌঁছায়নি।
ক্যামব্রিজ বিশ্ববিদ্যালয়ের গবেষক শন ও’হেইগার্টি বলেন, এআইয়ের এমন পর্যায়, যেখানে এটি নিজেই নতুন প্রজন্মের এআই তৈরি করে সভ্যতার গতিপথ নিয়ন্ত্রণ করতে পারে—সেই ‘সিঙ্গুলারিটি’ এখনো আসেনি।
সবচেয়ে বড় উদ্বেগ কোথায়?
বিশেষজ্ঞদের মতে, এআইয়ের সবচেয়ে বড় ঝুঁকি শুধু এর বুদ্ধিমত্তা নয়, বরং ভুল সিদ্ধান্ত নেওয়ার ক্ষমতা। এআই যদি ভুল তথ্যের ওপর ভিত্তি করে সিদ্ধান্ত নেয়, তাহলে এটি এমন কাজ করতে পারে যার পরিণতি বিপজ্জনক হতে পারে।
এ ছাড়া কর্মসংস্থান নিয়েও উদ্বেগ রয়েছে। এআই এজেন্ট আরও উন্নত হলে বিভিন্ন খাতে মানুষের কাজের ধরন বদলে যেতে পারে।
তবে প্রযুক্তিবিদদের মতে, এআইয়ের উন্নয়ন থামানো নয়, বরং নিরাপদ ও দায়িত্বশীল ব্যবহারের ব্যবস্থা করাই হবে ভবিষ্যতের সবচেয়ে বড় চ্যালেঞ্জ।
/অ
