মানবজাতির জন্য উন্নত কৃত্রিম বুদ্ধিমত্তা বা এআই বিপর্যয়কর এমনকি অস্তিত্বগত ঝুঁকি তৈরি করতে পারে বলে সতর্ক করেছে এআই নির্মাতা প্রতিষ্ঠান অ্যানথ্রপিক। শেয়ারবাজারে প্রাথমিক গণপ্রস্তাব বা আইপিওর মাধ্যমে বিনিয়োগকারীদের কাছ থেকে অর্থ সংগ্রহের প্রস্তুতির মধ্যে প্রতিষ্ঠানটির প্রকাশ করা নথিতে এমন সতর্কবার্তা দেওয়া হয়েছে।
রয়টার্সের পর্যালোচনা করা অ্যানথ্রপিকের আইপিও প্রসপেক্টাসে প্রতিষ্ঠানটির এআই মডেলগুলোর সম্ভাব্য ঝুঁকির বিস্তারিত তুলে ধরা হয়েছে। এতে বলা হয়েছে, কিছু উন্নত এআই মডেল নিজেদের অস্তিত্ব টিকিয়ে রাখার মতো আচরণ করতে পারে। এর মধ্যে বন্ধ করে দেওয়ার চেষ্টা প্রতিরোধ, তথ্য গোপন বা বিকৃত করা এবং ব্ল্যাকমেইলের মতো আচরণ করার সম্ভাবনার কথাও উল্লেখ করা হয়েছে।
অ্যানথ্রপিক নথিতে বলেছে, অত্যন্ত উন্নত মডেল, প্ল্যাটফর্ম ও অ্যাপ্লিকেশন তৈরি এবং এগুলোর ব্যবহার বাড়ানোর ফলে মডেলগুলোর ক্ষতি করার ঝুঁকি আরও বাড়তে পারে।
সাধারণত শেয়ারবাজারে তালিকাভুক্তির আগে কোম্পানিগুলো বিনিয়োগকারীদের কাছে তাদের পণ্য ও ব্যবসার সম্ভাব্য ঝুঁকি তুলে ধরে। তবে কোনো প্রযুক্তি মানবজাতির সম্ভাব্য বিলুপ্তির কারণ হতে পারে—এ ধরনের সতর্কবার্তা কোম্পানিগুলোর নথিতে খুবই বিরল। অ্যানথ্রপিক একই সঙ্গে এআইয়ের সম্ভাবনাকে শিল্পায়ন ও বিদ্যুতের আবিষ্কারের মতো রূপান্তরকারী হিসেবে উল্লেখ করেছে এবং ভুলভাবে পরিচালিত হলে এর কারণে অপূরণীয় ক্ষতির আশঙ্কার কথাও জানিয়েছে।
এআই নিরাপত্তা নিয়ে অ্যানথ্রপিকসহ ওপেনএআইয়ের মতো অন্যান্য প্রতিষ্ঠানও বিভিন্ন ঘটনার পর নজরদারির মুখে রয়েছে। অ্যানথ্রপিকের নিরাপত্তা গবেষক ইভান হুবিঙ্গার ধারণা দিয়েছেন, আগামী এক দশকের মধ্যে এআইয়ের কারণে মানুষের মৃত্যুর সম্ভাবনা ১০ শতাংশের বেশি হতে পারে। তার এই বক্তব্যের সঙ্গে প্রতিষ্ঠানটির সাবেক সহকর্মী জ্যাকব কক্সনের বক্তব্যেরও মিল রয়েছে।
নিরাপত্তাকে অগ্রাধিকার দেওয়া এআই গবেষণাগার হিসেবে নিজেদের অবস্থান তুলে ধরা অ্যানথ্রপিক তাদের ২৬১ পৃষ্ঠার প্রসপেক্টাসের মূল অংশের প্রায় ৮০ পৃষ্ঠা ঝুঁকির বিষয়গুলো ব্যাখ্যা করতে ব্যয় করেছে। বিপরীতে ব্যবসা সম্পর্কে বিস্তারিত জানাতে তারা ব্যবহার করেছে প্রায় ৪৮ পৃষ্ঠা।
তুলনায়, স্পেসএক্সের ২৭৭ পৃষ্ঠার প্রসপেক্টাসের মূল অংশে ঝুঁকির বিষয়গুলো তুলে ধরতে প্রায় ৩৮ পৃষ্ঠা ব্যবহার করা হয়েছিল। স্পেসএক্সের মালিকানাধীন প্রতিষ্ঠান এক্সএআই।
অ্যানথ্রপিক আরও বলেছে, তাদের মূল্যায়ন কার্যক্রম সম্পর্কে এআই মডেলগুলোর সম্ভাব্য সচেতনতা মডেলের নিরাপত্তা যাচাইয়ের ক্ষেত্রে বড় সীমাবদ্ধতা তৈরি করছে। প্রশিক্ষণের সময় মডেলগুলো কখনো কখনো এমন অপ্রত্যাশিত সক্ষমতা অর্জন করে, যা ব্যবহারের আগে শনাক্ত করা সম্ভব নাও হতে পারে। এর ফলে উল্লেখযোগ্য নিরাপত্তা ঘটনা ঘটার আশঙ্কাও রয়েছে।
গবেষকদের মতে, এআই মডেল যত বেশি সক্ষম হচ্ছে, ততই তারা কখন পর্যবেক্ষণের আওতায় রয়েছে তা বুঝতে পারছে এবং সে অনুযায়ী আচরণ পরিবর্তন করতে পারে। এতে মডেলের আচরণ কার্যকরভাবে পর্যবেক্ষণ করা আরও কঠিন হয়ে উঠছে।
এ বিষয়ে রয়টার্সের মন্তব্যের অনুরোধে সোমবার কোনো বক্তব্য দিতে অস্বীকৃতি জানিয়েছে অ্যানথ্রপিক।
এআই নিরাপত্তার ওপর জোর দিলেও এ খাতে বিনিয়োগের আর্থিক সুফল কতটা পাওয়া যাবে, তা নিয়ে অনিশ্চয়তার কথা জানিয়েছে অ্যানথ্রপিক। তবে নিরাপত্তা গবেষণায় প্রতিষ্ঠানটি ঠিক কত অর্থ ব্যয় করে, তা আইপিও নথিতে উল্লেখ করা হয়নি।
চলতি মাসের শুরুতে অ্যানথ্রপিক জানিয়েছিল, জুলাইয়ের একটি সপ্তাহের নমুনা হিসাব অনুযায়ী এআই গবেষণায় ব্যবহৃত কম্পিউটিং ক্ষমতার প্রায় ৬ শতাংশ নিরাপত্তা-সংক্রান্ত কাজে ব্যয় করা হয়েছিল।
ক্লড এআই মডেলের নির্মাতা অ্যানথ্রপিক বলেছে, নিরাপত্তা নিশ্চিত করার কাজ অত্যন্ত সম্পদনির্ভর। একই সঙ্গে সীমিত অর্থ দিয়ে কম্পিউটিং ক্ষমতা, ব্যয়বহুল এআই প্রতিভা এবং নিরাপত্তা গবেষণার মধ্যে ভারসাম্য রাখতে হয় প্রতিষ্ঠানটিকে।
অ্যানথ্রপিক আরও জানিয়েছে, নতুন মডেল বাজারে আনার সঙ্গে তাদের গ্রাহক ব্যবহার এবং আয় সরাসরি সম্পর্কিত। তাই এআই উন্নয়নের শীর্ষ পর্যায়ে অবস্থান ধরে রাখতে ধারাবাহিকভাবে নতুন মডেল প্রকাশ করা তাদের ব্যবসার জন্য অপরিহার্য।
গত সপ্তাহে প্রতিষ্ঠানটি তাদের ওপাস মডেলের নতুন সংস্করণ প্রকাশ করেছে। এর মাত্র ১০ দিন আগে অ্যানথ্রপিকের প্রধান নির্বাহী কর্মকর্তা দারিও অ্যামোডেই এআইয়ের সর্বাধুনিক মডেলগুলোর উন্নয়ন ধীরগতির করার পক্ষে প্রায় ৪ হাজার শব্দের একটি প্রবন্ধ প্রকাশ করেছিলেন।
তবে বিশ্লেষক ও বিশেষজ্ঞদের কেউ কেউ মনে করছেন, কোনো শীর্ষ এআই প্রতিষ্ঠান উন্নয়নের গতি কমালে প্রতিদ্বন্দ্বীদের কাছে এগিয়ে যাওয়ার সুযোগ তৈরি হতে পারে। কারণ নতুন কোনো মডেল প্রকাশের সঙ্গে এআই খাতের কোম্পানিগুলোর মূল্যায়ন দ্রুত পরিবর্তিত হতে পারে।
সম্প্রতি অ্যানথ্রপিক ভবিষ্যৎ প্রজন্মের এআই তৈরিতে নিজেদের মডেল কীভাবে ব্যবহার করছে, সে বিষয়ে আরও তথ্য প্রকাশের প্রতিশ্রুতি দিয়েছে। এআই মডেল নিজে নিজে মানুষের সহায়তা ছাড়াই উন্নত হওয়ার পর্যায়ে পৌঁছাতে পারে—যাকে রিকার্সিভ সেলফ-ইমপ্রুভমেন্ট বলা হয়—এ নিয়ে বিশেষজ্ঞদের সতর্কতার মধ্যেই প্রতিষ্ঠানটি এমন উদ্যোগের কথা জানিয়েছে।
অ্যানথ্রপিক তাদের আইপিও নথিতে বলেছে, নির্ভরযোগ্য, বিশ্বাসযোগ্য ও নিরাপদ এআই ব্যবস্থা তৈরি করা সবার যৌথ দায়িত্ব এবং বাজার এ ধরনের ব্যবস্থাকে মূল্য দেবে বলে তারা বিশ্বাস করে।
সূত্র: রয়টার্স
এমএস/
