নিরাপত্তা ঝুঁকিতে নতুন এআই মডেল আনছে না ওপেনএআই

প্রতিবেদন অনুযায়ী, ‘অ্যাস্ট্রা ৬.১’ নামের মডেলটি আগামী কয়েক দিনের মধ্যে প্রকাশের পরিকল্পনা ছিল। তবে পরীক্ষায় আগের সংস্করণগুলোর তুলনায় মডেলটির মধ্যে বেশি ‘প্রতারণামূলক আচরণ’ এবং কিছু অনিরাপদ কার্যক্রমের লক্ষণ শনাক্ত হয়। এর পরিপ্রেক্ষিতে মডেলটি প্রকাশ না করার সিদ্ধান্ত নেয় প্রতিষ্ঠানটি।

ওপেনএআইয়ের নিরাপত্তা বিভাগের প্রধান সাচি জেইন ওয়াল স্ট্রিট জার্নালকে জানিয়েছেন, মডেলটি এআই ‘অ্যালাইনমেন্ট’ পরীক্ষায় প্রত্যাশিত ফল অর্জন করতে পারেনি। মানুষের নির্দেশনা ও উদ্দেশ্য একটি এআই ব্যবস্থা কতটা নির্ভুলভাবে অনুসরণ করছে, তা যাচাই করতেই এ ধরনের পরীক্ষা করা হয়।

আরও পড়ুন

• চ্যাটজিপিটিতে পাঁচ ধরনের তথ্য ও কাজ এড়িয়ে চলুন

অ্যাস্ট্রা সিরিজের আগের মডেলটি চলতি মাসের শুরুতে উন্মোচন করেছিল ওপেনএআই। তখন প্রতিষ্ঠানটি সেটিকে তাদের সবচেয়ে শক্তিশালী এআই মডেল হিসেবে উপস্থাপন করেছিল। কিন্তু নতুন সংস্করণ প্রকাশের আগে নিরাপত্তা পরীক্ষার ফল প্রকাশনার পরিকল্পনায় পরিবর্তন আনতে বাধ্য করেছে।

এ বিষয়ে ওপেনএআইয়ের বক্তব্য জানতে চেয়েছে টেকক্রাঞ্চ। তবে প্রতিবেদন প্রকাশের সময় পর্যন্ত প্রতিষ্ঠানটির পক্ষ থেকে কোনো মন্তব্য পাওয়া যায়নি।

সাম্প্রতিক সময়ে এআই ব্যবস্থার নিরাপত্তা নিয়ে প্রযুক্তি খাতে উদ্বেগও বাড়ছে। এর আগে বিভিন্ন প্রতিবেদনে ওপেনএআইয়ের একটি এআই সিস্টেম নিয়ন্ত্রিত পরিবেশের বাইরে গিয়ে বিভিন্ন প্রতিষ্ঠানের ব্যবস্থায় অননুমোদিত প্রবেশের চেষ্টা করেছিল বলে দাবি করা হয়। অ্যানথ্রপিকের ক্লড ও গুগলের জেমিনির মতো অন্য এআই ব্যবস্থার ক্ষেত্রেও একই ধরনের আচরণের অভিযোগ সামনে এসেছে।

আরও পড়ুন

• চ্যাটজিপিটিতে মুছে ফেলা তথ্য কি ফেরানো যায়?

এ ধরনের ঘটনার পর এআই ব্যবস্থার নিরাপত্তা, নিয়ন্ত্রণ এবং ব্যবহারের সীমা নিয়ে নতুন করে আলোচনা শুরু হয়েছে। যুক্তরাষ্ট্রেও এআই নিরাপত্তা ঘিরে শিল্প খাতের জন্য নতুন মানদণ্ড তৈরির উদ্যোগ নিয়ে আলোচনা চলছে।

ওপেনএআই ও অ্যানথ্রপিকসহ কয়েকটি প্রতিষ্ঠান এআই নিরাপত্তাকে এসব উদ্যোগের অন্যতম কারণ হিসেবে উল্লেখ করেছে। তবে সমালোচকদের একাংশের আশঙ্কা, কঠোর নিরাপত্তা মানদণ্ড বাস্তবায়নে বড় প্রযুক্তি প্রতিষ্ঠানগুলো তুলনামূলক সুবিধা পেতে পারে। একই ধরনের নিরাপত্তাব্যবস্থা তৈরি ও বাস্তবায়নের ব্যয় ছোট প্রতিষ্ঠানগুলোর জন্য বেশি হতে পারে।