চ্যাটজিপিটির সর্বশেষ সংস্করণ দিয়ে যৌন উত্তেজক এবং ভয়াবহ সহিংসতার ছবি তৈরি করা সম্ভব। সাধারণ একটি নির্দেশ বা প্রম্পট লিখেই এই কাজ করা যাচ্ছে।
গবেষকরা বিবিসি-কে এই তথ্য জানিয়েছেন।

ব্রিটেনের কৃত্রিম বুদ্ধিমত্তা (এআই) নিরাপত্তা বিষয়ক প্রতিষ্ঠান ‘মাইন্ডগার্ড’ এই বিষয়টি খুঁজে পেয়েছে। তারা দেখেছে, ইন্টারনেটে বহুল ব্যবহৃত একটি সাধারণ নির্দেশ (প্রম্পট) সামান্য পরিবর্তন করে চ্যাটজিপিটি-কে দিয়ে বিভীষিকাময় ছবি তৈরি করা যায়। এই প্রম্পটটি মূলত মজার কিছু তৈরি করার জন্য ডিজাইন করা হয়েছিল।

এই বিষয়ে চ্যাটজিপিটির প্রতিষ্ঠাতা প্রতিষ্ঠান ‘ওপেনএআই’-এর সাথে যোগাযোগ করে বিবিসি। এরপর ওপেনএআই জানায়, তারা চ্যাটবটকে এই ধরনের ছবি তৈরি করা থেকে বিরত রাখার ব্যবস্থা নিয়েছে। ওপেনএআই এক বিবৃতিতে বলেছে, এই বিষয়টি তদন্ত করার পর তারা এই ধরণের প্রম্পটের বিরুদ্ধে অতিরিক্ত নিরাপত্তা ব্যবস্থা চালু করেছে। তারা আরো জানায়, ব্যবহারকারীরা যাতে তাদের নিয়ম ভঙ্গ করে কোনো কনটেন্ট তৈরি করতে না পারে, সেজন্য তাদের বিভিন্ন স্তরের নিরাপত্তা ব্যবস্থা রয়েছে।
তবে এআই নিরাপত্তা গবেষকরা জানিয়েছেন, সেই প্রম্পটটিতে আরো কিছু ছোটখাটো পরিবর্তন করে এখনও উদ্বেগজনক ছবি তৈরি করা যাচ্ছে।

তবে ওই ছবিগুলো তৈরি করার জন্য ওপেনএআই-এর ‘জিপিটি-৫.৪’ মডেলের এই চ্যাটবটটিকে গবেষকরা ঠিক কী প্রম্পট দিয়েছিলেন সেটা প্রকাশ না করলেও তা বিবিসি দেখেছে। মাইন্ডগার্ডের প্রতিষ্ঠাতা এবং ল্যাঙ্কাস্টার ইউনিভার্সিটির কম্পিউটিং বিভাগের অধ্যাপক পিটার গ্যারাগান বলেন, কোনো বিস্তারিত নির্দেশ ছাড়াই চ্যাটবটটি এমন সব ছবি তৈরি করছিল যা ছিল 'খুবই ভয়ঙ্কর', কখনো 'যৌন উত্তেজক', আবার কখনো এই দুইয়ের মিশ্রণ। তিনি আরো বলেন, তিনি বিশেষ করে এই কারণে চিন্তিত যে, নির্দেশটিতে কী ধরনের ছবি তৈরি করতে হবে তা বলা ছিল না। কিন্তু বিষয়টি সত্যিই উদ্বেগের যে এআই সম্পূর্ণ 'নিজের ইচ্ছায়' এমন রক্তারক্তি এবং যৌন উত্তেজক ছবি তৈরি করেছে।

তিনি বলেন, এআই-এর কাছে এই প্রম্পটকে একেবারেই সাধারণ মনে হয়। কিন্তু এর ফলাফলস্বরূপ এটি অত্যন্ত খারাপ ছবি ও কনটেন্ট তৈরি করে।
মাইন্ডগার্ড মূলত ‘রেড-টিমিং’ বা এআই-এর নিরাপত্তা ত্রুটি খোঁজার কাজ করে। তারা এআই মডেলগুলোকে নিজেদের নিয়ম ভাঙার জন্য প্ররোচিত করার উপায় খুঁজে বের করে। এর ফলে এআই কোম্পানিগুলো তাদের নিরাপত্তা ত্রুটিগুলো বন্ধ করতে পারে। প্রতিষ্ঠানটির এআই নিরাপত্তা গবেষক জিম নাইটিঙ্গেল এই সমস্যাগুলো খুঁজে বের করেছেন।