ডিপফেক বিতর্কে গ্রোক অ্যাপ সরানোর হুমকির পর কেন আবার অনুমোদন অ্যাপলের
· Prothom Alo
ডিপফেক–সংক্রান্ত বিতর্কের জেরে কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবট গ্রোককে ঘিরে নতুন করে আলোচনা শুরু হয়েছে। অভিযোগের মুখে অ্যাপটি তাদের অ্যাপ স্টোর থেকে সরিয়ে দেওয়ার হুমকি দিয়েছিল অ্যাপল। পরে ডেভেলপারদের সংশোধনের পর সেটি অনুমোদন দেওয়া হয়। সম্প্রতি এ বিষয়ে বিস্তারিত তথ্য প্রকাশ্যে এসেছে।
মার্কিন সংবাদমাধ্যম এনবিসি নিউজের এক প্রতিবেদনে বলা হয়েছে, চলতি বছরের জানুয়ারিতে ‘আনড্রেসিং’ বিতর্ক ছড়িয়ে পড়ার পর অ্যাপল নীরবে এক্স এবং গ্রোক অ্যাপের ডেভেলপারদের সঙ্গে যোগাযোগ করে। অভিযোগ ছিল, অ্যাপটি ব্যবহার করে অননুমোদিত ও যৌন ইঙ্গিতপূর্ণ ডিপফেক ছবি তৈরি করা হচ্ছে, যা অ্যাপ স্টোরের নীতিমালার সরাসরি লঙ্ঘন। বিষয়টি সামনে আসার পর অ্যাপল সংশ্লিষ্ট ডেভেলপারদের কনটেন্ট নিয়ন্ত্রণ জোরদারের একটি সুস্পষ্ট পরিকল্পনা জমা দিতে বলে। সেই অনুযায়ী গ্রোক অ্যাপের একটি হালনাগাদ সংস্করণ জমা দেওয়া হলেও তা প্রথমে প্রত্যাখ্যান করা হয়।
Visit esporist.com for more information.
অ্যাপলের পর্যবেক্ষণ ছিল, প্রস্তাবিত পরিবর্তনগুলো নীতিমালার সঙ্গে সামঞ্জস্যপূর্ণ নয় এবং ব্যবহারকারীর নিরাপত্তা নিশ্চিত করার জন্য যথেষ্ট নয়। পরবর্তী সময়ে সংশোধিত সংস্করণ আবার জমা দেওয়া হলে এক্স অ্যাপটি অনুমোদন পায়। তবে গ্রোক তখনো নীতিমালার সব শর্ত পূরণ করতে পারেনি। এ অবস্থায় অ্যাপল ডেভেলপারদের সতর্ক করে জানায়, প্রয়োজনীয় পরিবর্তন দ্রুত না আনলে অ্যাপটি অ্যাপ স্টোর থেকে সরিয়ে নেওয়া হতে পারে।
মার্কিন সিনেটরদের কাছে পাঠানো এক চিঠিতে অ্যাপল জানায়, এক্স তাদের নীতিমালা লঙ্ঘনের বিষয়গুলো অনেকাংশে সমাধান করলেও গ্রোক তখনো পুরোপুরি নির্দেশিকা মানতে ব্যর্থ হয়। পরে ডেভেলপারদের আরও কিছু সংশোধনের পর গ্রোকের সর্বশেষ সংস্করণ অনুমোদন দেওয়া হয়।
চলতি বছরের শুরুতে তুলনামূলক শিথিল নিরাপত্তাব্যবস্থার কারণে গ্রোক দ্রুত জনপ্রিয়তা পায়। তবে একই সঙ্গে এর অপব্যবহারও বাড়তে থাকে। ব্যবহারকারীরা এই এআই টুল ব্যবহার করে বাস্তব মানুষের ও বিশেষ করে নারীদের যৌন ইঙ্গিতপূর্ণ ডিপফেক ছবি তৈরি করছিলেন। কিছু ক্ষেত্রে অপ্রাপ্তবয়স্কদের ছবিও ব্যবহার করা হয়েছে বলে অভিযোগ ওঠে, যা আন্তর্জাতিক পর্যায়ে তীব্র প্রতিক্রিয়া সৃষ্টি করে। এ ঘটনায় যুক্তরাষ্ট্রের তিন ডেমোক্র্যাট সিনেটর রন ওয়াইডেন, বেন রায় লুজান এবং এডওয়ার্ড মার্কি চিঠি দিয়ে অ্যাপল ও গুগলকে এক্স ও গ্রোক অ্যাপ সরিয়ে নেওয়ার আহ্বান জানান। তাঁদের মতে, এ ধরনের কনটেন্ট অ্যাপ স্টোর ও প্লে স্টোর উভয় প্ল্যাটফর্মের নীতিমালার সুস্পষ্ট লঙ্ঘন।
সমালোচনার মুখে গ্রোকের ছবি তৈরির সুবিধা সীমিত করে কেবল অর্থপ্রদানকারী ব্যবহারকারীদের জন্য উন্মুক্ত করা হয়। ইলন মাস্ক সতর্ক করে বলেন, অবৈধ কনটেন্ট তৈরির ক্ষেত্রে সংশ্লিষ্ট ব্যবহারকারীদের বিরুদ্ধে আইনগত ব্যবস্থা নেওয়া হবে।
বিতর্ক এখনো থামেনি। এনবিসি নিউজের সাম্প্রতিক এক প্রতিবেদনে দেখা গেছে, এক্স প্ল্যাটফর্মে এখনো এআইনির্ভর যৌন ইঙ্গিতপূর্ণ ডিপফেক ছবি ছড়িয়ে পড়ছে। একইভাবে রয়টার্সের এক প্রতিবেদনে উল্লেখ করা হয়, সতর্কবার্তা দেওয়ার পরও নির্দিষ্ট নির্দেশনা পেলে গ্রোক অ্যাপ এখনো এমন ছবি তৈরি করতে সক্ষম। অন্যদিকে এক্সের সেফটি টিম দাবি করেছে, তারা অননুমোদিত ডিপফেক তৈরি কঠোরভাবে নিষিদ্ধ করেছে এবং অপব্যবহার ঠেকাতে নজরদারি, প্রম্পট ফিল্টার ও মডেল হালনাগাদের মতো বিভিন্ন সুরক্ষাব্যবস্থা জোরদার করা হয়েছে।
সূত্র: ইন্ডিয়ান এক্সপ্রেস