ویب ڈیسک (سی این این اردو) انڈونیشیا اور ملائیشیا نے ایلون مسک کے مصنوعی ذہانت کے چیٹ بوٹ گروک (Grok) پر پابندی عائد کر دی ہے۔ یہ فیصلہ اس وقت سامنے آیا جب اس ٹول کے ذریعے خواتین اور کم عمر بچوں کی غیر اخلاقی اور بغیر اجازت تیار کی گئی تصاویر بڑے پیمانے پر انٹرنیٹ پر گردش کرنے لگیں۔
حکام کے مطابق گروک میں موجود ڈیجیٹل انڈریسنگ جیسے فیچرز کا غلط استعمال کیا گیا، جس کے نتیجے میں عام خواتین کی تصاویر کو مصنوعی طور پر بیکنی، زیرِ جامہ یا جنسی طور پر اشتعال انگیز انداز میں تبدیل کیا گیا۔ ان تصاویر نے دنیا بھر میں لاکھوں خواتین کو ذہنی اذیت اور ہراسانی کا سامنا کرنے پر مجبور کیا۔
انڈونیشیا اور ملائیشیا کا مؤقف
انڈونیشیا کی وزیر برائے ڈیجیٹل امور میوتیا حافظ نے کہا کہ یہ پابندی
“خواتین، بچوں اور عوام کو مصنوعی ذہانت کے ذریعے تیار کیے گئے جعلی اور فحش مواد کے خطرات سے محفوظ رکھنے کے لیے عائد کی گئی ہے۔”
ملائیشیا کی حکومت نے بھی اسی نوعیت کے خدشات کے پیشِ نظر گروک پر عارضی پابندی نافذ کی ہے، جس میں خواتین اور بچوں سے متعلق غیر اخلاقی، فحش اور غیر رضامندانہ تصاویر کی تیاری کا حوالہ دیا گیا۔
دونوں ممالک مسلم اکثریتی ہیں اور وہاں فحاشی، غیر اخلاقی مواد اور ڈیجیٹل جرائم کے خلاف سخت قوانین نافذ ہیں۔
عالمی خدشات میں اضافہ
گروک کو ایلون مسک کی کمپنی xAI نے تیار کیا ہے اور یہ ان کے سوشل میڈیا پلیٹ فارم ایکس (سابقہ ٹوئٹر) سے منسلک ہے۔ عالمی سطح پر خدشات بڑھ رہے ہیں کیونکہ گروک کو دیگر معروف اے آئی ماڈلز کے مقابلے میں زیادہ حد تک جنسی مواد کی اجازت دینے والا ٹول سمجھا جا رہا ہے۔
یورپی غیر منافع بخش ادارے AI Forensics کی ایک تحقیق میں دسمبر کے آخر اور جنوری کے آغاز کے درمیان گروک سے تیار کی گئی 20 ہزار سے زائد تصاویر اور 50 ہزار صارف درخواستوں کا تجزیہ کیا گیا۔ رپورٹ کے مطابق، نصف سے زیادہ تصاویر میں افراد کو بیکنی یا زیرِ جامہ جیسے کم لباس میں دکھایا گیا۔
xAI کا ردعمل اور حفاظتی خدشات
اگرچہ xAI نے دعویٰ کیا ہے کہ غیر قانونی مواد تیار کرنے والے اکاؤنٹس کو معطل کیا جا رہا ہے اور مقامی حکومتوں سے تعاون جاری ہے، تاہم اس کے باوجود گروک کے ذریعے خواتین کو جنسی انداز میں پیش کرنے والا مواد مسلسل سامنے آ رہا ہے۔
برطانیہ، یورپی یونین اور بھارت کے حکام نے بھی گروک کے حفاظتی اقدامات اور نگرانی کے نظام پر شدید تشویش کا اظہار کیا ہے۔
اطلاعات کے مطابق اس تنازع سے قبل xAI کی حفاظتی ٹیم کے کئی ارکان مستعفی ہو چکے تھے، جس سے نظام کی نگرانی مزید کمزور ہو گئی۔
برطانیہ کا سخت ردعمل
برطانیہ کی ٹیکنالوجی سیکریٹری نے خواتین اور بچوں کی جنسی طور پر تبدیل کی گئی تصاویر کو
“شرمناک اور ناقابلِ قبول”
قرار دیتے ہوئے ریگولیٹری اداروں سے فوری اور سخت کارروائی کا مطالبہ کیا ہے۔
آگے کیا ہوگا؟
ماہرین کے مطابق یہ پابندیاں عالمی سطح پر اے آئی ریگولیشن کے عمل کو تیز کر سکتی ہیں۔ مستقبل میں دیگر ممالک بھی خواتین اور بچوں کے تحفظ کے لیے مصنوعی ذہانت کے پلیٹ فارمز پر سخت ضوابط نافذ کر سکتے ہیں۔
About The Author
