ماليزيا وإندونيسيا تقرران حظر تطبيق “جروك” بسبب محتواه الفاحش
أصدرت السلطات التنفيذية في ماليزيا وإندونيسيا قرارا بحظر تطبيق “جروك” التابع لإيلون ماسك، بسبب محتواه الفاحش وغير اللائق.
يأتي هذا وسط تزايد مخاوف من استخدام التطبيق في إنشاء صور فاضحة ومفبركة بتقنيات التزييف العميق دون موافقة أصحابها، بما في ذلك صور لقاصرين.
وقالت الجهات التنظيمية في ماليزيا إن قرارها جاء نتيجة “إخفاقات متكررة” من جانب شركة “إكس” في معالجة مخاطر المحتوى المرتبطة بأداة الذكاء الاصطناعي، ونفس الأمر ذكرته السلطات الإندونيسية.
وقالت هيئة الاتصالات والوسائط المتعددة الماليزية إن ردود شركة “إكس آيه آي” غير الكافية اعتمدت بشكل أساسي على آليات الإبلاغ التي يبدأها المستخدمون، ولم تتناول المخاطر الكامنة في تصميم وتشغيل أداة الذكاء الاصطناعي نفسها.
وأضافت قائلة “بناءً على ذلك، يُفرض هذا التقييد كإجراء وقائي ومتناسب ريثما تُستكمل الإجراءات القانونية والتنظيمية. وسيظل الوصول إلى جروك مقيدًا إلى حين تطبيق ضمانات فعّالة، ولا سيما لمنع المحتوى الذي يتضمن نساءً وأطفالًا”.
كما صرّح وزير الاتصالات والشؤون الرقمية الإندونيسي، موتيا حفيد، بأن “الحكومة تعتبر مقاطع الفيديو الجنسية المزيفة التي تُنتج دون موافقة انتهاكًا خطيرًا لحقوق الإنسان وكرامته وأمن المواطنين في الفضاء الرقمي”.
كما صنّف الوزير الإندونيسي إساءة استخدام الذكاء الاصطناعي لإنشاء مواد إباحية مزيفة كشكل من أشكال “العنف الرقمي”، وفقًا لتصريحات نشرتها وكالة أنباء أنتارا الحكومية.
ودعت السلطات في دول أخرى، بما في ذلك الاتحاد الأوروبي والمملكة المتحدة والبرازيل والهند، إلى إجراء تحقيقات في دور تطبيق “جروك” في تسهيل إنتاج مقاطع الفيديو الجنسية المزيفة الفاحشة التي تُنتج دون موافقة.
في الوقت نفسه، أوصى بعض المشرعين الديمقراطيين في واشنطن بتعليق استخدام أداة الذكاء الاصطناعي في متاجر التطبيقات، على الأقل حتى يُجري إيلون ماسك تغييرات جوهرية.
وقالت وزارة العدل الأمريكية في بيان إنها “تتعامل مع مواد الاعتداء الجنسي على الأطفال التي يُنتجها الذكاء الاصطناعي بمنتهى الجدية، وستُلاحق قضائيًا أي منتج أو حائز لهذه المواد”.
وأضاف البيان: “نواصل استكشاف طرق لتحسين تطبيق القانون في هذا المجال لحماية الأطفال ومحاسبة الأفراد الذين يستغلون التكنولوجيا لإلحاق الضرر بأكثر الفئات ضعفاً”.
