مطالبات بسحب نموذج سورا 2 من التداول العام بسبب مخاطر التزييف العميق  

مع تنامي الاستخدام العام لتقنيات وأدوات الذكاء الاصطناعي، تتزايد التحذيرات من الانعكاسات السلبية لإتاحة هذه الأدوات في إنشاء الصور والفيديوهات تحت شعار “الإبداع”، وتجاهل المخاوف من آثار ما قد تنتجه على الحقيقة البصرية والخصوصية الفردية.

فبينما تُروَّج هذه الأدوات باعتبارها ابتكارات توسّع آفاق العمل الفني والمهني، يرى ناشطون ومنظمات مدنية أنها قد تتحول إلى وسيلة خطرة للتضليل، وانتهاك حقوق الأفراد، وتقويض الثقة المجتمعية في المحتوى المرئي.

وفي هذا السياق، صعّدت منظمة المواطن العام، وهي مؤسسة أمريكية غير ربحية معروفة بدفاعها عن حقوق المستهلك والمساءلة في قطاع التكنولوجيا، احتجاجها على شركة أوبن إيه آي، وطالبت بوقف نشر نموذج الفيديو الجديد سورا 2، محذّرة من مخاطره الاجتماعية والقانونية.

وطالبت المنظمة، في رسالة رسمية إلى شركة أوبن إيه آي، بسحب نموذج إنتاج الفيديو سورا 2 من التداول العام، محذّرة من أن الإصدار الأخير يكرّس مخالفات خطيرة تتعلق بانتشار التضليل عبر التزييف العميق، وانتهاك حقوق الاسم والصورة والتشابه، إلى جانب مخاوف من استخدامه في التحرش الرقمي وضعف الحماية التقنية لحقوق النشر.

وشددت المنظمة على ضرورة التزام الشركة بعملية نشر مدروسة وشفافة وأخلاقية، تضمن وجود آليات حماية ضد المخاطر الاجتماعية قبل أي إصدار عام، داعيةً إلى التعاون مع خبراء القانون ومنظمات الحقوق المدنية ودعاة الديمقراطية لوضع حدود تكنولوجية وأخلاقية صارمة.

وقال جيه بي برانش، أحد دعاة المساءلة في مجال شركات التكنولوجيا الكبرى بالمنظمة، إن إطلاق سورا 2 بشكل متسرع يعكس نمطاً خطيراً من اندفاع أوبن إيه آي نحو طرح منتجات غير آمنة بطبيعتها وتفتقر إلى الضمانات اللازمة.

وأضاف أن هذا السلوك يُظهر تجاهلاً متهوراً لسلامة المنتج، وحقوق الاسم والصورة والتشابه، واستقرار الديمقراطية، وحماية المستهلك من الأضرار.

سورا 2 وتهديدات التزييف العميق

وشرحت منظمة المواطن العام في رسالتها مجموعة من القضايا التي تجعل سورا 2 غير صالح لـ “الاستخدام العام”، أبرزها:

– تهديد الحقائق المرئية:

اتهمت منظمة المواطن العام شركة أوبن إيه آي بأن نموذجها الجديد سورا 2 يوفر أداة سهلة وقابلة للتوسع لإنشاء ونشر دعاية التزييف العميق، خاصة مع اقتراب انتخابات منتصف المدة لعام 2026، وهو ما قد تكون له عواقب وخيمة على استقرار الحقائق المرئية.

– تجاهل حقوق الاسم والصورة والتشابه:

أشارت المنظمة إلى أن شركة أوبن إيه آي تجاهلت حقوق الأفراد، إذ يستمر المستخدمون في إعادة إنتاج صور أشخاص دون موافقتهم، بما في ذلك شكاوى من ورثة مشاهير متوفين.

– انتشار محتوى التحرش الرقمي:

اتهمت المنظمة التطبيق التابع لشركة أوبن إيه آي بأنه ساهم في انتشار أنماط من التحرش الرقمي أثّرت بشكل غير متناسب على النساء اللواتي كُنّ الأكثر عرضة للاستغلال، مع وجود نقص خطير في الرقابة على صور القاصرين التي يُعاد إنتاجها في سياقات غير لائقة.

– فشل الحماية التقنية:  

أكدت المنظمة أن شركة أوبن إيه آي فشلت في تطبيق سياسة “الانسحاب” لأصحاب حقوق النشر بشكل متسق، مما سمح بتكاثر صور الكيانات المحمية بحقوق الطبع والنشر.

كما تمكن الباحثون من تجاوز ضمانات مكافحة انتحال الشخصية خلال 24 ساعة فقط من إطلاق التطبيق، بينما يمكن إزالة العلامات الأمنية “الإلزامية” في أقل من أربع دقائق باستخدام أدوات مجانية متاحة عبر الإنترنت.

المصادر

منظمة المواطن العام الأمريكية  

  يو إس إيه توداي