أوبن إيه آي تطور قيوداً جديدة على مستخدمي شات جي بي تي المراهقين
في بعض الدول سيطلب تقديم بطاقة هوية للتحقق من العمر
أعلنت شركة “أوبن إيه آي” أنها تعمل على تطوير نظام تحقق عمري جديد لمستخدمي شات جي بي تي بهدف تحديد المستخدمين تحت سن 18 عاماً ومنع وصولهم إلى المحتوى غير المناسب.
يأتي هذا التحرك على خلفية انتحار المراهق البريطاني آدم راين (15 عاماً) في قضية اتهم فيها شات جي بي تي بالتسبب ب “القتل الخطأ”.
تحقق عمري عبر الذكاء الاصطناعي
أوضحت شركة أوبن إيه آي أنها بصدد اختبار نظام تحقق عمري يعتمد على تحليل اللغة والسلوك داخل المحادثة، دون الحاجة إلى جمع بيانات شخصية أو وثائق رسمية.
والهدف هو التعرف على المستخدمين القُصّر من خلال أنماط الاستخدام، وتقييد وصولهم إلى بعض الوظائف أو المحتوى الحساس.
ونقلت صحيفة الجارديان عن الرئيس التنفيذي للشركة سام ألتمان قوله “نخطط لبناء نظام للتنبؤ بالعمر لتقدير العمر بناءً على كيفية استخدام المستخدمين لتطبيق ChatGPT، وفي حال وجود أي شك، سيعتمد النظام افتراضياً على تجربة المستخدمين دون سن 18 عاماً”.
ولفت ألتمان إلى احتمال أن يطلب من بعض المستخدمين “في بعض الحالات أو البلدان” تقديم بطاقة هوية للتحقق من أعمارهم مستدركاً بالقول: “نحن نعلم أن هذا يشكل انتهاكاً لخصوصية البالغين، ولكننا نعتقد أنه مقايضة جديرة بالاهتمام.”
وبين ألتمان أن طريقة تعامل ChatGPT مع الحسابات التي تُعرف بأنها دون سن 18 عاماً ستتغير، موضحاً أنه “سيتم حظر المحتوى الجنسي الصارخ، وسيتم تدريبه على عدم المغازلة إذا طلبها مستخدمون دون سن 18 عاماً، أو الانخراط في نقاشات حول الانتحار أو إيذاء النفس حتى في جلسات الكتابة الإبداعية”.
وتابع: “إذا كان لدى مستخدم يقل عمره عن 18 عاماً أفكار انتحارية، فسنحاول الاتصال بوالدي المستخدم، وإذا لم نتمكن من ذلك، فسنتصل بالسلطات في حالة حدوث ضرر وشيك”.
تحديات الخصوصية
تأتي هذه الخطوة في ظل تصاعد الضغوط الدولية على شركات الذكاء الاصطناعي من قبل الحكومات والجهات التنظيمية، خاصة في أوروبا والولايات المتحدة، لفرض ضوابط صارمة على استخدام نماذج الذكاء الاصطناعي التوليدي، وضمان عدم تسببها في ضرر نفسي أو اجتماعي للمستخدمين.
ويفتح هذا التوجه باباً واسعاً في الدول الغربية للنقاش حول كيفية موازنة حماية المستخدمين القُصّر مع احترام الخصوصية الرقمية، فبينما تُعد أدوات التحقق العمري ضرورية، فإن تطبيقها دون جمع بيانات حساسة يمثل تحدياً تقنياً أخلاقياً في آنٍ واحد.
المصادر
Theguardian
Computing
