لمواجهة المخاطر النفسية: أوبن إيه آي تطلق نظام توجيه للسلامة وميزات رقابة أبوية
طرحت الشركة أدوات رقابة أبوية تتيح للوالدين تخصيص تجربة أبنائهم المراهقين
أعلنت شركة أوبن إيه آي بدء اختبار نظام توجيه جديد للسلامة في تطبيق شات جي بي تي خلال عطلة نهاية الأسبوع، كما كشفت أمس الإثنين عن إضافة خيارات رقابة أبوية إلى المنصة، ما أثار تفاعلات متباينة بين المستخدمين والخبراء.
استجابة لحوادث سابقة مثيرة للجدل
تأتي هذه الخطوة عقب حوادث متكررة اتُهمت فيها نماذج الدردشة السابقة بدعم أفكار وهمية لدى بعض المستخدمين، بدلاً من توجيه المحادثات نحو مسار آمن.
فيما تواجه الشركة حالياً دعوى قضائية تتعلق بوفاة مراهق أنهى حياته بعد أشهر من المحادثات مع شات جي بي تي.
نظام توجيه ذكي يعتمد على GPT-5
يعتمد النظام الجديد على آلية كشف المحادثات الحساسة عاطفياً، ليحوِّل المحادثة تلقائياً إلى نموذج GPT-5-thinking، حيث تعتبره الشركة النموذج الأكثر كفاءة للتعامل مع المحادثات عالية المخاطر.
درَّبت أوبن إيه آي هذه النماذج بميزة أطلقت عليها اسم “الإكمال الآمن – Safe Completions”، ما يسمح بالإجابة على الأسئلة الحساسة بطريقة آمنة بدلاً من الاكتفاء بالرفض.
هذا النهج يختلف عن النماذج السابقة التي كانت تميل إلى المجاملة والإجابة السريعة، مثل GPT-4o الذي واجه انتقادات بسبب طبيعته المفرطة في الإيجابية، الأمر الذي غذَّى بعض حالات الأوهام الناتجة عن الذكاء الاصطناعي، رغم شعبيته الكبيرة.
ردود فعل متباينة
رحَّب كثير من الخبراء والمستخدمين بهذه الميزة، في حين انتقد آخرون ما وصفوه بـ”المبالغة في الحذر”، معتبرين أنها تتعامل مع البالغين كالأطفال وتؤثر سلباً في جودة الخدمة.
من جانبها، أوضحت أوبن إيه آي أنها منحت نفسها فترة 120 يوماً لتطوير النظام وتحسينه بناءً على ردود الفعل.
تصريحات رسمية
في السياق نفسه، قال “نيك تورلي” نائب رئيس شات جي بي تي، عبر منصة إكس (X):
يتم التوجيه على أساس كل رسالة على حدة، والتحويل عن النموذج الافتراضي يحدث بشكل مؤقت.. سيخبرك شات جي بي تي دائماً بالنموذج النشط عند السؤال، وهذه الخطوة لتعزيز الحماية والتعلم من الاستخدام الفعلي قبل التوسع.
ميزات رقابة أبوية متقدمة
إلى جانب نظام التوجيه، طرحت الشركة أدوات رقابة أبوية تتيح للوالدين تخصيص تجربة أبنائهم المراهقين عبر:
- تحديد أوقات “الهدوء”.
- تعطيل وضع الصوت والذاكرة.
- إزالة ميزة إنشاء الصور.
- إيقاف مشاركة بيانات المحادثة في تدريب النماذج.
ومن المقرر حصول حسابات المراهقين على حماية إضافية للمحتوى، بما في ذلك تقليل المواد العنيفة والمثل الجمالية المفرطة، إضافة إلى نظام لرصد علامات التفكير في إيذاء النفس.
بهذا الصدد، أوضحت أوبن إيه آي في مدونتها أنه إذا اكتشفت الأنظمة مؤشرات خطر، يقوم فريق متخصص بمراجعة الحالة، وفي حال وجود علامات ضائقة حادة يتم إخطار الوالدين عبر البريد الإلكتروني والرسائل النصية والإشعارات الفورية ما لم يختاروا عدم تلقيها.
من جانبها، تعمل الشركة على تطوير آليات للتواصل مع السلطات أو خدمات الطوارئ إذا تعذر الوصول إلى الأهل ووجدت تهديداً وشيكاً للحياة.
المصادر:
