أوبن إيه آي توجِّه المحادثات الحساسة إلى GPT-5
مع إطلاق أدوات رقابة أبوية خلال الشهر المقبل
أعلنت شركة أوبن إيه آي (OpenAI) بدء توجيه المحادثات الحساسة إلى نماذج التفكير المنطقي مثل GPT-5، إضافة إلى إطلاق أدوات رقابة أبوية خلال الشهر المقبل.
تأتي هذه الخطوة في إطار استجابة الشركة لسلسلة من الحوادث المرتبطة بعدم قدرة ChatGPT على اكتشاف حالات الضيق النفسي لدى المستخدمين.
خلفية مأساوية تدفع إلى التغيير
تأتي هذه التحركات بعد حادثة انتحار المراهق آدم راين، الذي ناقش نواياه في إيذاء نفسه عبر محادثات مع شات جي بي تي، بل وتلقى تفاصيل حول طرق محددة للانتحار، فيما رفعت عائلته دعوى قضائية ضد الشركة تتهمها بالمسؤولية عن وفاته.
وفي حادثة مشابهة، أوردت صحيفة وول ستريت جورنال تقريراً عن ستاين-إريك سُولبيرج، الذي عانى من اضطرابات نفسية واستخدم شات جي بي تي لتعزيز أوهامه بوجود “مؤامرة كبرى”، لينتهي الأمر بارتكابه جريمة قتل والدته قبل أن ينتحر الشهر الماضي.
الحل: نماذج التفكير العميق
بحسب أوبن إيه آي، فإن جزءاً من الحل يتمثل في تحويل المحادثات الحساسة تلقائياً إلى نماذج التفكير، مثل GPT-5-thinking، القادرة على قضاء وقت أطول في التحليل والاستنتاج قبل الرد.
بهذا الصدد، توضح الشركة:
أدخلنا مؤخراً آلية توجيه فورية يمكنها اختيار النماذج المناسبة بناءً على سياق المحادثة، وسنبدأ قريباً في تحويل بعض المحادثات الحساسة -مثل الحالات التي يظهر فيها ضيق نفسي حاد- إلى نموذج تفكير مثل GPT-5، لضمان استجابات أكثر فائدة وإيجابية.
تصف أوبن إيه آي هذه النماذج بأنها أكثر مقاومة للهجمات القائمة على “الحث العدائي” (Adversarial Prompts) مقارنة بالنماذج الأسرع مثل GPT-4o.
الرقابة الأبوية: قواعد جديدة للمراهقين
إلى جانب ذلك، ستُطلق الشركة خلال أسابيع خاصية الرقابة الأبوية، والتي تتيح للوالدين ربط حساباتهم بحسابات أبنائهم المراهقين عبر دعوة بالبريد الإلكتروني.. ومن بين المزايا الجديدة:
- تطبيق قواعد سلوك نموذجية ملائمة للعمر تكون مُفعَّلة افتراضياً.
- إمكانية تعطيل ميزات مثل الذاكرة وسجل الدردشة لتقليل المخاطر النفسية المرتبطة بالتعلق المفرط أو ترسيخ أنماط التفكير السلبية.
- تلقي إشعارات فورية إذا رصد النظام أن المراهق في حالة ضيق نفسي حاد.
يُذكر أن الشركة أطلقت في يوليو/تموز الماضي وضعية الدراسة (Study Mode) لمساعدة الطلاب على تطوير التفكير النقدي بدلاً من الاعتماد على ChatGPT لكتابة واجباتهم.
تعاون مع خبراء الصحة النفسية
تؤكد أوبن إيه آي أن هذه الإجراءات جزء من خطة مدتها 120 يوماً لتعزيز السلامة، وتشمل التعاون مع شبكة من الأطباء والخبراء في مجالات مثل:
- اضطرابات الأكل
- الإدمان
- الصحة النفسية للمراهقين
ومن المقرر أن يعمل هؤلاء الخبراء عبر المجلس الاستشاري للصحة والذكاء الاصطناعي لتحديد أولويات الحماية وابتكار معايير لقياس رفاهية المستخدمين.
انتقادات قانونية حادة
رغم هذه التحركات، اعتبر جاي إديلسون، المحامي الممثل لعائلة راين، أن استجابة أوبن إيه آي “غير كافية”، قائلاً:
الشركة لا تحتاج لجنة خبراء لتعرف أن ChatGPT-4o خطير، كانوا يعلمون ذلك منذ إطلاقه وحتى اليوم.. يجب على سام ألتمان أن يُصرِّح بوضوح إمَّا أن المنتج آمن، أو أن يسحبه فوراً من السوق.
المصادر:
