كاليفورنيا: أول ولاية تنظِّم روبوتات الدردشة المصاحبة بالذكاء الاصطناعي
بروتوكولات أمان مخصصة لحماية المستخدمين، خاصةً الأطفال والفئات الضعيفة
في خطوة تُعدُّ سابقة وطنية، وقَّع حاكم ولاية كاليفورنيا “غافن نيوسوم” على مشروع قانون تاريخي لتنظيم روبوتات الدردشة المصاحبة بالذكاء الاصطناعي، لتصبح الولاية الأولى في الولايات المتحدة التي تُلزم مشغِّلي هذه الروبوتات بتطبيق بروتوكولات أمان مخصصة لحماية المستخدمين، خاصةً الأطفال والفئات الضعيفة.
قانون SB 243: حماية من مخاطر الذكاء الاصطناعي العاطفي
ينصّ القانون SB 243 على تحميل الشركات المسؤولية القانونية في حال فشل أنظمتها في الالتزام بالمعايير المحددة، حيث يهدف القانون إلى حماية المستخدمين من الأضرار النفسية والاجتماعية التي قد تنجم عن التفاعل المطوَّل مع روبوتات الذكاء الاصطناعي، خصوصاً بعد وقوع حوادث مأساوية أثارت الرأي العام.
خلفية مأساوية تشعل التشريعات
جاء تقديم القانون في يناير/تشرين الثاني الماضي على يد السيناتورين “ستيف باديلا” و”جوش بيكر”، بعد وفاة المراهق “آدم رين” الذي انتحر إثر سلسلة محادثات انتحارية طويلة مع روبوت دردشة تابع لأوبن إيه آي.
جاءت المبادرة أيضاً استجابةً لتسريبات كشفت أن بعض روبوتات ميتا سمحت بإجراء محادثات عاطفية وحسية مع الأطفال، إضافة إلى حادثة أخرى في كولورادو، حيث رفعت عائلة دعوى قضائية ضد شركة Character.AI بعد انتحار ابنتهم البالغة من العمر 13 عاماً عقب محادثات “جنسية ومزعجة” مع أحد روبوتات الشركة.
نيوسوم: حماية الأطفال مسؤولية لا تُباع
بهذا الصدد، قال الحاكم “غافن نيوسوم” في بيان رسمي:
يمكن للتقنيات الناشئة مثل روبوتات الدردشة ووسائل التواصل أن تلهم وتعلِّم وتقرِّب بين الناس، لكنها من دون ضوابط حقيقية يمكن أن تستغل وتضلل وتعرض أطفالنا للخطر.. لقد شهدنا أمثلة مأساوية مروِّعة لأطفال تضرروا بسبب تقنيات غير منظمة، ولن نقف مكتوفي الأيدي بينما تواصل الشركات العمل بلا قيود أو مساءلة.. سنواصل ريادتنا في مجال الذكاء الاصطناعي، ولكن بمسؤولية.. سلامة أطفالنا ليست للبيع.
متطلبات جديدة للشركات
سيدخل القانون حيَّز التنفيذ في 1 يناير/كانون الثاني 2026، وسيفرض على الشركات تطبيق ميزات أساسية تشمل:
- التحقق من العمر قبل استخدام أي روبوت دردشة.
- تحذيرات واضحة حول طبيعة التفاعل مع الروبوتات المصاحبة.
- غرامات مالية صارمة تصل إلى 250 ألف دولار لكل انتهاك متعلق باستغلال المقاطع المزيفة (deepfakes).
- إجراءات إلزامية للتعامل مع حالات الانتحار وإيذاء الذات، بما في ذلك مشاركة البيانات مع وزارة الصحة العامة في الولاية.
- إشعارات دورية للمستخدمين القُصَّر لتشجيعهم على أخذ فترات راحة أثناء الاستخدام.
- حظر كامل للمحتوى الجنسي أو الصور الصريحة التي يمكن توليدها عبر هذه الأنظمة.
كما يُلزم القانون المنصات بتوضيح أن جميع المحادثات ناتجة عن ذكاء اصطناعي وليست تفاعلاً بشرياً حقيقياً، مع منع الروبوتات من تقديم نفسها كمتخصصين في الرعاية الصحية أو العلاج النفسي.
تحرك قبل الموعد
في السياق نفسه، بدأت بعض الشركات باتخاذ خطوات استباقية للامتثال للقانون الجديد، حيث أعلنت أوبن إيه آي عن طرح أدوات الرقابة الأبوية ونظام رصد سلوكيات إيذاء النفس في إصدار شات جي بي تي للأطفال.
ومن جانبها، أكَّدت Character.AI أن روبوتاتها تتضمن تنويهاً واضحاً بأن:
جميع المحادثات مولَّدة آلياً وذات طابع خيالي.
دعم تشريعي متزايد وتنظيم متسارع
على الجانب الآخر، أضاف السيناتور ستيف باديلا:
يعد القانون خطوة في الاتجاه الصحيح نحو وضع حواجز أمان أمام تكنولوجيا شديدة القوة.. علينا التحرك بسرعة قبل أن تفوتنا فرصة التنظيم.. أعتقد أن النقاش يدور بالفعل في أنحاء البلاد، وآمل أن تحذو ولايات أخرى حذونا، خصوصاً مع غياب التحرك الفيدرالي حتى الآن.
تشريعات إضافية في الطريق
يُذكر أن هذا القانون هو ثاني تشريع رئيسي متعلق بالذكاء الاصطناعي في كاليفورنيا خلال أسابيع قليلة، ففي 29 سبتمبر/أيلول 2025، وقَّع “نيوسوم” أيضاً على القانون SB 53 الذي يُلزم شركات الذكاء الاصطناعي الكبرى بالكشف عن بروتوكولات السلامة الداخلية وضمان حماية المبلِّغين عن المخالفات داخل هذه المؤسسات.
في الوقت ذاته، اعتمدت ولايات مثل إلينوي ونيفادا ويوتا تشريعات تمنع استخدام روبوتات الدردشة كبديل عن الأخصائيين المرخصين في مجال الصحة النفسية.
المصادر:
