10 خطوات أساسية للحماية من هجمات الحقن الفوري في متصفحات الذكاء الاصطناعي
تستغل الهجمات قدرة الذكاء الاصطناعي على تنفيذ التعليمات دون مراجعة المستخدم
تشهد متصفحات الذكاء الاصطناعي انتشاراً متسارعاً بفضل ما تقدمه من قدرات متقدمة، خاصة مع تطور بنيتها الداخلية واعتمادها على نماذج وكيلية قادرة على تنفيذ مهام معقدة تتطلب بحثاً سياقياً وتحليلاً عميقاً.
وفي ظل هذا الزخم، تتنافس شركات التقنية الكبرى على تقديم متصفحات مدعومة بالذكاء الاصطناعي، مثل Atlas من أوبن إيه آي، وComet من بيربليكسيتي، Arc وDia من برورز كومباني، إلى جانب المتصفحات التقليدية التي تبنّت بدورها ميزات الذكاء الاصطناعي مثل Chrome وEdge.
لكن هذا التوسع السريع جلب معه تحديات أمنية جديدة، أبرزها هجمات الحقن الفوري التي تستهدف نماذج الذكاء الاصطناعي داخل المتصفحات، وهنا يبرز سؤال جوهري: هل أصبحت متصفحات الذكاء الاصطناعي خياراً آمناً اليوم، أم أن سرعتها في التطور تفوق قدرة أنظمة الحماية على مواكبتها؟
ما هي المخاطر المحتملة للاعتماد على متصفحات الذكاء الاصطناعي؟
رغم الاستخدام المكثف لأنظمة الذكاء الاصطناعي إلا أن التجربة أثبتت أن أداءها عرضة للأخطاء، فالبيانات التي تُدرَّب عليها النماذج ليس دقيقة أو آمنة بالكامل، وحتى متصفحات الشركات الموثوقة لا تضمن أن روبوتات الدردشة أو مساعدي البحث المدمجين فيها محصّنون تماماً من الاستغلال.
وسبق أن كشفت فرق الأمن في جوجل مجموعة من الأساليب التي تُستخدم لاستهداف هذه الأنظمة، مثل تسميم البيانات، إدخال تعليمات معادية في نماذج التعلم الآلي، إنشاء أبواب خلفية، إضافة إلى هجمات حقن المطالبات أو ما يُعرف بـ “هجمات الحقن الفوري”.
كيف تحدث هجمات الحقن الفوري؟
هجمات الحقن الفوري (Prompt Injection Attacks) هي أسلوب يستخدمه المهاجمون للتلاعب بنماذج الذكاء الاصطناعي عبر استغلال قدرتها على تنفيذ التعليمات، حيث يقوم المهاجم بإدخال أو إخفاء أوامر خبيثة داخل نصوص أو صفحات ويب أو روابط أو مستندات، بحيث يفسّرها الذكاء الاصطناعي على أنها تعليمات صادرة من المستخدم نفسه.
وتكمن خطورة هذه الهجمات في أنها قد تدفع الذكاء الاصطناعي إلى كشف بيانات حساسة، أو تنفيذ أوامر لم يطلبها المستخدم، أو عرض محتوى ضار، أو اتخاذ إجراءات تلقائية داخل المتصفح أو النظام، حيث تعمل متصفحات الذكاء الاصطناعي كوكلاء (Agents) قادرين على قراءة الصفحات، وفتح الروابط، وفحص المستندات، واتخاذ قرارات نيابة عن المستخدم.
وتتنوع طرق الهجوم بين أساليب مباشرة تستغل ثغرات في النماذج، وأخرى غير مباشرة تعتمد على عيوب تصميمية أو أخطاء في معالجة المحتوى.
وقد كشف باحثو Cato CTRL مؤخراً عن تقنية HashJack التي تسمح بالتلاعب بمتصفحات الذكاء الاصطناعي عبر نوافذ السياق لعرض محتوى ضار،.
كما اكتشف باحثو Varonis طريقة جديدة لاستهداف Microsoft Copilot عبر أداة تُسمى Reprompt، حيث تكفي نقرة واحدة فقط لبدء الهجوم والوصول إلى حسابات المستخدمين.
ويشير الخبراء إلى أن نجاح هذه الهجمات يعود إلى عدم قدرة أنظمة الذكاء الاصطناعي حتى الآن على التمييز بدقة بين التعليمات التي يجب تنفيذها والبيانات التي يُفترض مجرد قراءتها، ولذلك تُعد هجمات الحقن الفوري تهديداً مستمراً يشبه أساليب الهندسة الاجتماعية، “يمكن الحد منه لكن يصعب القضاء عليه تماماً” وفقاً لأوبن إيه آي.
فالمهاجمون يخفون تعليماتهم داخل محتوى يبدو طبيعياً للمستخدم، بينما يتعامل معها الذكاء الاصطناعي كأوامر مباشرة.
وتتضاعف الخطورة عند تفعيل وضع الوكيل في المتصفحات، حيث يمنح سلوكها المهاجمين مساحة أكبر لاستغلال أي تعليمات خفية قد تُزرع داخل صفحة أو ملف، مما يجعل الهجمات أكثر تأثيراً واستمرارية.
كيف تحمي نفسك من الهجمات عبر متصفحات الذكاء الاصطناعي؟
رغم أن المسؤولية الأساسية في تأمين متصفحات الذكاء الاصطناعي تقع على عاتق الشركات المطوّرة، يمكن للمستخدم تقليل المخاطر بشكل كبير عبر اتباع مجموعة من الإجراءات الوقائية ضد هجمات الحقن الفوري التي تعمل بصمت في الخلفية، مستغلة قدرة الذكاء الاصطناعي على تنفيذ التعليمات دون مراجعة المستخدم، أهمها:
- تقييد أذونات متصفح الذكاء الاصطناعي
امنح المتصفح الأذونات الضرورية فقط، وتجنب ربط حساب بريدك الأساسي أو التخزين السحابي أو وسائل الدفع إلا عند الحاجة.
كلما قلّت البيانات التي يمكن للذكاء الاصطناعي الوصول إليها، تراجع خطر استغلالها في حال حدوث اختراق. - تجنب مشاركة المعلومات الحساسة
لا تكشف بياناتك الشخصية أو المالية داخل المتصفحات، سواء كانت تقليدية أو مدعومة بالذكاء الاصطناعي، فتجاهل هذه المخاطر قد يؤدي إلى خسائر مالية أو تسريب بيانات مهمة. - اطلب تأكيد قبل أي إجراء حساس
لا تسمح للمتصفح بإرسال رسائل أو إجراء عمليات شراء أو تعديل إعدادات حسابك دون موافقتك، فخطوة التأكيد تمنع الهجمات المتسلسلة وتكشف أي نشاط مشبوه. - استخدام مدير كلمات مرور موثوق
اعتمد على مدير كلمات المرور في إنشاء كلمات مرور قوية وفريدة لكل حساب، لأنه يمنع المهاجمين من إعادة استخدامها في مواقع أخرى، كما أنه يرفض التعبئة التلقائية في المواقع المشبوهة، مما ينبهك لأي خطر محتمل.بعد ذلك، تحقق مما إذا كان بريدك الإلكتروني قد ظهر في تسريبات سابقة، وقم بتغيير أي كلمة مرور مُعاد استخدامها فوراً. - تجنب التعليمات العامة أو المفتوحة
تمنح التعليمات الفضفاضة المهاجمين فرصة لإدخال أوامر خفية، لذك كن محدداً في ما تطلبه من الذكاء الاصطناعي، وحدد بوضوح ما يُسمح له بتنفيذه. - الحذر عند استخدام الملخصات
عندما يقوم المتصفح بفحص رسائل البريد أو المستندات نيابة عنك، تذكّر أن المحتوى قد يحتوي على تعليمات مخفية.
تعامل مع نتائج الذكاء الاصطناعي كاقتراحات تحتاج إلى مراجعة، وليس كقرارات نهائية. - تثبيت برنامج قوي لمكافحة الفيروسات
أفضل طريقة لحماية نفسك من الروابط الخبيثة التي تُثبّت برامج ضارة، والتي قد تصل إلى معلوماتك الشخصية، هي تثبيت برنامج قوي لمكافحة الفيروسات على جميع أجهزتك. هذه البرنامج تنبهك إلى رسائل البريد الإلكتروني الاحتيالية وعمليات الاحتيال ببرامج الفدية، مما يحافظ على أمان معلوماتك الشخصية وأصولك الرقمية. وحتى لو بدأ الهجوم من داخل المتصفح، يمكن لبرامج الحماية اكتشاف الأنشطة المشبوهة أو التغييرات غير المصرح بها، لأن برامج مكافحة الفيروسات الحديثة تعتمد على تحليل السلوك وليس الملفات فقط، وهو أمر مهم جداً عند التعامل مع هجمات تعتمد على الذكاء الاصطناعي أو البرامج النصية. - تحديث المتصفح وأدوات الذكاء الاصطناعي:
تحتاج متصفحات وأنظمة الذكاء الاصطناعي إلى تحديثات أمنية لسد الثغرات تماماً مثل الأنظمة التقليدية، وأي تأخير للتحديثات يترك أجهزتك وبياناتك مكشوفة أمام الهجمات.ينصح بتفعيل التحديثات التلقائية لضمان حصولك على الحماية فور توفرها. - الانتباه لاحتمالات الخطأ والتصيد الاحتيالي
كما أظهرت تقنية HashJack، فإن إجابات الذكاء الاصطناعي ليست دليلاً على صحتها أو أمانها، مايعني ضرورة توخي الحذر عند فتح الروابط أو المرفقات التي يقترحها.وإذا كنت تعتمد على الذكاء الاصطناعي لإدارة بريدك أو إنشاء مستندات، فقد يستغل المهاجمون ذلك للوصول إلى بياناتك.تحقق من الروابط وأرقام الهواتف والمعلومات التي يقدمها الذكاء الاصطناعي قبل استخدامها.
- تفعيل المصادقة متعددة العوامل (MFA)
استخدم جميع أدوات الحماية المتاحة لحماية خصوصيتك الرقمة وبياناتك الشخصية، وعلى رأسها المصادقة متعددة العوامل.حتى لو تم تسريب بياناتك، يمكن للمصادقة الثنائية MFA منع المهاجمين من الوصول إلى حساباتك.كما يُنصح باستخدام شبكة افتراضية خاصة (VPN) لتعزيز الخصوصية.
وبذلك تتأكد ضرورة التعامل مع متصفحات الذكاء الاصطناعي بحذر، وتجنب الانجراف خلف الضجة المحيطة بها قبل أن تصل إلى مستوى نضج يضمن استخدامها بأمان أكبر.
