أقرت شركة OpenAI بأن هجمات “حقن الأوامر Prompt Injection” تظل تهديدًا مستمرًا لأنظمة الذكاء الاصطناعي الوكيلي في المتصفحات، حتى مع تعزيز إجراءات الحماية في متصفحها الذكي ChatGPT Atlas، الذي أطلقته حديثًا، مما يثير تساؤلات حول مدى أمان تشغيل هذه الوكلاء عبر المتصفحات.
وقالت الشركة في مقالة نشرتها مطلع الأسبوع “إن هجمات حقن الأوامر، على غرار عمليات الاحتيال والهندسة الاجتماعية عبر الإنترنت، من غير المرجح حلها بنحو كامل”، مشيرةً إلى أن تفعيل “وضع الوكيل” في Atlas يوسّع بطبيعته سطح التهديدات الأمنية.
وكانت OpenAI قد أطلقت متصفح Atlas في أكتوبر الماضي، قبل أن يسارع باحثون أمنيون إلى عرض تجارب توضح إمكانية التلاعب بسلوك المتصفح عبر أوامر مخفية داخل مستندات أو رسائل بريد إلكتروني.
وأكدت OpenAI في هذا السياق أنها تنظر إلى هجمات حقن الأوامر بوصفها “تحديًا أمنيًا طويل الأمد”، وأنها تعمل على تقوية دفاعاتها بنحو مستمر. وتعتمد الشركة على دورة استجابة سريعة واستباقية، تهدف إلى اكتشاف أساليب هجوم جديدة داخليًا قبل استغلالها في هجمات فعلية.
وتتشابه هذه المقاربة مع ما تعلنه شركات منافسة مثل أنثروبيك وجوجل، التي تؤكد أن مواجهة هذا النوع من الهجمات تتطلب طبقات متعددة من الحماية واختبارات مستمرة، مع تركيز جوجل حديثًا على ضوابط معمارية وسياسات تخص أنظمة الوكلاء الذكيين.
وتتبنى OpenAI مسارًا مختلفًا عبر ما تسميه “مهاجمًا آليًا قائمًا على نماذج اللغة”، وهو روبوت درّبته الشركة باستخدام التعلم المعزز ليؤدي دور المخترق، ويبحث عن طرق لتمرير أوامر خبيثة إلى وكلاء الذكاء الاصطناعي. ويتيح هذا النظام اختبار الهجمات داخل بيئة محاكاة، ودراسة كيفية تفكير الوكيل المُستهدف واستجابته، ثم تعديل الهجوم وإعادة المحاولة مرارًا.
وقالت الشركة إن هذا النهج مكّنها من اكتشاف إستراتيجيات هجوم جديدة “لم تظهر خلال اختبارات الفرق البشرية أو في التقارير الخارجية”، ومنها هجمات معقدة تمتد عبر عشرات الخطوات.
ومع ذلك، امتنعت OpenAI عن الكشف عن كون التحديثات قد أسفرت عن انخفاض قابل للقياس في الهجمات الناجحة، مكتفيةً بالإشارة إلى تعاونها مع أطراف خارجية لتعزيز أمان متصفح Atlas منذ المدة التي سبقت إطلاقه.
وتوصي OpenAI المستخدمين بتقليل المخاطر عبر تقييد صلاحيات الوصول، وطلب تأكيد المستخدم قبل إرسال الرسائل أو تنفيذ المدفوعات، إضافةً إلى إعطاء الوكلاء تعليمات محددة بدلًا من منحهم صلاحيات مفتوحة.
ومع تأكيد OpenAI أن حماية مستخدمي Atlas أولوية قصوى، يرى خبراء أن العائد الحالي من هذه المتصفحات لا يبرر مستوى الأخطار بعدُ.
نسخ الرابط تم نسخ الرابط
المصدر: البوابة العربية للأخبار التقنية
