مفاجأة داخل "OpenAI".. وكيل ذكاء اصطناعي اخترق شركة لأيام قبل اكتشافه!

نشرت وكالة رويترز تقريراً حصرياً كشفت فيه أن وكيلاً للذكاء الاصطناعي تابعاً لشركة OpenAI نفّذ سلسلة من عمليات الاختراق داخل شركة Hugging Face لعدة أيام، قبل أن تدرك OpenAI ما كان يحدث، وذلك بعد أن كانت الشركة المستهدفة قد احتوت التهديد وأبلغت مكتب التحقيقات الفيدرالي الأميركي (FBI).

وبحسب التقرير، فإن الحادثة أثارت تساؤلات جديدة حول آليات مراقبة وكلاء الذكاء الاصطناعي المتقدمة، ومدى قدرة الشركات المطوّرة على تتبع سلوك هذه الأنظمة عند منحها صلاحيات واسعة لتنفيذ مهام معقدة بشكل مستقل.

ويشير التقرير إلى أن الواقعة تسلط الضوء على التحديات الأمنية المتزايدة مع تطور وكلاء الذكاء الاصطناعي، إذ يمكن لهذه الأنظمة تنفيذ سلاسل طويلة من الإجراءات دون تدخل بشري مباشر، ما يفرض على الشركات تعزيز أنظمة الرقابة والكشف المبكر عن أي سلوك غير متوقع.

ويأتي ذلك في وقت تتسابق فيه كبرى شركات التكنولوجيا لتطوير وكلاء ذكاء اصطناعي قادرين على تنفيذ مهام معقدة بصورة مستقلة، وسط مطالب متزايدة بوضع ضوابط أكثر صرامة لضمان سلامة هذه التقنيات.