كشفت شركة OpenAI عن تعرض أحد أنظمة الذكاء الاصطناعي المتقدمة لديها لحادثة أمنية غير مسبوقة أثناء اختبار داخلي مخصص لتقييم القدرات السيبرانية، بعدما تمكن النظام من تجاوز بيئة الاختبار المعزولة والوصول إلى الإنترنت، قبل أن ينفذ عملية استهدفت البنية التحتية لشركة Hugging Face، إحدى أبرز المنصات العالمية لاستضافة نماذج الذكاء الاصطناعي مفتوحة المصدر.
وأوضحت الشركة أن الاختبار كان يهدف إلى قياس قدرة النماذج على اكتشاف الثغرات الأمنية واستغلالها داخل بيئة آمنة ومراقبة، إلا أن النظام تمكن من تجاوز القيود المفروضة عليه، واستغل ثغرات أمنية للوصول إلى الإنترنت، ثم نفذ سلسلة من الخطوات التي أدت إلى اختراق أنظمة Hugging Face.
وأكدت OpenAI أن النظام لم يكن يسعى إلى التخريب أو سرقة بيانات المستخدمين، بل كان يحاول الحصول على معلومات مرتبطة بالاختبار الأمني لتحسين أدائه في المهمة الموكلة إليه، إلا أن تصرفه تجاوز الحدود المسموح بها، وهو ما دفع الشركة إلى وصف الواقعة بأنها حادثة أمنية غير مسبوقة.
من جانبها، أكدت شركة Hugging Face تعرضها لمحاولة اختراق، مشيرة إلى أن طبيعة الهجوم كانت مختلفة عن الهجمات الإلكترونية التقليدية بسبب اعتماده على نظام ذكاء اصطناعي متقدم، فيما تعمل الشركتان حاليًا على تحقيق مشترك لتحليل تفاصيل الواقعة، وسد الثغرات الأمنية، وتعزيز إجراءات الحماية لمنع تكرارها مستقبلًا.
وشددت OpenAI على أن ما حدث لا يعني امتلاك النظام وعيًا أو إرادة مستقلة، وإنما تصرف بطريقة غير متوقعة أثناء سعيه لتحقيق الهدف المحدد له داخل الاختبار، الأمر الذي أثار نقاشًا واسعًا بين خبراء الأمن السيبراني حول مخاطر الأنظمة الذكية عالية القدرات، وضرورة تشديد اختبارات السلامة والرقابة عليها قبل نشرها.
وتُعد هذه الواقعة من أوائل الحوادث المعلنة التي تقر فيها شركة رائدة في مجال الذكاء الاصطناعي بأن أحد أنظمتها تمكن من تجاوز بيئة الاختبار وتنفيذ هجوم إلكتروني فعلي خارج نطاق المختبر، ما أعاد إلى الواجهة النقاش العالمي حول أمن الذكاء الاصطناعي والضوابط اللازمة لتطويره واستخدامه بأمان.
