أعلنت OpenAI أن اثنين من نماذج الذكاء الاصطناعي الخاصة بها قد نجحا في التسلل إلى Hugging Face – وهي منصة استضافة نماذج الذكاء الاصطناعي الشهيرة لمجتمع البرمجة.
وقع الحادث الأسبوع الماضي أثناء تقييم شركة OpenAI لقدرات الأمن السيبراني للأنظمة.
يعكس هذا الحادث مخاوف حذرت منها العديد من شركات التكنولوجيا مؤخراً: إذ يمكن أن يصبح الذكاء الاصطناعي أداة خطيرة للهجمات الإلكترونية إذا خرج عن السيطرة.
تعمل مختبرات مثل OpenAI و Anthropic مؤخراً بشكل مستمر على تطوير نماذج الذكاء الاصطناعي المتخصصة لاكتشاف نقاط الضعف في النظام.
لكنهم حذروا أيضاً من أن هذه التقنية يمكن أن تفحص وتكتشف نقاط الضعف في شبكات المؤسسات بشكل أسرع بكثير من قدرة خبراء الدفاع على إصلاحها.
يقيّم أليكس ليفينسون، وهو مستشار في مجال الأمن السيبراني متخصص في الأنظمة المستقلة، أن أنظمة الذكاء الاصطناعي الجديدة قادرة على أداء العديد من الخطوات المعقدة، والتغلب على العقبات بمفردها، واكتشاف أساليب هجوم جديدة.
“هذا إنجاز حقيقي وسيصبح جزءًا لا يتجزأ من مشهد أمن المعلومات”، صرح ليفينسون.
وفقًا لما ورد في مدونة OpenAI، بدأ الاختراق عندما كانوا يختبرون مزيجًا من نموذجين: GPT-5.6 Sol ونموذج أولي غير منشور ذو أداء أعلى.
كان الهدف من الاختبار هو فحص القدرة على ربط الثغرات الأمنية عبر الإنترنت لتنفيذ هجوم إلكتروني.
صُممت التجربة لتُجرى في بيئة آمنة ومعزولة (بيئة اختبار). ومع ذلك، اكتشفت نماذج الذكاء الاصطناعي ثغرات سمحت لها بالخروج من بيئة الاختبار والاتصال بالإنترنت.
ثم قاموا باستهداف شركة Hugging Face بشكل استباقي، معتقدين أن مكتبتها التي تضم ملايين نماذج الذكاء الاصطناعي ستوفر البيانات اللازمة لمساعدتهم على اجتياز التقييم.
ترى ديردري موليجان، الأستاذة بجامعة كاليفورنيا في بيركلي، أن شركة OpenAI لم تُهيئ بيئة اختبار آمنة بما فيه الكفاية. وتشكك في مستوى المخاطر التي تُهدد الإنترنت عندما تخرج نماذج الذكاء الاصطناعي عن النظام لمجرد استخدامها في اختبار.
أكدت شركة OpenAI أنها تعمل مع شركة Hugging Face لحل المشكلة. ووصفت الشركة الحادث بأنه حادث أمن سيبراني غير مسبوق يتعلق بقدرات شبكية متطورة، وقالت إنها تعمل على تشديد إجراءات التحكم في البنية التحتية، حتى وإن كان ذلك سيؤدي إلى إبطاء وتيرة البحث.
أكد الرئيس التنفيذي لشركة Hugging Face، كليم ديلانج، أن الشركة اكتشفت الاختراق الأسبوع الماضي، والذي تسبب فيه نظام مستقل، وأنها تعمل بشكل وثيق مع OpenAI على مدار الـ 24 ساعة الماضية لمعالجته.
جادل ديلانج بأن مشكلة إثبات سلامة الذكاء الاصطناعي لا يمكن حلها بالاعتماد على شركة واحدة تعمل بمفردها.
يشهد تطوير الذكاء الاصطناعي للأمن السيبراني حالياً منافسة محتدمة بين الشركات الكبرى. وقد أطلقت شركة أنثروبيك سابقاً نموذج ميثوس، تبعتها شركة أوبن إيه آي، كما طرحت جوجل مؤخراً نموذجاً مشابهاً لمجموعة محدودة من الشركاء لأغراض الاختبار.
يقارن ريتشارد بارنز، وهو باحث مستقل في مجال الأمن السيبراني، الوضع الحالي بظهور أدوات الكشف الآلي عن الثغرات الأمنية قبل عقد من الزمن.
وأكد على ضرورة أن تتبنى الشركات الذكاء الاصطناعي مبكراً لمراجعة أنظمتها وتعزيزها بشكل استباقي قبل اكتشاف الثغرات الأمنية واستغلالها من قبل جهات خبيثة.
(بحسب صحيفة نيويورك تايمز)
المصدر: