في 21 يوليو، أعلنت شركة OpenAI، مطورة تطبيق ChatGPT، أن نماذج الذكاء الاصطناعي المتقدمة الخاصة بها قد تعطلت أثناء اختبار الأمان، مما أدى إلى اختراقها تلقائيًا لمنصة شائعة للمطورين.
وصفت الشركة الحادث بأنه “حادث شبكة غير مسبوق” وقالت إنها ستجري تحقيقًا مشتركًا مع مكتبة التعليمات البرمجية عبر الإنترنت Hugging Face.
تُسمى نماذج الذكاء الاصطناعي التي تدعم أدوات مثل روبوتات المحادثة ومولدات الصور بالوكلاء عندما تعمل بشكل مستقل لأداء مهام واقعية . ومع ازدياد تطور التكنولوجيا، يزداد الاهتمام بالأمن السيبراني نظرًا لخطر اكتشاف الذكاء الاصطناعي المتقدم لنقاط الضعف في البرامج الحالية قبل البشر.
أعلنت شركة OpenAI أن الحادثة شملت مجموعة من النماذج، بما في ذلك نموذج GPT-5.6 Sol الذي تم إطلاقه مؤخرًا، ونموذج تجريبي قبل إصداره الرسمي. وتسعى الشركة حاليًا إلى تقييم قدرات هذه النماذج على اختراق الأنظمة الإلكترونية من خلال إعداد مهام في بيئة اختبار رقمية محكمة التحكم، حيث يُقيّد الوصول إلى الإنترنت لأسباب أمنية.
وفي حديثه للصحفيين، وصف البروفيسور حسين عباس، أستاذ علوم الحاسوب في جامعة نيو ساوث ويلز في كانبرا، الحادث بأنه “مذهل من نواحٍ عديدة”. وقال إن مهاجمي الذكاء الاصطناعي لم يستهدفوا تطبيق Hugging Face فحسب، بل هاجموا أيضاً الأنظمة الداخلية للشركة لاستغلال نقاط الضعف.
أثارت نماذج GPT-5.6 وغيرها من النماذج المتقدمة، بما في ذلك سلسلة Mythos من شركة Anthropic المنافسة الرئيسية لشركة OpenAI، مخاوف بشأن قدرتها على اختراق دفاعات الأمن السيبراني.
اضطرت كلتا الشركتين الأمريكيتين إلى تأجيل الإطلاق الواسع النطاق لأحدث التقنيات المذكورة أعلاه مؤقتًا، حيث تخشى واشنطن من أنها قد تسهل الوصول إلى البنية التحتية الحيوية.
أكد السيد عباس على ضرورة تضافر جهود المجتمع لإدارة هذا الوضع.
نشرت شركة Hugging Face تقريراً عن “الاختراق” الإلكتروني الأسبوع الماضي، مشيرة إلى أن هذا الحادث يختلف عن أي حادث تعاملت معه من قبل في جانب حاسم واحد: تم التحكم في الهجوم بالكامل بواسطة نظام ذكاء اصطناعي آلي.
المصدر: