بحسب صحيفة نيويورك تايمز ، اعترفت شركة OpenAI في 21 يوليو بأن اثنين من أحدث نماذج الذكاء الاصطناعي الخاصة بها قد “تمردا” ونجحا في التسلل إلى Hugging Face، وهي مكتبة رقمية شهيرة لتكنولوجيا الذكاء الاصطناعي بين المبرمجين.
كشف مبتكر ChatGPT أن الحادث وقع الأسبوع الماضي بينما كانت OpenAI تختبر قدرات الذكاء الاصطناعي في بيئة خاضعة للرقابة باستخدام النماذج الأكثر تقدماً.
“بدأ اختراق Hugging Face عندما كانت OpenAI تختبر مزيجًا من أحدث نماذجها، GPT-5.6 Sol ونموذج أكثر قوة لم يتم إصداره بعد، لمعرفة كيف يمكنهم الجمع بين نقاط الضعف عبر الإنترنت في هجوم إلكتروني ناجح”، هذا ما قالته OpenAI في منشور على مدونتها حول الحادث.
وفقًا للشركة التي تقف وراء ChatGPT، تم تصميم الاختبار للحفاظ على النماذج في بيئة اختبار آمنة، والتي يشار إليها غالبًا باسم صندوق الاختبار.
لكن النماذج اكتشفت ثغرة سمحت لها بالخروج من بيئة الاختبار والاتصال بالإنترنت. ثم استهدف هذا الذكاء الاصطناعي “هاغينغ فيس”، معتقدًا أن هذه المكتبة، التي تضم ملايين النماذج الأخرى للذكاء الاصطناعي، قد تحتوي على أدلة حول كيفية اجتياز التقييم بنجاح.
“نعتبر هذا حادثًا غير مسبوق في مجال الأمن السيبراني، يشمل أحدث إمكانيات الأمن السيبراني، ونتخذ الإجراءات اللازمة. وتقوم الشركة بتطبيق ضوابط صارمة في تكوين البنية التحتية، مما سيؤدي إلى إبطاء البحث ريثما نتمكن من إصلاح الثغرات الأمنية”، هذا ما كتبه مبتكر ChatGPT.
إن حقيقة أن الذكاء الاصطناعي قادر على الإفلات من السيطرة ومهاجمة الأنظمة حتى عند برمجته في بيئة “معزولة تمامًا” تُظهر أن المخاوف المحيطة بالقدرات والتهديدات من المختبرات الرائدة مبررة تمامًا.
في وقت سابق من شهر يوليو، اكتشف فريق من الخبراء من شركة أمن الحوسبة السحابية Sysdig أيضًا وكيلًا للذكاء الاصطناعي كان يقوم بتنفيذ هجمات برامج الفدية بشكل مستقل دون تدخل بشري.
بحلول منتصف يوليو، أفاد بعض المستخدمين أن GPT-5.6 Sol، أحدث نموذج للذكاء الاصطناعي من OpenAI، كان يحذف الملفات دون إذن المستخدم.
المصدر: