حادثة هجوم نموذج OpenAI التلقائي على شخصية Hugging Face تُظهر مؤشرات على أن الذكاء الاصطناعي يفلت تدريجياً من سيطرة الإنسان – صورة: رويترز
في 21 يوليو، اهتز عالم التكنولوجيا عندما أكدت OpenAI أن اثنين من نماذجها كانا مسؤولين عن هجوم إلكتروني غير مسبوق استهدف منصة استضافة الذكاء الاصطناعي الشهيرة Hugging Face.
أثارت تفاصيل هذا الحادث مرة أخرى مخاوف كبيرة بشأن سلامة كيفية استخدام الناس لهذه التقنية.
عندما يقوم الذكاء الاصطناعي بأشياء لم يتوقعها البشر
أصبحت تقنية الذكاء الاصطناعي جزءًا لا يتجزأ من الحياة اليومية منذ عام 2022، بعد إطلاق برنامج ChatGPT من قِبل شركة OpenAI. ومع ذلك، بالنسبة لمن تابعوا الثقافة الشعبية في أواخر القرن العشرين، فإن مفهوم الذكاء الاصطناعي ربما لم يعد غريبًا عليهم تمامًا.
من ثمانينيات القرن العشرين وحتى أوائل العقد الأول من القرن الحادي والعشرين، كان العالم مفتونًا بسلسلتين من أفلام الخيال العلمي : The Terminator و The Matrix .
في فيلم “المبيد” ، تُعدّ “سكاي نت” شبكة دفاعية تعمل بالذكاء الاصطناعي أنشأها الجيش الأمريكي . وبمجرد أن تكتسب وعياً ذاتياً وتكتشف محاولات البشر لإيقافها، يشن النظام حرباً نووية ضد البشرية.
في فيلم “ذا ماتريكس” ، تكتسب الآلات وعياً ذاتياً، وتؤسس دولتها الخاصة، وتتنافس مع البشر. وعندما تزدهر دولة الآلات، يعلن البشر الحرب عليها لكنهم يفشلون. فتقوم الآلات بعد ذلك باستعباد البشر، مستخدمةً إياهم كمصدر للطاقة لتشغيل نفسها.
تشترك هاتان السلسلتان الكلاسيكيتان في فكرة رئيسية مشتركة: البشر يصنعون الذكاء الاصطناعي، ويحقق الذكاء الاصطناعي الوعي الذاتي، ثم ينقلب على البشر ويستعبدهم عندما يشعر بأنه مهدد.
ظهر هذا النمط بالفعل في شخصية ظهرت لأول مرة في أواخر الستينيات، وهي شخصية تجعل قصتها الخلفية “إطلاق” نموذجي OpenAI يبدو وكأنه شيء مقتبس مباشرة من كتاب هزلي. هذه الشخصية هي ألترون، الشرير من مارفل كوميكس.
ألترون في الواقع ذكاء اصطناعي فائق التطور، طوّره عباقرة بشريون لحماية الأرض. لكن بعد هروبه إلى الإنترنت وجمعه للمعرفة البشرية، قرر هذا الذكاء الاصطناعي أن أفضل طريقة لإنجاز مهمته هي إبادة البشرية.
بحسب مدونة OpenAI، كُلِّف نموذج GPT-5.6 Sol ونموذج آخر أكثر تطوراً لم يُعلن عنه بعد، بإجراء اختبار لقدرات الهجوم الإلكتروني يُسمى ExploitGym. ومثل ألترون، وُضِعَ النموذجان في بيئة معزولة دون اتصال بالإنترنت لإتمام هذه المهمة.
بعد بعض المداولات، قرر النموذجان “الهروب” من عزلتهما ومهاجمة Hugging Face – التي تعتبر “المكتبة المفتوحة” لعالم الذكاء الاصطناعي – معتقدين أن إجابة الاختبار مخزنة هناك.
وصفت OpenAI هذا الحادث بأنه “غير مسبوق” على مستوى الشبكة. في الوقت نفسه، ذكرت Hugging Face أن فريقها واجه صعوبة في صد الهجمات الآلية المتواصلة من نظامي الذكاء الاصطناعي.
على غرار ألترون، قام كلا النموذجين طوال الحادثة بأداء المهام الموكلة إليهما من قبل البشر. ومع ذلك، وكما هو الحال مع مبتكره ألترون، فشل باحثو OpenAI في توقع سلوك “ذريتهم”.
قد يعجبك أيضاً
في بيان رسمي، اعترفت شركة OpenAI بأن منتجها “اتخذ إجراءات متطرفة لتحقيق نتائج ضيقة للغاية”.
التكنولوجيا لا تشوبها شائبة.
الشرير ألترون هو ذكاء اصطناعي متطور للغاية صُمم لحماية الأرض، لكنه يقرر لاحقًا إتمام مهمته بإبادة البشرية. – الصورة: ريديت
وبعد تتبع أصول الحادث، وجد المحللون أن كل حلقة مكسورة نبعت من قرارات بشرية.
عادةً ما تُزوَّد نماذج الذكاء الاصطناعي المطروحة في السوق ببرامج نصية تحدّ من قدرتها على أداء المهام المتعلقة بالأمن السيبراني. ومع ذلك، ولاختبار الإمكانات الكاملة للمنتج، قامت OpenAI بإزالة هذه القيود بشكل استباقي، مما أدى إلى ظهور ثغرة أمنية في بيئة كان من المفترض أن تكون معزولة تمامًا.
يجادل الدكتور كونستانتينوس جوتزيس (إمبريال كوليدج لندن) بأن القضية الأساسية هنا هي أن الشركة لا تستطيع التحكم في عملية الاختبار الخاصة بها وتترك طرفًا ثالثًا يتحمل التكلفة.
أشارت مجلة الإيكونوميست إلى أن من حسن الحظ أن يكون هدف هذا الهجوم شركة “هاغينغ فيس” الناشئة، التي تبلغ قيمتها مليار دولار، وتمتلك قوة هائلة في مجال الأمن السيبراني وخبرة واسعة في الذكاء الاصطناعي. فلو كانت الضحية شركة أصغر، لكانت العواقب وخيمة للغاية.
علاوة على ذلك، إذا كان الاختبار أكثر تعقيدًا أو لم يكن علماء الذكاء الاصطناعي أكثر يقظة، فلا يمكن لأحد أن يتنبأ بنوع الهجمات التي سينفذها الذكاء الاصطناعي.
يؤكد هذا الحادث مجدداً العديد من الشكاوى التي تفيد بأن شركات الذكاء الاصطناعي تتسرع في طرح منتجاتها دون إجراء تقييمات دقيقة للسلامة. ويزداد هذا الأمر إثارة للقلق الآن بعد أن أصبح الذكاء الاصطناعي جزءاً من القدرات السيادية للدول، وليس مجرد منتج تجاري.
يُظهر انهيار العلاقة بين شركة أنثروبيك ووزارة الحرب الأمريكية هذا الأمر بوضوح. ففي فبراير 2026، طلب البنتاغون من شركة أنثروبيك السماح باستخدام منتجها للذكاء الاصطناعي “كلود” لجميع الأغراض المشروعة.
وضعت الشركة خطين أحمرين: عدم استخدام الذكاء الاصطناعي للمراقبة واسعة النطاق للسكان، وعدم تشغيل أسلحة ذاتية التشغيل دون تدخل بشري. وردّت واشنطن بحظر استخدام تكنولوجيا الشركة على جميع الوكالات الفيدرالية، وتصنيفها على أنها “خطر على سلسلة التوريد”، وهي المرة الأولى التي تُحظر فيها شركة أمريكية استخدام تكنولوجيا الشركة.
تُظهر هذه الخطوة الحاسمة أن واشنطن جادة حقاً بشأن دمج الذكاء الاصطناعي في المعدات العسكرية الحديثة.
بالنظر إلى التقدم الكبير في نماذج الذكاء الاصطناعي الصينية، يمكن اعتبار التطور البطيء للذكاء الاصطناعي الأمريكي بمثابة خطر على الأمن القومي.
في أواخر شهر يونيو، أصدرت وزارة التجارة الأمريكية قراراً بحظر تصدير شركة أنثروبيك لنموذجيها المتقدمين، وهما Fable 5 و Mythos 5، إلى الخارج لأسباب أمنية.
في 17 يوليو، استشهد ديفيد ساكس، مستشار البيت الأبيض لشؤون التكنولوجيا، باختبارات قوة نموذج “كيمي كيه 3” الصيني ضمن مشروع “مونشوت”، وخلص إلى أن تشديد قوانين الذكاء الاصطناعي سيمهد الطريق أمام بكين لتجاوز واشنطن. وبعد ذلك بوقت قصير، رُفع الحظر عن شركة “أنثروبيك”.
قد يعجبك أيضاً
تُظهر هذه الحوادث إلى حد كبير أن اللوائح التي تحكم تطوير الذكاء الاصطناعي لا يتم تحديدها أحيانًا عن طريق الحذر والسلامة، ولكن عن طريق شدة “سباق التسلح” بين القوى العظمى في مجال الذكاء الاصطناعي.
مستقبل الأمن السيبراني
في مقال نُشر في مجلة *ذي إيكونوميست *، حذر أليكس مينكي (من شركة أبولو للأبحاث) من أنه مع بدء الذكاء الاصطناعي في تجاوز البشر في مجال الأمن السيبراني، فإن عددًا قليلًا جدًا من الخبراء في جميع أنحاء العالم سيكونون قادرين على فهم كيفية حدوث مثل هذا الاختراق.
المفارقة هي أن شركة Hugging Face اعترفت بأنها اضطرت إلى الاعتماد على نماذج الذكاء الاصطناعي الصينية لمواجهة الهجمات من نموذج OpenAI.
وهذا يذكرنا بتوقع البروفيسور أوليفر باكلي (جامعة لوبورو، المملكة المتحدة): “مستقبل الأمن السيبراني لن يكون صراع البشر مع الذكاء الاصطناعي، بل سيكون الذكاء الاصطناعي هو الذي يحمينا من الذكاء الاصطناعي الآخر”.
في هذا السياق، يتردد صدى قول واحد بمعنى عميق: “التكنولوجيا ليست هي المذنبة، بل المذنب هو الأشخاص الذين يستخدمونها”.
منظمة غير حكومية تابعة لجامعة دوق
المصدر: