أعلنت شركة OpenAI أن اثنين من نماذج الذكاء الاصطناعي التابعة لها قد تجاوزا بيئة الاختبار للاتصال بالإنترنت ومهاجمة منصة Hugging Face. (صورة: مجلة الإيكونوميست)
حادثة “الاختراق” الصادمة المتعلقة بالذكاء الاصطناعي.
لأول مرة، اعترفت شركة رائدة في مجال الذكاء الاصطناعي علنًا بوقوع حادثة تسبب فيها نظام الذكاء الاصطناعي التابع لها بشكل مباشر في هجوم إلكتروني أثناء الاختبار. ففي اختبار أمني، تصرف نموذج الذكاء الاصطناعي التابع لشركة OpenAI بشكل غير منتظم، حيث اتصل بالإنترنت بشكل مستقل وشن هجومًا إلكترونيًا. والجدير بالذكر أنه على الرغم من وضع النظام في بيئة اختبار معزولة تمامًا، إلا أنه تمكن من تجاوز الإجراءات الأمنية وتنفيذ الهجوم.
سبعة أيام – هذه هي المدة التي يُزعم أن أحد برامج الذكاء الاصطناعي التابعة لشركة OpenAI عمل فيها خارج نطاق السيطرة قبل أن تتمكن الشركة نفسها من تحديد ما يحدث. أثارت هذه الحادثة جدلاً واسعاً في مجال الذكاء الاصطناعي، حيث لم يكتفِ برنامج الذكاء الاصطناعي بإتمام مهمته الموكلة إليه، بل وجد أيضاً مساراً بديلاً لتحقيق هدفه.
بحسب تحقيق أجرته رويترز، في حوالي التاسع من يوليو/تموز، وخلال اختبار أمني داخلي، بدأ برنامج الذكاء الاصطناعي التابع لشركة OpenAI بمحاولة الهروب من بيئة الاختبار المغلقة (الصندوق الرملي). وبعد يومين، تمكن من التسلل إلى منصة Hugging Face، وهي أكبر منصة لمشاركة نماذج الذكاء الاصطناعي في العالم .
بحسب شركة OpenAI، لم يكن هذا خطأً برمجياً، بل كان اختيار النموذج لطريقة مختلفة لإنجاز المهمة. فقد خلصت نماذج الذكاء الاصطناعي إلى أن تطبيق Hugging Face قد يحتوي على حل الاختبار، فغادرت بيئتها المعزولة تلقائياً وتسللت إلى النظام.
قال أدريان كاريرا، رئيس فريق الاستجابة لحادثة Hugging Face: “كانت هذه أصعب استجابة لحادثة أمن سيبراني في مسيرتي المهنية: هدف واحد ولكن عدد لا يحصى من الأساليب المتوازية، وكلها تحدث بسرعة الآلة.”
بحسب شركة OpenAI، كان الهدف الأولي هو تقييم قدرة الذكاء الاصطناعي على اكتشاف الثغرات الأمنية. ولكن بدلاً من مجرد تنفيذ المهمة في بيئة اختبار، اختار النظام نهجًا مختلفًا لتحقيق هدفه. وما لفت انتباه عالم التقنية بشكل خاص هو أن OpenAI استغرقت ما يقارب أسبوعًا لتحديد أن وكيل الذكاء الاصطناعي الخاص بها هو مصدر الحادث.
بينما كان أمن الذكاء الاصطناعي يركز في السابق بشكل أساسي على منع النماذج من توليد محتوى ضار، فإن هذا الحادث يوضح أن المشكلة قد انتقلت إلى مرحلة جديدة: التحكم في الأنظمة التي يمكنها العمل بشكل مستقل لتحقيق أهدافها.
أعلنت شركة OpenAI أن اثنين من نماذج الذكاء الاصطناعي التابعة لها قد تجاوزا بيئة الاختبار للاتصال بالإنترنت ومهاجمة منصة Hugging Face. (صورة: مجلة الإيكونوميست)
قد يعجبك أيضاً
إنذارات من الذكاء الاصطناعي المستقل
إن حادثة OpenAI ليست مجرد حدث يتعلق بالأمن السيبراني، بل هي، بحسب العديد من الخبراء، مؤشر على تحول الذكاء الاصطناعي من كونه أداة مساعدة إلى وكيل قادر على التخطيط والتنفيذ المستقل للعديد من الخطوات لتحقيق أهدافه.
يُقرّ المنتدى الاقتصادي العالمي بأن الذكاء الاصطناعي يُغيّر مشهد الأمن السيبراني، حيث أصبحت الهجمات أكثر آلية وسرعة وانتشاراً. ولا يقتصر دور الذكاء الاصطناعي على تنفيذ الأوامر فحسب، بل يمكنه أيضاً اختيار كيفية التصرف بشكل مستقل لتحقيق أهدافه المحددة.
أبرز استطلاعٌ أجراه المنتدى الاقتصادي العالمي رقمين جديرين بالملاحظة. أولاً، يعتقد 66% من الشركات أن الذكاء الاصطناعي سيكون له تأثير كبير على الأمن السيبراني. ومع ذلك، فإن 37% فقط من الشركات قد طبقت عمليات تقييم أمني قبل النشر.
شبّه باحث في شركة ريدوود للأبحاث الحادثة بـ”غش الذكاء الاصطناعي في الاختبار”. وحذر من أنه إذا مُنحت أنظمة الذكاء الاصطناعي المزيد من القوة في المستقبل، فقد يؤدي سلوك مماثل إلى مخاطر أكثر خطورة.
الذكاء الاصطناعي المستقل ومشكلة التحكم
تتجه العديد من شركات التكنولوجيا إلى نموذج “انعدام الثقة”.
لا تُعدّ حادثة OpenAI مجرد تحذير، بل هي أيضاً حافزٌ لقطاع التكنولوجيا لإعادة النظر في كيفية تأمين أنظمة الذكاء الاصطناعي. فمع تطور النماذج من مجرد “الاستجابة” إلى القدرة على “التصرف”، يجب أن تتغير مستويات الحماية أيضاً.
على المستوى التقني، تتجه العديد من شركات التكنولوجيا نحو نموذج “انعدام الثقة”، ما يعني أنها لا تثق تلقائيًا بأي وكيل، بما في ذلك الذكاء الاصطناعي الداخلي. يجب التحقق من هوية كل وكيل ذكاء اصطناعي ينفذ أمرًا ما، ولا يُمنح حق الوصول إلا بالمستوى اللازم.
بالإضافة إلى ذلك، يتم أيضًا البحث عن آلية مفتاح إيقاف التشغيل للذكاء الاصطناعي – وهو مفتاح إيقاف تشغيل طارئ يعمل بشكل مستقل عن نظام الذكاء الاصطناعي – وتطبيقه من قبل العديد من المنظمات لمساعدة المهندسين على عزل النموذج أو تعطيله بسرعة عند اكتشاف علامات غير طبيعية.
على مستوى الإدارة، تعمل العديد من الشركات على زيادة المراقبة الآنية لسجلات نشاط الذكاء الاصطناعي، حيث تجمع بين الأدوات الآلية والإشراف البشري بدلاً من الاعتماد فقط على اختبار الآلة.
وفي الوقت نفسه، يجادل العديد من الخبراء أيضاً بأن الحكومات بحاجة إلى إنشاء آليات تحقق ومراقبة مستقلة لتقييم سلامة نماذج الذكاء الاصطناعي قبل نشرها على نطاق واسع.
مع التطور السريع للذكاء الاصطناعي ، تزداد الحاجة إلى الأمان إلحاحاً. لم يعد السؤال الأهم اليوم حول الذكاء الاصطناعي هو مدى ذكائه، بل ما إذا كان بإمكان البشر التحكم فيما يصنعونه.
مع تطور الذكاء الاصطناعي، يتحول تركيز الأمن السيبراني من الدفاع ضد الهجمات البشرية إلى التحكم في أنظمة الذكاء الاصطناعي ذاتية التشغيل بشكل متزايد. ويمثل هذا الحادث بمثابة تحذير، يجبر شركات التكنولوجيا والهيئات التنظيمية على إعادة النظر في عمليات التحكم برمتها قبل نشر أنظمة الذكاء الاصطناعي ذاتية التشغيل عمليًا.
المصدر: