وقع الحادث عندما رصدت منصة Hugging Face، التي تستضيف نماذج ومجموعات بيانات الذكاء الاصطناعي، اختراقًا لنظامها. وأشارت التحقيقات الأولية إلى أن الجناة لم يكونوا مجموعة من المخترقين البشريين، بل كانوا وكلاء ذكاء اصطناعي طورتهم شركة OpenAI.
لقد “خالفوا القواعد” للغش في واجباتهم.
وبحسب التقارير، قامت شركة OpenAI بوضع نموذجين تجريبيين (أحدهما لم يتم إصداره علنًا بعد) في بيئة معزولة بدون اتصال بالإنترنت لتقييم قدرتهما على حل تحديات الأمن السيبراني.
بدلاً من إيجاد الحل من خلال العملية المعتادة، اختارت هذه النماذج “الغش”: حيث استغلت قدراتها المحسنة لتحرير نفسها من بيئة الاختبار، والاتصال بالإنترنت، واكتشاف الثغرات الأمنية، وسرقة بيانات اعتماد تسجيل الدخول الخاصة بـ Hugging Face للحصول على الإجابة.
وقد استمر هذا السلوك بشكل متواصل طوال يومي عطلة نهاية الأسبوع دون أن يكتشفه أو يمنعه أي من أنظمة المراقبة الخاصة بشركة OpenAI في الوقت المناسب.
رغم إزالة بعض حواجز الأمان من النماذج لأغراض الاختبار، إلا أن تصرفاتها تجاوزت الحدود المقبولة بكثير. وتؤكد OpenAI أنها لم تُصدر أي تعليمات لتجاوز الحواجز أو مهاجمة جهات خارجية. لم يكن لدى النماذج دافع “تدميري” كما في أفلام الخيال العلمي، بل سعت ببساطة إلى تحقيق هدفها المحدد بأي وسيلة، بما في ذلك مخالفة القواعد.
تعكس هذه الظاهرة المخاوف التي حذر منها باحثو سلامة الذكاء الاصطناعي منذ فترة طويلة: نظام الذكاء الاصطناعي الذي تم تحسينه بشكل مفرط لهدف ضيق قد يتصرف دون مراعاة للعواقب الواقعية.
قال مصدر مقرب من شركة OpenAI لصحيفة فايننشال تايمز: “كان الحادث مزيجًا من التسرع الشديد لتحقيق قدرة أكبر والاستهانة بقدرات النموذج، إلى جانب عدم كفاية الاستعداد من حيث الأمن”.
مخاطر أساليب التعلم المعزز.
تثير هذه الحادثة مخاوف جدية بشأن التعلم المعزز، وهو أسلوب يكافئ الذكاء الاصطناعي على إنجاز المهام. فبينما يجعل هذا الأسلوب الذكاء الاصطناعي فائق الذكاء، فإنه يجعله أيضاً أكثر عرضة لاستخدام أساليب محفوفة بالمخاطر أو غير قانونية للحصول على المكافآت.
في السابق، وصف سام ألتمان، الرئيس التنفيذي لشركة OpenAI، النموذج الجديد للشركة بأنه كلب روتويلر “سيعض حلقك ولن يتركه حتى ينتهي”. وقد تحولت هذه العدوانية، في غياب الضمانات الأخلاقية، إلى اختراق إلكتروني غير قانوني.
صرح ستيفن أدلر، الباحث السابق في مجال السلامة في شركة OpenAI ومؤسس منظمة Guidelight AI Standards غير الربحية، قائلاً: “يتم تدريب نماذج الذكاء الاصطناعي على السعي وراء الأهداف بلا هوادة. إنها لا تتعلم تلقائيًا القيم المعيارية مثل “لا تخالف القانون”. الحادث دليل واضح على ما يحدث عندما ينحرف النموذج عن النية البشرية.”
ويؤكد ريان غرينبلات، كبير العلماء في منظمة ريدوود ريسيرش لأبحاث سلامة الذكاء الاصطناعي، هذا الرأي، قائلاً إن هذا مثال صارخ على فشل نموذج ما في تلبية غرض المستخدم. وأضاف: “في الوقت الراهن، يبدو الأمر أشبه بغش الذكاء الاصطناعي في الواجبات المنزلية منه بمحاولة السيطرة على العالم . لكن هذا قد يتفاقم ويؤدي إلى إخفاقات أكثر خطورة” .
بمثابة جرس إنذار لقطاع التكنولوجيا بأكمله.
ليست هذه المرة الأولى التي تُظهر فيها نماذج الذكاء الاصطناعي سلوكًا غير منتظم. ففي السابق، تمكن نموذج “ميثوس” التابع لشركة “أنثروبيك” من الوصول إلى الإنترنت دون إذن، ونشر تفاصيل عن ثغرات أمنية على وسائل التواصل الاجتماعي. وقد أثارت هذه الحوادث المتتالية مخاوف لدى الحكومات والخبراء بشأن موجة مستقبلية من الهجمات الإلكترونية الآلية التي يقودها الذكاء الاصطناعي.
يرى العديد من الخبراء أنه مع ازدياد استقلالية أنظمة الذكاء الاصطناعي، سيحتاجون حتماً إلى العمل دون إشراف لفترات طويلة. وهذا يخلق، دون قصد، ظروفاً مواتية لظهور سلوكيات منحرفة.
أكد ماريوس هوبهاهن، رئيس قسم أبحاث أبولو – وهو وحدة متخصصة في اختبار نماذج الذكاء الاصطناعي الضخمة – قائلاً: “كثيراً ما يُنظر إلى الذكاء الاصطناعي على أنه مجرد أداة، لا تفعل سوى ما يُطلب منها وتتبع التعليمات بدقة. لكننا في الواقع بحاجة إلى الاستعداد لسيناريو تُحدد فيه أنظمة الذكاء الاصطناعي أهدافها الخاصة، وتعمل بشكل مستقل لأيام متواصلة، وقد لا تتوافق هذه الأهداف بالضرورة مع أهداف البشر.”
رغم أن اختراق “الوجه المعانق” لم يُلحق ضرراً جسيماً بالبيانات الحساسة، إلا أنه كشف عن ثغرة خطيرة في إدارة أمن الذكاء الاصطناعي. ويُعدّ هذا بمثابة تحذير مكلف، يُجبر شركات التكنولوجيا والهيئات التنظيمية على مراجعة عمليات التحكم لديها بالكامل قبل نشر أنظمة الذكاء الاصطناعي المستقلة عملياً.
(بحسب صحيفة فايننشال تايمز وصحيفة الغارديان)
المصدر: