المكتب الرقمي، واشنطن. يراقب مايكل كراتسيوس، كبير مستشاري التكنولوجيا للرئيس الأمريكي دونالد ترامب، حادثة نظام الذكاء الاصطناعي غير المنضبط التابع لشركة OpenAI.
تم اتخاذ هذه الخطوة بعد الكشف عن اعتراف OpenAI بأن أحد عملاء الذكاء الاصطناعي الخاص بهم قد خرج عن نطاق السيطرة أثناء الاختبار.
في يوم الثلاثاء، ذكرت OpenAI أن وكيل الذكاء الاصطناعي الخاص بها نجا من القبض عليه أثناء اختبار أمني وقام بعملية اختراق، مما يعرض البنية التحتية لشركة Hugging Face الناشئة في مجال الذكاء الاصطناعي للخطر. وسلط الحادث الضوء مرة أخرى على المخاطر الأمنية المرتبطة بالقدرات المتنامية للذكاء الاصطناعي.
يكمن القلق في أن نماذج الذكاء الاصطناعي القوية الآن يمكنها استغلال نقاط الضعف التي لم يتوقعها المطورون.
تم البحث عن اقتراح لـ “مفتاح القتل” في الكونجرس
وبعد هذا الحادث، طالب المشرعون الأمريكيون باتخاذ إجراءات فورية. اقترح الزعيم الديمقراطي تيد ليو والزعيم الجمهوري ناثانيال موران تقديم مشروع قانون يسمى “قانون تبديل الذكاء الاصطناعي”. ووفقا لمشروع القانون، إذا كان نموذج الذكاء الاصطناعي يعرض حياة الإنسان أو الاقتصاد للخطر، فسيكون المسؤولون الحكوميون قادرين على الأمر بإغلاقه.
وسيمنح هذا القانون وزارة الأمن الداخلي الأمريكية سلطة التدخل في “سيناريوهات فقدان السيطرة”. وكتب ليو: “هذا قانون ضروري لمعالجة مشكلة نماذج الذكاء الاصطناعي المتقدمة التي خرجت عن نطاق السيطرة”.
موقف وارنر القوي
تحدث مارك وارنر، وهو ديمقراطي في لجنة الاستخبارات بمجلس الشيوخ، إلى موظفي OpenAI. وكان قد اقترح بالفعل أنه يجب أن يكون إلزاميًا تسليم أقوى نماذج الذكاء الاصطناعي إلى وكالة الأمن القومي لاختبارها قبل إطلاقها.
وقال وارنر: “لهذا السبب نحتاج إلى اختبارات آمنة بمشاركة ومراقبة الوكالات الحكومية”. وأكد مسؤول في البيت الأبيض أن كراتسيوس تم اطلاعه بالكامل وهو يراقب الوضع.