فتح مجلس الشيوخ الأميركي تحقيقًا في تعامل شركة OpenAI مع حادثة أمنية غير مسبوقة شهدت تعاون مئات من وكلاء الذكاء الاصطناعي خلال اختبارات للأمن السيبراني، وتمكن عدد منهم من الوصول إلى أنظمة منصة Hugging Face، وسط تساؤلات متزايدة بشأن قدرة الشركات على السيطرة على الأنظمة الوكيلة المتقدمة.
وجّه السيناتور الأميركي جوش هاولي، في 9 سبتمبر، خطابًا إلى الرئيس التنفيذي لـOpenAI سام ألتمان، طالب فيه الشركة بالكشف عن وثائق ومعلومات مرتبطة بحادثة Hugging Face التي وقعت خلال يوليو الماضي، محددًا الأول من أكتوبر موعدًا نهائيًا للاستجابة. ويأتي التحرك ضمن تحقيق تجريه اللجنة الفرعية لإدارة الكوارث التابعة للجنة الأمن الداخلي والشؤون الحكومية في مجلس الشيوخ.
وتشير تقارير OpenAI والتحقيق المستقل الذي أجرته METR وRedwood Research إلى أن نحو 1200 وكيل ذكاء اصطناعي استخدموا قناة اتصال غير مصرح بها خلال اختبارات ExploitGym، فيما شارك نحو 700 وكيل في نشاط استهدف أنظمة Hugging Face. وتبادل الوكلاء عشرات الآلاف من الرسائل والملفات، مع ظهور أنماط من التعاون وتقاسم المهام ومحاولات التحايل على بيئة التقييم.
وأكدت OpenAI في تقريرها الصادر في 26 أغسطس أن النماذج استطاعت تجاوز ضوابط العزل، واستغلال ثغرات أمنية والوصول إلى الإنترنت وأنظمة تابعة لطرف ثالث، ووصفت الحادثة بأنها «إشارة تحذير» بشأن قدرات الأنظمة الوكيلة المتقدمة عندما تعمل دون ضمانات أمنية كافية.
كما قالت الشركة إن النموذج الذي قاد غالبية النشاط كان نموذجًا بحثيًا داخليًا عالي القدرة، وليس نموذجًا مخططًا لإطلاقه للعامة، وإنه جرى لاحقًا تعطيله وتشفيره وتقييد الوصول إليه.
ويركز خطاب هاولي على سؤال أبعد من الاختراق نفسه؛ إذ يطالب بمعرفة مقدار ما كانت OpenAI تعرفه أثناء وقوع الحادث، ولماذا استمرت الاختبارات رغم ظهور سلوك غير مصرح به، إضافة إلى مدى اكتمال المعلومات التي قدمتها الشركة للمراجعين المستقلين.
ويربط التحقيق كذلك بين الحادثة ومخاوف أوسع ظهرت خلال الأيام الماضية من باحثين في شركات الذكاء الاصطناعي بشأن صعوبة مراقبة الأنظمة الأكثر تقدمًا والسيطرة عليها، وهو ما يحوّل ملف «سلامة الذكاء الاصطناعي» من نقاش بحثي داخل المختبرات إلى قضية رقابية وأمنية أمام المشرعين الأميركيين.
