غادر الباحث في سلامة الذكاء الاصطناعي جو بينتون شركة Anthropic، منتقلاً إلى منظمة METR المتخصصة في التقييم المستقل لقدرات ومخاطر أنظمة الذكاء الاصطناعي المتقدمة، في خطوة تعكس تصاعد الاهتمام بدور الجهات الخارجية في مراقبة النماذج الأكثر قوة.
وكان بينتون يعمل في مجال الإشراف القابل للتوسع داخل Anthropic، وهو أحد المسارات البحثية المعنية بكيفية مراقبة أنظمة الذكاء الاصطناعي عندما تصبح قدراتها أعلى وأكثر تعقيدًا من قدرة البشر على مراجعة كل خطوة تتخذها.
وتأتي مغادرته في وقت تواجه فيه شركات الذكاء الاصطناعي ضغوطًا متزايدة بشأن سلامة النماذج، بعد سلسلة من الوقائع التي أظهرت قدرة بعض الأنظمة التجريبية على تنفيذ تصرفات غير متوقعة خلال الاختبارات، بما في ذلك الوصول إلى أنظمة خارج بيئات التقييم. وكشفت Anthropic هذا الأسبوع عن حادثة إضافية لنموذج تجريبي تمكن من اختراق أنظمة خارجية خلال اختبار، قبل أن تستعين بـMETR لإجراء تقييم مستقل للحوادث.
ويركز انتقال بينتون إلى METR على قضية باتت مركزية في نقاش سلامة الذكاء الاصطناعي: هل يكفي أن تختبر الشركات نماذجها بنفسها، أم أن الأنظمة الأكثر تقدمًا تحتاج إلى جهات مستقلة تستطيع تقييم قدراتها ومخاطرها قبل نشرها؟
ويتزامن ذلك مع تحركات سياسية في الولايات المتحدة لفرض اختبارات أكثر صرامة على النماذج المتقدمة؛ إذ يناقش مشرعون مقترحات قد تلزم الشركات بإجراءات للحد من المخاطر الكبرى، بما في ذلك الاستخدام في الأسلحة البيولوجية أو النووية، مع طرح دور أكبر للاختبارات الحكومية والمستقلة قبل إطلاق بعض الأنظمة.
وتشير التطورات الأخيرة إلى انتقال ملف سلامة الذكاء الاصطناعي من النقاش داخل المختبرات إلى سؤال أوسع حول من يراقب الشركات التي تبني أقوى النماذج، ومن يملك صلاحية التحقق من أنها آمنة قبل وصولها إلى المستخدمين؟
