انضم باحثان جديدان في سلامة الذكاء الاصطناعي إلى موجة التحذيرات المتصاعدة من مخاطر الأنظمة المتقدمة، بعد مغادرتهما شركتي Anthropic وGoogle DeepMind، مؤكدين أن وتيرة التطور الحالية تتطلب مستوى أعلى من الشفافية والرقابة.
وقال جو بنتون، الذي سبق أن قاد فريقًا لأبحاث السلامة في Anthropic، وجوش إنجلز، الباحث السابق في سلامة الذكاء الاصطناعي لدى Google، في أول مقابلاتهما منذ مغادرتهما، إن هناك حاجة عاجلة إلى الكشف بصورة أكبر عن الحوادث والقدرات التي تظهر في الأنظمة المتقدمة قبل وصولها إلى نطاق أوسع من الاستخدام.
وحذر بنتون من أن التطورات في أبحاث الذكاء الاصطناعي قد تدفع سرعة التقدم من وتيرة متسارعة إلى مستويات «غير قابلة للسيطرة»، في ظل سباق الشركات على تطوير نماذج أكثر قدرة.
أما إنجلز فقال إن العاملين في المجال يبذلون أقصى ما لديهم، لكنه حذر من غياب جهة قادرة وحدها على احتواء المخاطر، مستخدمًا عبارة لافتة مفادها أنه «لا يوجد بالغون في الغرفة»، وأن «لا أحد قادم لإنقاذنا».
وتأتي تصريحات الباحثين في أعقاب استقالة جاكوب كوكسون من Anthropic وتحذيراته من سرعة تطوير أنظمة الذكاء الاصطناعي المتقدمة، ما يوسع دائرة الباحثين السابقين في كبرى المختبرات التقنية الذين يطالبون بضوابط أقوى وشفافية أكبر.
ويركز الباحثان على فجوة المعلومات بين ما يحدث داخل مختبرات الذكاء الاصطناعي وما يصل إلى الجمهور وصناع القرار، معتبرين أن السرعة الحالية للتطوير تجعل نشر المعلومات المتعلقة بالحوادث ونتائج اختبارات السلامة أكثر أهمية.
وتضيف هذه الاستقالات بعدًا جديدًا للنقاش حول مستقبل الذكاء الاصطناعي، إذ لم تعد التحذيرات مقتصرة على باحث واحد أو شركة واحدة، بل بدأت تظهر بصورة متتابعة من متخصصين سبق لهم العمل مباشرة على سلامة الأنظمة في عدد من أكبر شركات الذكاء الاصطناعي في العالم.
ولا تعني هذه التحذيرات أن فقدان السيطرة على الذكاء الاصطناعي بات أمرًا محسومًا، لكنها تعكس اتساع الخلاف داخل مجتمع التقنية بشأن سرعة تطوير الأنظمة المتقدمة، ومدى كفاية آليات الاختبار والرقابة والشفافية الحالية.
