أعاد إعلان الباحث البريطاني جاكوب كوكسون استقالته من شركة Anthropic فتح ملف الحوكمة والسلامة في سباق الذكاء الاصطناعي، بعدما اتهم Anthropic وOpenAI بالمضي سريعًا نحو أنظمة ذكاء اصطناعي قادرة على تحسين نفسها، في وقت يرى فيه أن آليات الضبط الحالية لا تواكب سرعة تطور القدرات.
وقال كوكسون، الذي أمضى نحو ثلاث سنوات في أبحاث ما قبل التدريب لدى OpenAI ثم Anthropic، إنه قرر مغادرة Anthropic وقطاع الذكاء الاصطناعي، معتبرًا أن المختبرات الكبرى أصبحت عالقة في سباق تنافسي يدفع كل شركة إلى مواصلة تطوير قدرات أكثر تقدمًا خشية أن يسبقها المنافسون.
ولا تقتصر انتقادات الباحث على شركة بعينها؛ إذ أوضح أن Anthropic تبذل جهودًا جادة في السلامة، لكنه يرى أن هذه الجهود تعمل داخل بيئة تنافسية تجعل التباطؤ الأحادي أمرًا صعبًا. وبالنسبة إليه، فإن تطوير أنظمة قد تصل إلى مستوى «الذكاء الفائق» لا ينبغي أن يظل قرارًا تتخذه الشركات الخاصة منفردة.
وتزامن الجدل مع تصريحات من داخل Anthropic نفسها، إذ أشار الباحث إيفان هوبينغر، المتخصص في مواءمة أنظمة الذكاء الاصطناعي، إلى أن النماذج الحالية لا تمثل مستوى الخطر نفسه الذي يقلقه، بينما يتركز القلق بصورة أكبر على إمكانية ظهور أنظمة فائقة الذكاء عبر عمليات تحسين ذاتي متسارعة.
وتكتسب الاستقالة أهمية إضافية لأنها تأتي ضمن نقاش أوسع داخل صناعة الذكاء الاصطناعي بشأن قدرة الشركات على تنظيم نفسها ذاتيًا، خصوصًا مع تسارع تطوير النماذج وانتقال الذكاء الاصطناعي تدريجيًا من أداة مساعدة للباحثين والمبرمجين إلى تقنية يمكن أن تسهم في تطوير أجيال جديدة من الأنظمة نفسها. وتشير تقارير حديثة إلى تصاعد الدعوات داخل الصناعة إلى تدخل حكومي وتنسيق بين المختبرات الكبرى لتقليل مخاطر السباق غير المنضبط.
غير أن التحذيرات المتعلقة بانقراض البشر أو فقدان السيطرة على الذكاء الاصطناعي تبقى تقديرات واحتمالات يطرحها بعض الباحثين وليست نتيجة علمية محسومة، فيما يستمر خلاف واسع داخل المجتمع التقني حول احتمال تحقق هذه السيناريوهات، وتوقيتها، وقدرة أدوات السلامة الحالية والمستقبلية على الحد منها.
قراءة مكة
القضية التي تثيرها استقالة كوكسون تتجاوز سؤالًا تقنيًا حول «مدى ذكاء النموذج المقبل». المسألة الأهم هي من يملك قرار السرعة؟
فإذا كانت الشركات تخشى أن يؤدي تباطؤها إلى تقدم منافس آخر، تصبح المشكلة أقرب إلى معضلة عمل جماعي: قد ترى كل جهة منفردة أن الاستمرار هو القرار العقلاني تجاريًا، بينما تكون النتيجة الجماعية سباقًا أسرع مما ترغب فيه الجهات نفسها.
ومن هنا ينتقل النقاش من سلامة النموذج إلى حوكمة منظومة كاملة تشمل التشريعات، والاختبارات المستقلة، والإفصاح عن المخاطر، وقواعد التعامل مع القدرات عالية الخطورة، والتنسيق الدولي.
وهذه تحديدًا هي الزاوية التي تجعل استقالة باحث واحد قصة أكبر من قرار وظيفي: ماذا يحدث عندما يبدأ بعض الأشخاص الذين يبنون التقنية بالتشكيك في قدرة السوق وحده على ضبط إيقاعها؟
«لا تتصرف أي من الشركتين بمسؤولية. إنهما تتسابقان مباشرة نحو ذكاء فائق قادر على تحسين نفسه». — جاكوب كوكسون، بحسب منشوره الذي نقلته وسائل إعلام دولية.
