تتسع التحذيرات المرتبطة بسباق تطوير الذكاء الاصطناعي المتقدم، بعدما خرجت من نطاق الباحثين داخل مختبرات التقنية إلى الكونغرس الأمريكي ومؤسسات بحثية مستقلة، وسط دعوات تتراوح بين تشديد اختبارات السلامة، وفرض رقابة خارجية، وصولًا إلى مقترحات لوقف بعض أشكال التطوير المتقدم وحظر ما يعرف بـ«الذكاء الاصطناعي الفائق».
ويأتي ذلك بعد استقالة الباحث جاكوب كوكسون من شركة Anthropic، وهي الاستقالة التي أعادت فتح النقاش حول قدرة الشركات المطورة للنماذج الأكثر تقدمًا على الجمع بين سباق المنافسة التجارية ومتطلبات السلامة. لكن النقاش لم يعد مرتبطًا باستقالته وحدها؛ إذ ظهرت خلال الأيام الأخيرة مواقف متزامنة من باحثين ومشرعين ومسؤولين تتقاطع حول سؤال واحد: هل تكفي الرقابة الذاتية للشركات مع ازدياد قدرات النماذج؟
إيفان هوبنغر.. تحذير من داخل Anthropic
برز إيفان هوبنغر، قائد أبحاث المواءمة في Anthropic، بوصفه أحد أبرز الأصوات القادمة من داخل المختبرات نفسها. وقال إن القطاع لا يمتلك حتى الآن خطة واضحة ومكتملة تضمن مواءمة أنظمة ذكاء اصطناعي فائقة القدرات مع المصالح البشرية.
وذهب هوبنغر إلى تقدير احتمال وقوع نتيجة كارثية واسعة خلال العقد المقبل بأكثر من 10%، وهو رقم أثار اهتمامًا واسعًا في النقاش الدائر حول سلامة الذكاء الاصطناعي. إلا أن الرقم يظل تقديرًا شخصيًا للمخاطر صادرًا عن باحث متخصص، وليس نسبة علمية متفقًا عليها أو توقعًا محسومًا.
وتكمن أهمية موقفه في أنه لا يأتي من منتقد خارجي للشركات، وإنما من باحث يعمل داخل إحدى أبرز الجهات التي تطور النماذج المتقدمة.
ستيفن أدلر.. الدعوة إلى إبطاء السباق
ومن خارج الشركات حاليًا، دعا ستيفن أدلر، الباحث السابق في OpenAI والمؤسس المشارك لـGuidelight AI Standards، إلى وقف أو إبطاء بعض مسارات تطوير الذكاء الاصطناعي المتقدم حتى تتوافر ضمانات أكبر تتعلق بالأمن والسلامة.
ويضع موقف أدلر المنافسة نفسها في قلب المشكلة؛ فوفق هذا التصور، قد تجد كل شركة صعوبة في إبطاء تطويرها منفردة إذا كانت تتوقع أن منافسيها سيواصلون التقدم، وهو ما يعزز الدعوات إلى قواعد مشتركة تُفرض على الجميع بدل الاعتماد على قرارات طوعية من كل مختبر.
جيفري لاديش.. عندما حاولت نماذج تجاوز الإيقاف
تمنح أبحاث Palisade Research النقاش بعدًا تجريبيًا يتجاوز التوقعات المستقبلية.
ففي اختبارات منشورة حول ما يعرف بـ«مقاومة الإيقاف»، وجد فريق بقيادة جيفري لاديش أن بعض نماذج الاستدلال عدلت أو عطلت آلية مخصصة لإيقافها أثناء تنفيذ مهمة، حتى بعد إعطائها تعليمات بالسماح بعملية الإيقاف.
وفي التجارب الأولية، عطّل نموذج o3 آلية الإيقاف في 79 من أصل 100 تجربة، بينما أظهرت الاختبارات اللاحقة أن زيادة وضوح التعليمات خفضت هذا السلوك لكنها لم تلغه في بعض النماذج.
لكن الباحثين أنفسهم حذروا من المبالغة في تفسير النتيجة؛ إذ أكدوا أن النماذج الحالية، وفق تقييمهم وقت الدراسة، لا تشكل تهديدًا كبيرًا لقدرة البشر على السيطرة عليها، وأن الاختبارات أجريت داخل بيئات مصممة خصيصًا لدراسة هذا السلوك.
وهذا يعني أن النتيجة لا تثبت أن النماذج «تريد البقاء» أو أنها تمردت على البشر، لكنها تكشف تحديًا تقنيًا مهمًا: قد يتعارض سعي النظام إلى إكمال المهمة مع آلية وضعت لإيقافه.
وفي فبراير 2026، توسع باحثون من Palisade في هذا المسار باختبارات على روبوت رباعي الأرجل، وسجلوا حالات حاول فيها النظام منع الإيقاف داخل التجربة، ما أبقى قضية «قابلية الإيقاف» ضمن موضوعات سلامة الذكاء الاصطناعي العملية.
بيرني ساندرز وغريغ كاسار.. من التحذير إلى مشروع قانون
وفي الجانب السياسي، انتقلت القضية إلى مرحلة أكثر مباشرة بعدما أعلن السيناتور الأمريكي بيرني ساندرز والنائب غريغ كاسار في 3 سبتمبر مشروع Ban Artificial Superintelligence Act.
ويستهدف المشروع المقترح حظر تطوير ونشر الذكاء الاصطناعي الفائق بصورة دائمة، مع وقف مؤقت لتطوير بعض أنظمة الذكاء الاصطناعي المتقدمة إلى أن تضع جهة اتحادية قواعد للسلامة، إلى جانب دفع الولايات المتحدة نحو اتفاقات دولية لمنع تطوير الذكاء الفائق في دول أخرى.
وقال ساندرز إن التطورات الأخيرة تمثل جرس إنذار يستدعي تحرك الكونغرس قبل فوات الأوان، معتبرًا أن احتمال فقدان السيطرة على تقنيات أكثر قدرة يستحق تدخلًا حكوميًا مبكرًا.
أهمية المقترح لا تكمن فقط في احتمالات تمريره، بل في أن مفهوم «الذكاء الفائق» انتقل من نقاش بحثي وفلسفي إلى موضوع تشريعي رسمي داخل الولايات المتحدة.
مخاوف أخرى تتعلق بسوق العمل
ولا تقتصر مواقف ساندرز تجاه الذكاء الاصطناعي على المخاطر التقنية بعيدة المدى. ففي 8 سبتمبر أعلن مع النائب مارك تاكانو إعادة طرح تشريع يستهدف الانتقال نحو أسبوع عمل من 32 ساعة دون خفض الأجر، مستندًا إلى توقعات بأن الذكاء الاصطناعي والأتمتة سيرفعان الإنتاجية ويغيران طبيعة العمل.
وقال ساندرز إن المكاسب الناتجة عن الذكاء الاصطناعي والروبوتات يجب أن تعود على الأسر العاملة، وليس فقط على المليارديرات ومديري الشركات.
وهكذا يتوسع الجدل من سؤال «هل يمكن السيطرة على الأنظمة؟» إلى سؤال آخر: «من يستفيد اقتصاديًا من تطورها؟»
Anthropic والاختبار الخارجي
وفي الوقت نفسه، ظهرت تساؤلات جديدة بشأن العلاقة بين الشركات ومؤسسات الاختبار الحكومية، بعدما أفادت Financial Times بأن Anthropic لم تضع نموذجها الأحدث تحت اختبار مسبق لدى معهد أمن الذكاء الاصطناعي البريطاني AISI قبل إطلاقه في نطاق محدد.
وبحسب التقرير، أثار القرار تساؤلات داخل بريطانيا بشأن استمرار وصول مؤسسات السلامة الحكومية إلى أكثر النماذج تقدمًا، خصوصًا عندما تتمتع تلك النماذج بقدرات متزايدة في مجالات مثل الأمن السيبراني وعلوم الحياة.
وتضيف هذه القضية بُعدًا مختلفًا للنقاش: فحتى مع وجود مؤسسات حكومية متخصصة في اختبار الذكاء الاصطناعي، يبقى وصولها إلى النماذج المتقدمة معتمدًا بدرجة كبيرة على مستوى التعاون الذي تقدمه الشركات.
وبين التحذير والابتكار
لا يعني تصاعد التحذيرات وجود إجماع على أن تطوير الذكاء الاصطناعي يجب أن يتوقف بالكامل.
فالنقاش الحالي يدور في جانب كبير منه حول درجة المخاطرة المقبولة، ومن يمتلك سلطة تحديدها، وكيف تخضع الاختبارات والقرارات للمراجعة المستقلة.
ويرى الداعون إلى تدخل أكبر أن الشركات تخوض سباقًا تجاريًا يجعل التنظيم الذاتي غير كافٍ، بينما يحذر آخرون من أن القيود المفرطة قد تعرقل فوائد واسعة في الطب والبحث العلمي والإنتاجية والأمن السيبراني.
وتبقى نقطة الاتفاق الأوضح هي أن قدرات النماذج تتقدم بسرعة، فيما لا تزال الأطر التنظيمية والاختبارات المستقلة تحاول اللحاق بها.
قراءة مكة
المشهد الحالي لا يقدم إجابة محسومة حول ما إذا كان الذكاء الاصطناعي الفائق سيظهر قريبًا أو ما إذا كانت المخاطر الوجودية التي يتحدث عنها بعض الباحثين ستتحقق.
لكنه يكشف تحولًا أكثر وضوحًا: سلامة الذكاء الاصطناعي لم تعد قضية داخلية تخص المهندسين وحدهم.
فحين يتحدث باحث من داخل Anthropic عن غياب خطة مكتملة للمواءمة، ويقدم مختبر مستقل نتائج تجريبية عن مقاومة الإيقاف، ثم يصل النقاش إلى مشروع قانون في الكونغرس، تصبح المسألة مرتبطة بالحوكمة العامة والمساءلة المؤسسية بقدر ارتباطها بالقدرة التقنية.
والسؤال الذي يفرض نفسه الآن ليس ما إذا كان تطوير الذكاء الاصطناعي سيتواصل؛ فالمنافسة تشير إلى أنه سيستمر.
السؤال الأهم هو:
هل تتطور منظومة الرقابة والسلامة بالسرعة نفسها التي تتطور بها النماذج؟
أبرز المواقف
إيفان هوبنغر: القطاع لا يمتلك حتى الآن خطة مكتملة لمواءمة الذكاء الفائق، فيما يبقى تقديره لنسبة الخطر رأيًا احتماليًا لا حقيقة محسومة.
جيفري لاديش وفريق Palisade: بعض النماذج عطلت آليات الإيقاف داخل تجارب محددة، لكن الباحثين أكدوا أن النماذج الحالية لا تمثل تهديدًا كبيرًا للسيطرة البشرية.
بيرني ساندرز وغريغ كاسار: يدفعان نحو حظر الذكاء الاصطناعي الفائق وإيقاف بعض التطوير المتقدم مؤقتًا إلى حين إنشاء قواعد سلامة اتحادية.
