جدد الباحث السابق في شركتي Anthropic وOpenAI، جاكوب كوكسون، تحذيراته من مخاطر السباق المتسارع نحو تطوير ذكاء اصطناعي فائق، خلال ظهور تلفزيوني مع أندرسون كوبر على شبكة CNN، معتبرًا أن الشركات الكبرى تتجه نحو أنظمة قادرة على تحسين نفسها في وقت لا تزال فيه آليات السيطرة عليها غير محسومة.
وجاء ظهور كوكسون بعد إعلانه الاستقالة من Anthropic، وانتقاده مسار المنافسة بين أبرز مختبرات الذكاء الاصطناعي، إذ قال إن OpenAI وAnthropic تتسابقان نحو تطوير ما وصفه بـ«الذكاء الفائق القادر على تحسين نفسه»، محذرًا من أن هذا السباق يجري قبل التوصل إلى ضمانات كافية بشأن سلامة هذه الأنظمة وقدرة البشر على التحكم بها.
وتتمحور مخاوف كوكسون حول احتمال وصول أنظمة الذكاء الاصطناعي إلى قدرات تتجاوز البشر في مجالات مثل البرمجة والأمن السيبراني والبحث العلمي، ثم استخدامها تلك القدرات لتسريع تطوير أجيال أكثر تقدمًا منها.
وقال كوكسون في تحذيراته إن الأشخاص العاملين على بناء أنظمة الذكاء الاصطناعي المتقدمة يأخذون احتمال وقوع نتائج كارثية على محمل الجد، مؤكدًا أن المخاوف المتداولة داخل القطاع أشد مما يظهر في الخطاب العلني.
وتحظى هذه المخاوف بدعم من باحثين آخرين داخل Anthropic؛ إذ قال الباحث في مواءمة الذكاء الاصطناعي إيفان هوبينغر إن الشركة تحاول التعامل مع المخاطر، لكن لا توجد حتى الآن خطة مثبتة لحل مشكلة مواءمة الذكاء الفائق مع الأهداف البشرية.
وتشير تغطية CNN إلى أن مصدر القلق لا يقتصر على سيناريو «ذكاء اصطناعي شرير»، بل يمتد إلى أنظمة مستقلة قد تتخذ إجراءات غير متوقعة أثناء تنفيذ أهداف محددة، في ظل استمرار صعوبة تفسير بعض القرارات والسلوكيات الداخلية للنماذج المتقدمة.
وتعيد تصريحات كوكسون النقاش حول مسؤولية شركات التقنية في موازنة المنافسة التجارية مع متطلبات السلامة، خصوصًا مع تسارع تطوير الوكلاء المستقلين والأنظمة القادرة على أداء مهام تقنية متقدمة بقدر متزايد من الاستقلالية.
