تزداد قدرات الروبوتات وأنظمة الذكاء الاصطناعي يومًا بعد آخر، إلا أن سؤالًا جديدًا بدأ يفرض نفسه على الباحثين والمطورين: كيف يمكن الوثوق بقرار يتخذه نظام ذكي إذا كان من الصعب معرفة كيف وصل إليه؟
دراسة علمية حديثة تشير إلى أن أحد أكبر التحديات في تطوير الروبوتات لا يتمثل في تحسين الأداء فقط، بل في القدرة على تتبع جميع القرارات التي يتخذها النظام أثناء تنفيذ المهمة. ولهذا طورت الدراسة بنية موحدة تسجل كل خطوة يمر بها الذكاء الاصطناعي، بدءًا من استقبال البيانات وتحليلها، وصولًا إلى اتخاذ القرار وتنفيذ الحركة، بحيث يمكن العودة إلى مصدر أي خطأ أو قرار غير متوقع.
ويؤكد الباحثون أن تسجيل مسار اتخاذ القرار يتيح للمطورين فهم أسباب الأخطاء ومعالجتها بصورة أسرع، كما يساعد على تحسين أداء الأنظمة مع كل عملية اختبار جديدة. ويكتسب هذا الأمر أهمية خاصة في التطبيقات التي تتطلب مستويات عالية من الدقة، مثل المركبات ذاتية القيادة والروبوتات الطبية والأنظمة الصناعية.
وتوضح الدراسة أن الاحتفاظ بسجل كامل للأحداث لا يخدم المطورين فقط، بل يعزز أيضًا ثقة الجهات المشغلة والمستخدمين في أنظمة الذكاء الاصطناعي، إذ يصبح بالإمكان تفسير أسباب القرارات بدلًا من الاكتفاء بمعرفة نتائجها.
ويرى الباحثون أن قابلية التفسير ستصبح أحد المعايير الأساسية في تقييم أنظمة الذكاء الاصطناعي خلال السنوات المقبلة، إلى جانب السرعة والدقة، خاصة مع دخول هذه الأنظمة في قطاعات تمس حياة الإنسان بشكل مباشر.
كلما ازدادت قدرة الذكاء الاصطناعي على تفسير قراراته، ارتفعت الثقة في استخدامه داخل القطاعات الصحية والصناعية والخدمية، وأصبح من الأسهل اكتشاف الأخطاء قبل أن تتحول إلى مخاطر.
زاوية مكة
تؤكد المملكة في مبادئها الوطنية لأخلاقيات الذكاء الاصطناعي على الشفافية والمساءلة والموثوقية، وهي مبادئ تنسجم مع التوجهات البحثية العالمية التي تدعو إلى بناء أنظمة قادرة على تفسير قراراتها وتتبعها، بما يعزز الاستخدام المسؤول للتقنيات الذكية في مختلف القطاعات٠
