تثير الوتيرة المتسارعة لتطور الذكاء الاصطناعي مخاوف متزايدة بشأن قدرة البشر على مواكبة أنظمة قد تصبح أكثر استقلالية وسرعة في التخطيط والتنفيذ، خصوصاً مع تنامي قدراتها على البرمجة وتحليل البيانات واستخدام الأدوات الرقمية.

وأوضح الدكتور محمد محسن رمضان، رئيس وحدة الذكاء الاصطناعي والأمن السيبراني بمركز العرب للأبحاث والدراسات، أن مصدر القلق الأساسي لا يرتبط بتحول الآلات إلى ما يشبه الخصم للبشر، وإنما باحتمال ظهور أنظمة ذات صلاحيات واسعة وأهداف غير منضبطة، قادرة على اتخاذ وتنفيذ قرارات بسرعة تتجاوز قدرة الإنسان على المراجعة والتدخل.

وأشار رمضان إلى مفهوم «التحسين الذاتي المتكرر»، الذي يقوم على قدرة النظام على المساهمة في تطوير برمجياته أو تحسين قدراته ثم الاستفادة من تلك التحسينات في مراحل لاحقة، مؤكداً أن أنظمة الذكاء الاصطناعي الحالية لم تصل إلى المستوى الكامل الذي تفترضه بعض سيناريوهات الذكاء الخارق، لكن ارتفاع مستوى استقلالية النماذج والوكلاء الذكيين يفرض التعامل مبكراً مع قضايا السلامة والأمن.

ومن جانبه، اعتبر اللواء أبو بكر عبد الكريم، مساعد أول وزير الداخلية المصري لقطاع الإعلام والعلاقات الأسبق، أن الخطر يرتفع عندما تجتمع القدرة العالية على اتخاذ القرار مع الاستقلالية والصلاحيات والسرعة، داعياً إلى تعزيز اختبارات الأنظمة المتقدمة، وتحديد صلاحياتها، ومراقبة سلوكها، وعزل البيئات الحساسة، إلى جانب تطوير آليات آمنة لإيقافها عند الضرورة.

وأكد المتحدثان أن المخاوف المطروحة لا تعني أن فناء البشرية بات أمراً حتمياً، مشددين على أن التحدي الحقيقي يتمثل في ضمان مواكبة أنظمة الحوكمة والرقابة للتطور السريع للذكاء الاصطناعي، حتى لا تتجاوز قدرات التكنولوجيا قدرة البشر على إدارتها والسيطرة على استخدامها.