بسم الله الرحمن الرحيم، والصلاة والسلام على سيدنا محمد. السلام عليكم ورحمة الله تعالى وبركاته.

السيدات والسادة القضاة، الأستاذات والأساتذة، المحاميات والمحامون، الطالبات والطلبة، ممثلات وممثلو المجتمع المدني، وكل من يتابعنا عبر هذه المنصة، أهلا وسهلا بكم جميعا. أشكركم على تخصيص جزء من وقتكم لهذا اللقاء. ويسعدني أن يجمعنا موضوع يدخل إلى قاعة الدرس مع الطالب، وإلى مكتب المحامي مع أول بحث في ملف، وإلى بيت المواطن مع أول صورة تصل إلى هاتفه ويحتار في صدقها.

أدعوكم إلى تخيل هذا المشهد. يتلقى مواطن إشعارا بتعليق معالجة طلب تقدم به للاستفادة من خدمة عمومية. يسأل عن السبب، فيقال له إن النظام صنف ملفه ضمن الطلبات التي تحتاج إلى التحقق. يسأل عن الوثيقة الناقصة، فيجيبه الموظف بأنه لا يعرف. ثم يسأل سؤالا بسيطا لا يجد له جوابا. من يستطيع أن يعيد النظر في ملفي؟

لو كنتم مكانه، ماذا تطلبون أولا؟ سببا واضحا؟ مراجعة بشرية؟ تصحيح المعطيات؟ 

بهذا السؤال أدخل معكم إلى صلب المحاضرة. كيف نستفيد من الذكاء الاصطناعي في توسيع المعرفة وتحسين الخدمات، مع الحفاظ على حق الإنسان في الفهم والاعتراض، وعلى مسؤولية من يتخذ القرار؟ سأبدأ بما تفعله هذه الأدوات، ثم أنتقل إلى ما تثيره من أسئلة فلسفية وقانونية، وأقف عند آثارها في المهن والجامعة والمجتمع.

                   ---- المحور الأول -----

كيف تعمل هذه الأنظمة وأين تخطئ؟

الذكاء الاصطناعي اسم لمجموعة من الأنظمة القادرة، انطلاقا من مدخلات تتلقاها، على إنتاج مخرجات مثل التوقعات والتوصيات والمحتوى. ومن تطبيقاته أن يقترح نظام فئة لتصنيف وثيقة، أو أن يتعرف إلى كلمات في تسجيل صوتي. أما الذكاء الاصطناعي التوليدي فينتج محتوى، مثل نص أو صورة أو صوت. وقد نجمع بين استعمالين في مؤسسة واحدة، حين نستعمل أداة لفرز الطلبات وأخرى لصياغة جواب أولي عنها. لكل استعمال اختبار مختلف، ولكل خطأ أثر مختلف.

كيف يستطيع نموذج لغوي كتابة فقرة تشبه كلام الخبير؟ يتعلم النموذج أنماطا من قدر كبير من النصوص، ويستعملها لتوليد جواب بناء على سياق السؤال. قد يساعدنا ذلك على تلخيص نص أو صياغة فرضيات للبحث. وقد يولد أيضا مرجعا يبدو صحيحا. برقم قرار وتاريخ ومحكمة، بينما يتعذر العثور على القرار في مصدر موثوق. 

لنفترض أن طالبا سأل الأداة عن اجتهاد قضائي. يبدأ العمل العلمي حين يبحث عن القرار في مصدره، ويقرأ حيثياته، ويتحقق من أن الوقائع تشبه وقائع المسألة التي يدرسها. وقد يجد قرارا حقيقيا ويكتشف أن النموذج نسب إليه نتيجة مغايرة. هنا يظهر الفرق بين التحقق من وجود المرجع والتحقق من صحة استعماله.

وهناك فرق آخر بين جودة الأداة في المتوسط وجودتها في السياق الذي نريد استخدامها فيه. فإذا أردنا اعتمادها لتفريغ تسجيلات أو ترجمة وثائق، فالمعيار هو أداؤها على اللغات واللهجات وأنواع الوثائق التي يستعملها الناس فعلا. وكلما ارتفعت كلفة الخطأ، وجب أن يقترب الاختبار من ظروف الاستعمال الفعلي.

                    -----المحور الثاني -------

 الفلسفة والأخلاق وعلم النفس

تدعونا الفلسفة إلى التمييز بين إنتاج جواب وتحمل مسؤولية الحكم. ومن منظور أخلاقي يستلهم كانط، يدعونا مبدأ معاملة الإنسان بوصفه غاية في ذاته إلى التساؤل عما يحدث حين يختزل ملفه في درجة أو تصنيف. قد تكون الدرجة مفيدة للتنبيه إلى نقطة تحتاج إلى فحص. ويقتضي الإنصاف أن يسمع المعني بالأمر وأن تؤخذ ظروف حالته في الاعتبار. فقد يبدو ملفان متشابهين في قاعدة البيانات، بينما تختلف قصتاهما اختلافا يغير التقدير كله.

ومن زاوية فلسفة المعرفة، أسأل طلبتنا وزملائي سؤالا عمليا. إذا قدمت الأداة جوابا أوافق عليه، فكيف أختبره؟ أبحث عن الدليل، وأختبر تفسيرا آخر، وأتساءل عما قد يدفعني إلى تعديل رأيي. بهذا أستطيع أن أدافع عن الجواب بحجتي، وأن أراجعه إذا ظهرت معطيات جديدة.

ويساعدنا علم النفس على فهم الميل إلى الثقة الزائدة في التوصية الآلية، خصوصا عند ضغط الوقت أو حين يبدو النظام دقيقا. لنتصور موظفا يراجع عشرات الطلبات وقد وضع أمامه زر للموافقة على توصية جاهزة. تتوقف فعالية مراجعته على الوقت المتاح له، وإمكان الرجوع إلى الوثيقة الأصلية، وصلاحيته في مخالفة التوصية وتسجيل سبب ذلك. بهذه الشروط يصبح للتدخل البشري أثر في القرار. 

وتدعو توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي لسنة 2021 إلى مراعاة مبادئ منها الإنصاف والشفافية والإشراف البشري. وفي لغة المؤسسات يمكن ترجمة هذه المبادئ إلى سؤال مباشر. عندما يتضرر شخص، هل يعرف الجهة التي يلجأ إليها، وهل تستطيع تلك الجهة تصحيح الخطأ؟ 

              المحور الثالث 

 القانون المغربي والضمانات القضائية

في المغرب، يحمي الفصل 24 من الدستور الحياة الخاصة، ويضمن الفصل 118 حق التقاضي، ويقر الفصل 120 الحق في محاكمة عادلة وفي حكم داخل أجل معقول ويضمن حقوق الدفاع، ويقرر الفصل 125 تعليل الأحكام وفق الشروط التي ينص عليها القانون. وعندما ندخل أداة رقمية إلى مرفق العدالة، فإن هذه الضمانات تؤطر طريقة استعمالها. فالسرعة تخدم المتقاضي حين تقترن بقدرته على ممارسة حقه في الدفاع وفهم الأساس الذي بُني عليه الحكم. 

وتستحق المادة 11 من القانون رقم 09.08 وقفة خاصة. فهي تمنع تأسيس قرار قضائي يتضمن تقديرا لسلوك شخص على معالجة آلية لمعطيات شخصية تهدف إلى تقييم بعض جوانب شخصيته. وبالنسبة إلى القرارات الأخرى التي تنتج آثارا قانونية في حق شخص، تتناول المادة اتخاذها على الأساس الوحيد لمعالجة آلية ترمي إلى تحديد صفاته أو تقييم جوانب من شخصيته، مع مراعاة الحالات التي توضحها المادة نفسها. لذلك يتعين تحديد غرض المعالجة وأثرها عند تطبيق النص. فالبحث في اجتهاد منشور يختلف عن تقييم شخصية طرف في دعوى لتكوين تقدير بشأن سلوكه. 

وتظهر مسألة حماية المعطيات قبل إنتاج أي جواب. فرفع ملف إلى أداة خارجية يثير أسئلة عن طبيعة المعطيات، وغرض المعالجة، والجهة التي يمكن أن تصل إليها. وقد يبقى الشخص قابلا للتعرف من خلال عنوان أو رقم ملف أو مجموعة من التفاصيل، حتى بعد حذف اسمه. لذلك يبدأ اختيار الأداة من فحص ملاءمتها للاستعمال المقصود، وتحديد المعطيات التي تقتضيها المهمة والبيئة التي تعالج فيها. 

ثم إن تقدير المسؤولية عند وقوع ضرر يقتضي فحص دور كل طرف. من اختار النظام؟ من حدد وظيفته ومعايير تشغيله؟ من اعتمد النتيجة، وبأي صفة؟ وهل كان يمكن تدارك الخطأ؟ تفيد الإجابة عن هذه الأسئلة في تحديد ما حدث وتقدير المسؤولية وفق القواعد المنطبقة على الحالة.

             ---- المحور الرابع — ----

القضاء والمحاماة والممارسة المهنية

أمام السيدات والسادة القضاة، أقترح التمييز بين ثلاث وظائف. الأولى تنظيمية، مثل البحث في وثائق منشورة أو تحسين الفهرسة. والثانية تحليلية، مثل إعداد ملخص أولي يحتاج إلى المقابلة مع الوثيقة الأصلية. والثالثة تمس صميم الفصل في النزاع، من تقدير الوقائع والأدلة إلى تطبيق القانون وتعليل الحكم. وكلما اقترب الاستعمال من الوظيفة الثالثة، ازدادت أهمية ضمانات الدفاع وقدرة القاضي على فحص أثر الأداة ومراجعته. ويقدم الميثاق الأخلاقي الأوروبي لاستعمال الذكاء الاصطناعي في الأنظمة القضائية مبادئ للمقارنة، منها حماية الحقوق والشفافية وتحكم المستخدم. 

ولنتصور أن أداة تلخيص اختصرت محضرا مطولا، فأسقطت منه عبارة تدل على أن الشاهد يروي ما سمعه من غيره. قد يغير هذا الحذف القيمة التي تعطى للشهادة. والرجوع إلى المحضر الأصلي يتيح ملاحظة الفرق ومناقشته في إطار المسطرة المطبقة.

وفي ممارسة المحاماة، قد تساعد أداة على إعداد هيكل مذكرة أو اقتراح كلمات للبحث. وتبقى كل إحالة بحاجة إلى مقابلة مع مصدرها، وكل واقعة بحاجة إلى مطابقة مع مستندها. وقبل إدخال أي معلومات عن الموكل، يبدأ التقدير المهني من مقتضيات السرية وحماية المعطيات. ويمكن تجربة الأداة بمثال افتراضي يؤدي الغرض نفسه، أو ضمن بيئة مأذون بها وفق الضوابط المعتمدة.

أما الدليل الرقمي، فتأملوا معي تسجيلا متداولا يبدو أنه يحمل صوت شخص معروف. يتطلب تقدير قيمة التسجيل فحص مصدر الملف وسياقه وطرق حفظه، وقد تقتضي المسألة خبرة تقنية بحسب طبيعة النزاع. ويساعد الاحتفاظ بالنسخة الأصلية وتوثيق تداولها على طرح أسئلة يمكن التحقق منها أمام الجهة المختصة.

          --المحور الخامس —

 الجامعة والإعلام والمجتمع والاقتصاد

في الجامعة، يمكن أن نطلب من الطالب مقارنة جواب ولده نموذج بنص أصلي، وتعيين ما أغفله، ثم إعادة بناء الحجة وتبريرها شفويا. بهذا ندرب الطالب على النقد والتحقق، ونمنح الأستاذ فرصة لتقييم التفكير الذي قاد إلى النتيجة. وتوضح قواعد كل مؤسسة أو مقرر متى يجوز استعمال الأداة، وما الإفصاح المطلوب، وكيف تحفظ الأمانة العلمية.

وفي الصحافة، تطرح مسألة التحقق عند وصول تسجيل مثير إلى غرفة التحرير. يمكن للصحفي أن يسأل عن أول مصدر للنشر، وأن يقارن النسخ المتداولة، وأن يطلب تعليق الشخص المنسوب إليه الكلام. وتزداد أهمية هذه الخطوات حين يتعلق المحتوى بسمعة إنسان. وإذا استعان الصحفي بأداة في التفريغ أو الترجمة، فإنه يقابل المقاطع المؤثرة بالأصل قبل النشر.

ومن زاوية علم الاجتماع، أسأل ممثلات وممثلي المجتمع المدني عن الشروط التي تجعل الخدمة الرقمية متاحة للناس. ماذا يحدث إذا صممت واجهتها بلغة واحدة، أو تعذر استعمالها بقارئ الشاشة، أو تطلبت اتصالا مستقرا يصعب توفيره في بعض المناطق؟ يمكن لجمعية تعمل ميدانيا أن تختبر الخدمة مع المواطنين، وتوثق مواضع التعثر، وتنقلها إلى الجهة المسؤولة. وقد تكشف التجربة أن خدمة اختصرت وقت فئة من المستعملين رفعت كلفة الوصول لفئة أخرى.

وفي سوق العمل، يفيد أن ننظر إلى المهام داخل كل مهنة. أداة قد تختصر الوقت اللازم لإعداد مسودة، وتزيد في الوقت نفسه الحاجة إلى التحقق والتحرير والإشراف. وتشير دراسة منظمة العمل الدولية لسنة 2025 إلى أن تحول المهام أرجح من الإحلال الكامل في معظم المهن التي تتعرض للذكاء الاصطناعي التوليدي. وهذا يفتح نقاشا حول من يحصل على التدريب، وكيف تتوزع مكاسب الإنتاجية، وأي أثر يتركه التغيير في استقلال العامل وجودة عمله. 

أما في الإدارة العمومية، فأقترح أربعة أسئلة قبل اعتماد أي نظام يؤثر في الناس. ما المشكلة التي نريد حلها؟ كيف نقيس الأخطاء ومن يتضرر منها؟ من يملك صلاحية مراجعة النتيجة؟ وكيف يبلغ المواطن الجهة المسؤولة عن خلل في ملفه؟ يمكن اختبار نظام محدود النطاق أولا، ثم تقييم نتائجه ومعرفة أسباب الأخطاء قبل التوسع في استعماله.

أعود إلى المواطن الذي بدأنا معه. لنفترض أن النظام علق معالجة طلبه بسبب عدم تطابق عنوانه مع عنوان محفوظ في قاعدة بيانات قديمة، وأن الموظف يستطيع رؤية عبارة «تحتاج إلى التحقق» فقط. في هذه الحالة، يمكن تحديد كيف نشأ التعارض، ويمكن للموظف المخول مراجعة الوثائق، ويمكن للباحث القانوني أن يميز بين تنبيه داخلي وقرار إداري يرتب آثارا، فيما تستطيع جمعية أن تلفت الانتباه إلى تكرار المشكلة لدى سكان منطقة بعينها.

من طلب منكم توضيح السبب طرح سؤالاً وجيها. هل يكفي أن نقول للمواطن إن ملفه قيد التحقق، أم يحتاج إلى معرفة المعطى محل الإشكال ليتمكن من تصحيحه؟ ومن طالب بمراجعة بشرية يمكنه أن يضيف شرطا آخر. هل يملك المراجع صلاحية التصحيح وإعادة فحص الطلب؟ هنا تلتقي التقنية بالقانون، ويصبح في وسعنا أن نختبر ما إذا كانت المسطرة تنصف صاحب الطلب.

السيدات والسادة، حين يراجع طالب مرجعا، أو يعيد قاض قراءة وثيقة، أو يتحقق صحفي من تسجيل، يقوم كل واحد منهم بعمل قد يغير ما يصدقه القارئ أو ما يؤول إليه ملف إنسان. وقد تتيح لنا التقنية وقتا أطول لهذا العمل الدقيق، إذا عرفنا أين نعتمد عليها، وأين نراجع ما تقترحه، وكيف نصحح الخطأ حين يظهر.

أتخيل الآن المواطن نفسه وهو يعود إلى شباك الإدارة. هذه المرة يبين له موضع الخطأ، ويفتح أمامه سبيل لتصحيحه، ويتولى شخص مختص مراجعة طلبه. قد يحصل على الخدمة، وقد يرفض طلبه لأسباب يمكنه فهمها ومناقشتها. في الحالتين يجد ما كان يطلبه منذ البداية، وهو أن يسمعه أحد ويجيب عن سؤاله.

أشكر السيدات والسادة القضاة والمحاميات والمحامين على حضورهم وإغنائهم هذا اللقاء بخبرتهم العملية. وأشكر الأستاذات والأساتذة والطالبات والطلبة على ما يحملونه إليه من أسئلة وبحوث. والشكر موصول إلى فعاليات المجتمع المدني، وإلى من يسر هذا اللقاء، وإلى كل من تابعنا أو شاركنا بكلمة في الدردشة.