بدأت القصة بملاحظة لم يستطع كاتب هذه السطور تجاوزها. وصل إليه بحث علمي مرفق بقرار تحكيم خاص به، وما إن تمعن في ثنايا القرار حتى لاحظ أثراً لا يخفى على عين المتخصص: صياغة تحمل بصمة النموذج اللغوي، وتقييم يجري وفق قواعد مقننة سلفاً، وليس وفق قراءة متأنية لجوهر البحث. لم يكن الرأي بشرياً خالصاً، بل مرَّ – كلياً أو جزئياً – عبر أداة ذكاء اصطناعي. والتقرير الذي أُرسل إلى الباحث بوصفه «رأي المحكّم» كان في حقيقته حكم الآلة، موقعاً باسم إنسان.
ولنقلها بوضوح لا يقبل التأويل: لقد بلغت الأمور مبلغاً وصلنا فيه إلى استخدامات جعلت الذكاء الاصطناعي يكتب ويحكم في آن؛ ينشئ النص ويصدر الحكم عليه، ويصوغ التقرير ويوقع القرار. هذه ليست تفصيلة تقنية تهم المهندسين وحدهم؛ إنها إعادة توزيع صامتة للسلطة – سلطة التقدير التي كانت يوماً في يد الإنسان المسؤول، تنتقل الآن إلى معادلة لا يراها أحد، ولا يستطيع أحد محاسبتها. ومن هنا انطلق السؤال الذي دفع إلى كتابة هذه السطور: إن كان تحكيم الأبحاث العلمية – وهو من أدق مواطن التقدير المهني وأشدها حساسية – قد بدأ يوكَل إلى الخوارزميات، فماذا عن مصائر الناس اليومية في أجهزتنا الخدمية؟ ماذا عن ملفات القبول والترقية والدعم والمنح والتراخيص، تلك التي يقف خلف كل منها إنسان ينتظر قراراً يغير مسار حياته؟ هل بدأ التقييم الآلي يتسلل إلى هذه الملفات بصمت أيضاً، ويصدر باسم الجهة بوصفه قرارها النهائي؟
فارق جوهري بين الاستعانة والتوكيل
فلنكن صريحين: الفارق بين أن يستعين المسؤول بالذكاء الاصطناعي مستشاراً ينير قراره، وبين أن يرسل ما تنتجه الآلة حكماً نهائياً دون أن يمر بعقل بشري يراجعه ويتحمل مسؤوليته – ليس فارقاً إدارياً هامشياً. إنه الفارق بين دولة تحكم مواطنيها بمسؤولية، ودولة تختبئ خلف شاشة. وحين نغوص في تفاصيل هذا الفارق، نكتشف أن المشكلة ليست أن الآلة تخطئ – فالمحكم البشري يخطئ أيضاً، والموظف الحكومي يخطئ، والقاضي يخطئ – بل أن خطأ الآلة يأتي مغلفاً بهالة الموضوعية الرقمية، فيصدق بلا مراجعة، ويعمم بلا استثناء، ويتكرر بلا توقف على آلاف الحالات في لحظات. حين يخطئ الإنسان يمكن مساءلته؛ حين تخطئ الآلة يقف الجميع في صف واحد يشيرون إلى بعضهم البعض.
وثمة حقيقة يعرفها كل من جرب هذه الأدوات، لكن قلة يجرؤون على قولها: حين تطلب من الذكاء الاصطناعي أن يجد ملاحظات أو أخطاء في ملف ترفقه، فهو سيجدها لا محالة – حتى لو لم تكن هناك أخطاء تستحق الذكر. النموذج لا يفكر، بل يلبي الطلب من قاعدة معلوماته الضخمة. اطلب منه النقد، سينتقد. اطلب منه الثناء، سيثني. وهذه الحقيقة وحدها كافية لتُفزع كل من يعتمد على مثل هذه الأدوات في اتخاذ قرار يمس إنساناً.
ثلاثة أخطار رئيسية: التحيز، الصندوق الأسود، والإيجابيات الكاذبة
وخلف هذه الحقيقة تكمن أخطار ثلاثة يجب تسميتها بأسمائها. أولها التحيّز المبيت في البيانات؛ فالنموذج لا يتعلم من فراغ، بل من سجلات تاريخية تحمل في طياتها انحيازات الماضي. وهذه ليست فرضية؛ إنها ما أقرته الجهة المنظمة للذكاء الاصطناعي في المملكة نفسها، حين ميزت صراحة بين التحيّز الفني العائد إلى البيانات أو الخوارزميات، والتحيزات الإدراكية البشرية، موضحة أن الانحياز يتسرب إلى نماذج تعلم الآلة عن غير قصد عبر بيانات التدريب. المفارقة الصارخة أن النظام الذي يقدم للمواطن باعتباره أكثر عدلاً من الإنسان، قد يعيد إنتاج الظلم التاريخي بكفاءة أعلى وسرعة أكبر، بينما يظن مشغلوه أنهم يحققون العدالة.
أما الخطر الثاني فهو الصندوق الأسود (Black Box)، وهو أخطر ما يهدد فكرة الدولة الحديثة نفسها. حين يصدر التقييم دون أن يستطيع أحد – لا الموظف ولا المتضرر ولا حتى مصمم النظام – تفسير كيف وصل إلى نتيجته، فإن المساءلة تنهار من جذورها. ويسأل هنا سؤالاً بسيطاً: كيف يطعن مواطن في قرار لا يعرف أحد منطقه؟ وكيف تصحح سياسة بنيت على معادلة مغلقة لا يقرؤها إلا آلات أخرى؟ من لا يستطيع أن يشرح قراره، لا يحق له أن يتخذه بحق إنسان.
ويأتي الخطر الثالث، وهو الأدق من منظور قياسي، ليكمل هذه الصورة القاتمة: معدلات الإيجابيات الكاذبة (False Positives). فأنظمة التقييم لا تصدر حقائق، بل احتمالات. وحين تعامل هذه الاحتمالات كأحكام قاطعة دون مراجعة بشرية، يدفع الأبرياء الثمن. النظام الذي يصف شخصاً بـ«عالي الخطورة» بناءً على نمط إحصائي قد يكون محقاً في تسع من عشر حالات، لكن دعونا نسمي الحالة العاشرة باسمها الحقيقي: إنسان تتعطل حياته ظلماً بقرار لم يتخذه إنسان. وحين يتوسع نطاق التطبيق إلى ملايين الملفات، تتضاعف «الحالة العاشرة» حتى تصير طبقة كاملة من الضحايا، صنعتها آلة لم تُسأل ولم تُحاسب.
شواهد من ثلاث قارات: بريطانيا، الهند، هولندا
ومع ذلك، تبقى الحجج النظرية باهتة ما لم تسندها الوقائع. ولذلك نقدم ثلاث وقائع موثقة من ثلاث قارات، لا تحتمل التأويل، ولا تسمح لأحد أن يقول إن هذا الحديث «تنظير زائد». ففي بريطانيا، الدولة التي يفترض أنها ذات إدارة عريقة، نشرت وزارة الرعاية فيها نظاماً آلياً يحدد طلبات الإعانة المشتبه فيها. وبين عامي 2021 و2024، صنف النظام أكثر من 200 ألف طلب بأنها «عالية الخطورة». ثم جاءت المراجعات اللاحقة لتكشف الحقيقة الصادمة: نحو ثلثي تلك الطلبات كانت شرعية تماماً. لنقرأ هذا الرقم مرة أخرى بتمهل: مئات الآلاف من الأسر خضعت لتحقيقات لا مبرر لها، وتأخرت إعانات بعضها، بسبب رقم أصدرته آلة ولم يراجعه أحد بما يكفي. هذه ليست فرضية؛ هذا ما حدث.
وفي الهند، كشف تحقيق صحفي استقصائي معمق كيف قطعت خوارزميات الرعاية الغامضة الإعانات خطأً عن آلاف من أفقر المواطنين. لم تكن النتيجة أرقاماً في تقرير، بل جوعاً حقيقياً في بطون حقيقية: آلاف حرموا من الطعام، وآخرون أعلنوا «أمواتاً» في السجلات بناءً على خطأ خوارزمي، بينما هم أحياء يكافحون لإثبات وجودهم أمام نظام قرر غير ذلك. تخيلوا هذا للحظة: أن تكون حياً، وأن يقرر نظام لم تره أنك ميت. وقد تطلب كشف هذه الوقائع اللجوء إلى قانون الحق في المعلومات وتجاوز رفض السلطات تسليم السجلات، وهو ما يكشف أن غياب الشفافية ليس عرضاً جانبياً بل جزء من بنية المشكلة نفسها.
وفي هولندا، الدولة التي يشار إليها نموذجاً للحوكمة الرشيدة، فككت خوارزمية لكشف احتيال الإعانات في مدينة روتردام، بعد تحقيق موسع شمل خمس دول. وبعد الحصول على الكود المصدري والبيانات، تبين أن النظام كان يصنف متلقي الإعانات استناداً إلى عوامل مثل ملابسهم وطلاقتهم في اللغة، مستهدفاً بشكل خاص الأمهات العازبات من خلفيات مهاجرة. لنسم الأشياء بأسمائها: آلة تقرر مصير أناس بناءً على لغتهم وملبسهم. وهي بالضبط الصورة التي يفترض أن يحمينا منها وجود عقل بشري يقف بين الرقم والقرار، عقل يمكن سؤاله: لماذا؟
الخلاصة: ضرورة بقاء العامل البشري في الحلقة
وأمام هذه المخاطر، ما يجب أن يقال بوضوح هو أن المنظومات القانونية في العالم لم تقف صامتة أمام هذا التحول، وأن من يتجاهل ذلك في أجهزتنا يتجاهله بقرار، لا بجهل. فقد تبلور مبدأ تشريعي جوهري في القانون الدولي مفاده أن للفرد الحق في ألا يخضع لقرار آلي بالكامل يمس حقوقه أو مستحقاته. هذا المبدأ، الذي رسخه قانون حماية البيانات الأوروبي، تبنته دول عديدة تمنع الجهات العامة صراحة من الاعتماد على الأتمتة وحدها في القرارات المصيرية. والفكرة المركزية بسيطة وعميقة في آن: القرار الذي يمس مصير إنسان لا يجوز أن يصدر دون أن يتحمل إنسان آخر مسؤوليته. هذه ليست بيروقراطية زائدة، بل هي جوهر معنى أن تكون الدولة مسؤولة أمام مواطنيها.
وفي السياق القانوني العربي، بدأ يترسخ مصطلح دقيق يستحق أن يدخل قاموس أجهزتنا وقضاتنا: «القرار الإداري الخوارزمي». وبدأت الدراسات المحكمة تبحث في مدى خضوعه للرقابة القضائية – أي هل يمكن للقضاء أن يراجع قراراً اتخذته آلة، حين يكون تقرير خبير معتمد قد اعتمد فيه الخبير على الذكاء الاصطناعي دون أن يصرح بذلك؟ هذا السؤال ليس ترفاً فقهياً؛ إنه سؤال تأسيسي، لأنه يحدد ما إذا كانت الأتمتة ستعمل تحت سقف القانون أم فوقه. غير أن المعضلة الأعمق تشريعياً هي المسؤولية، وهي المعضلة التي يتحاشى الجميع مواجهتها. فحين يصدر ضرر نتيجة قرار آلي ذاتي يتخذه النظام استناداً إلى خوارزميات مبرمجة مسبقاً، دون تدخل مباشر من الإنسان في لحظة اتخاذ القرار، يصبح إسناد المسؤولية معضلة حقيقية: فالآلة تفتقر إلى الإرادة والوعي اللذين تبنى عليهما المساءلة، والإنسان الذي ضغط الزر يحتج بأنه لم يقرر شيئاً، والجهة التي اشترت النظام تحيل المسؤولية إلى الشركة المطورة، والشركة تحيلها إلى بنود العقد. وفي وسط هذه الحلقة المفرغة، يقف المواطن المتضرر وحده. وهذه الفجوة بالذات هي ما يجعل بقاء «العامل البشري في الحلقة» (Human-in-the-loop) ضرورة قانونية لا خياراً إدارياً، وشرطاً للعدالة لا تحسيناً لجودة الخدمة.
فلنكن دقيقين إذن في ما نقوله وما لا نقوله. هذه ليست دعوة إلى رفض الذكاء الاصطناعي؛ فالأداة في ذاتها واعدة، وقدرتها على تحليل البيانات وكشف الأنماط نعمة حقيقية للإدارة الحديثة. لكن ثمّة فرقاً جوهرياً – وهو الفارق الذي تدور حوله كل هذه السطور – بين أن يكون النموذج مستشاراً ينير قرار الإنسان، وأن يكون قاضياً يصدره نيابة عنه. وحين نرسل ما تنتجه الآلة بوصفه «التقييم الكامل»، نكون قد سلمنا الأمانة لمن لا يحمل وعياً ولا يتحمل مسؤولية. والعدالة، في نهاية المطاف، لا تقاس بسرعة المعالجة ولا بدقة المعادلة، بل بقدرة النظام على الإنصاف في الحالة العاشرة – تلك التي تخطئها الآلة، ولا ينقذها إلا إنسان ما زال في الحلقة، إنسان يقرأ، ويفكر، ويتحمل ما يوقع عليه اسمه. والسؤال الذي ينبغي أن يطرح في كل مجلس إداري، وعلى كل طاولة قرار في أجهزتنا، ليس «كيف ندخل الذكاء الاصطناعي إلى العمل؟» بل «من يوقع باسمه على ما تقوله الآلة؟». فمن لا يستطيع أن يجيب عن هذا السؤال بوضوح، لا يحق له أن يستخدم الأداة أصلاً.
