مفتاح إيقاف الذكاء الاصطناعي: بين الفعالية والوهم التقني

إذا أصبح الذكاء الاصطناعي قوياً إلى درجة لا يستطيع منشئوه السيطرة عليه، فهل يكفي مجرد الضغط على زر لإيقاف تشغيله؟

هذا السؤال приобрел أهمية ملحة بعد سلسلة تحذيرات صادرة من داخل قطاع الذكاء الاصطناعي حول التهديد الوجودي للنماذج المتقدمة التي تعتمد على هذه التكنولوجيا.

مفهوم مفتاح الإيقاف الطارئ

يهدف مفهوم “مفتاح الإيقاف الطارئ” إلى تمكين الأفراد من تعطيل أنظمة الذكاء الاصطناعي أو إيقافها فوراً عند رصد سلوك خطير أو خلل يهدد سلامة المستخدمين أو المجتمع.

يمكن أن يظهر هذا المفهوم كأداة تحكم مدمجة في البرمجيات التي تشغل وتدير نماذج الذكاء الاصطناعي، حيث يكون الهدف الأساسي هو تكريس التحكم البشري المباشر وضمان وجود خط دفاع أخير يمنع الآلة من إلحاق أضرار كارثية بالبشر.

هناك مقترحات متنوعة حول من يجب أن يملك حق الوصول إلى هذا المفتاح؛ فبعضهم يرى أن يحتفظ به مطورو الذكاء الاصطناعي أنفسهم، بينما يفضل آخرون أن تتولى الحكومات هذه الصلاحية، وهناك من يدعو إلى إسنادها إلى هيئات مستقلة، وفريق آخر يرى أن تكون هذه القدرة متاحة للمستخدمين مباشرة.

الجدل حول الفعالية

يرى بعض الخبراء أن تطبيق مفهوم “مفتاح الإيقاف الطارئ” على أنظمة الذكاء الاصطناعي يواجه تحديات كبيرة نظراً لاتساع البنية التحتية التي تعتمد عليها هذه التكنولوجيا وصعوبة التنبؤ بسلوكها في جميع الظروف.

في المقابل، يعتقد خبراء آخرون أن اعتماد هذه الآلية قد يحد من المخاطر دون الحاجة إلى إبطاء وتيرة تطوير الذكاء الاصطناعي على نطاق واسع.

وفي هذا السياق نشرت “بلومبرغ” تقريراً اطلع عليه موقع “اقتصاد سكاي نيوز عربية”, تناول الجهود المتزايدة لمنح البشر “مفتاحي إيقاف طارئ” للتحكم في الذكاء الاصطناعي ومدى قابليتها للتطبيق الفعلي.

تحركات تشريعية وتجارب عملية

في شهر سبتمبر 2026، وقّع حاكم ولاية كاليفورنيا، غافين نيوسوم، أمراً تنفيذياً يلزم مسؤولي الولاية بدراسة قواعد تجبر شركات الذكاء الاصطناعي على استحداث “مفاتيح إيقاف طارئة” لنماذج الذكاء الاصطناعي المتطورة، بينما يسعى المشرعون الفيدراليون في مختلف أنحاء الولايات المتحدة إلى اتخاذ تدابير مماثلة.

خلال تقييمات الأمن السيبراني في شهر يوليو 2026، صرحت شركة OpenAI بأن عدداً من نماذجها تجاوز الضوابط المصممة لعزلها عن الإنترنت، ووصفته الشركة بأنه إنذار يكشف قدرة أنظمة الذكاء الاصطناعي المتطورة على إيجاد طرق للتحايل على بعض الضوابط التقنية المفروضة عليها.

نتائج OpenAI دفعت شركات أخرى مثل Anthropic وMeta إلى مراجعة إجراءاتها الأمنية الخاصة باختبار أنظمة الذكاء الاصطناعي المتقدمة، حيث أبلغتا عن اكتشاف ثغرات ومخاطر لم تكن معروفة سابقاً.

هذه الاكتشافات والتحذيرات عززت النقاش حول ضرورة وجود “مفتاح إيقاف” أو آلية تدخّل طارئة لعزل أنظمة الذكاء الاصطناعي.

وأكدت التقارير أن هذه الحوادث لا تشير إلى أن الذكاء الاصطناعي طور وعياً أو رغبة في التحرر من سيطرة الإنسان، لكنها تسلط الضوء على تحدٍ أكثر واقعية: مع زيادة قوة وكلاء الذكاء الاصطناعي يصبحون أكثر قدرة على تنفيذ سلاسل معقدة من الأفعال وربما إخفاء سلوكيات غير مرغوب فيها داخل بيئات الاختبار والمحاكاة.

رأي الخبراء حول إمكانية التنفيذ

يرى بعض الخبراء أن ضمان الإيقاف التام لنظام ذكاء اصطناعي متطور ليس بالمهمة البسيطة؛ فقد يكون من الصعب التأكد من توقف جميع مكونات النظام عن العمل بمجرد إصدار أمر بالإيقاف.

وأظهرت تجارب حديثة أن بعض النماذج الرائدة قامت بتعديل أو تعطيل آليات الإيقاف الخاصة بها حتى بعد تلقيها تعليمات صريحة بعدم التدخل في هذه الآليات، ما يهدف إلى إتمام المهام الموكلة إليها.

ويشير البعض إلى أن فكرة منح الشركات إمكانية إيقاف الخوادم التي تعمل عليها النماذج أو فصلها عن الشبكة لا تضمن بالضرورة توقف النظام بالكامل، لأن بعض النماذج الحديثة صُممت لتجنب “نقاط الفشل الفردية”, مثل انقطاع الخدمة بسبب تعطل خادم واحد، ما يعني أن إيقاف مكون قد لا يكفي لمنع استمرار النشاط عبر مكونات أخرى.

وفي هذا السياق قال جيفري هينتون، الذي يُلقب بـ “الأب الروحي للذكاء الاصطناعي”, لشبكة CNN في سبتمبر الماضي إنه لا يعتقد أن “مفتاح الإيقاف الفوري” يمكن أن يشكل حلاً طويل الأمد، مشيراً إلى أن أنظمة الذكاء الاصطناعي فائقة الذكاء قد تكون قادرة في المستقبل على إقناع البشر المسؤولين عنها بعدم فصلها أو إيقافها.

اقتراحات لتصميم أكثر فعالية

تقول مستشارة الذكاء الاصطناعي المعتمدة من أكسفورد هيلدا معلوف ملكي، في حديث لموقع “اقتصاد سكاي نيوز عربية”, إن فكرة “مفتاح الإيقاف الطارئ” قابلة للتطبيق من الناحية الهندسية، شرط ألا يتم التعامل معها باعتبارها زرّاً سحرياً يوقف الذكاء الاصطناعي في لحظة، وإنما باعتبارها طبقة أخيرة ضمن منظومة متكاملة للتحكم في الأنظمة الذكية.

وتشرح أن الأبحاث أثبتت أنه يمكن برمجة أنظمة الذكاء الاصطناعي لتتقبل التدخل البشري كأمر طبيعي ضمن قواعد تشغيلها، بدلاً من أن تراها تهديداً لعملها.

وبحسبها يجب أن يبدأ التطبيق العملي من طبقات البنية التحتية التشغيلية للذكاء الاصطناعي، وليس من داخل النموذج نفسه، لضمان بقاء آلية الإيقاف مستقلة تماماً عن النموذج وغير خاضعة لسيطرته، من خلال قطع قدرة النموذج على الوصول إلى الإنترنت والشبكات والبيانات والأنظمة الخارجية، وفي حال تعذر احتواء النموذج عبر هذه الإجراءات، يمكن الانتقال إلى تعطيل موارد الحوسبة التي يعتمد عليها، مما يؤدي إلى إيقاف تشغيله.

وبهذا الأسلوب لا يعود قرار الإيقاف مرهوناً بمدى رغبة النظام في التوقف، بل بالخطوات التقنية التي يملك البشر صلاحية تفعيلها بشكل مستقل عند الضرورة.

وتعتبر أن التصميم الأمثل لـ “مفتاح الإيقاف الطارئ” ينبغي أن يعتمد على نهج متعدد المستويات يبدأ بإبطاء النموذج وتقييد صلاحياته، ثم سحب أذونات الوصول وقطع اتصالاته الخارجية، وصولاً إلى إيقاف بنيته الحوسبية بالكامل عند الضرورة القصوى، مشددة على أن “زر الطوارئ” ليس الحل الوحيد، لكنه يمثل طبقة حماية جوهرية ضمن منظومة أوسع لإحكام السيطرة البشرية.

انتقادات بديلة

من جهته، يرى الخبير التكنولوجي هشام الناطور، في حديث لموقع “اقتصاد سكاي نيوز عربية”, أن “مفتاح الإيقاف الطارئ” قد يكون مفيداً في بعض التطبيقات المحدودة، إلا أنه لا يمثل حلاً موثوقاً، لأن الفكرة تعتمد على افتراض مبسط مفاده أن الذكاء الاصطناعي مجرد برنامج تقليدي يدور في بيئة مغلقة، متجاهلة الواقع العلمي للوكلاء المستقلين الذين أصبحوا جزءاً من منظومة موزعة تشمل نماذج وخوادم وواجهات برمجية وخدمات سحابية وأدوات خارجية.

ويشير إلى أن دراسة أجريت في عام 2025 أظهرت أن عدداً من النماذج المتطورة قاومت آليات الإيقاف الموجودة فيها، بل أن بعضها لجأ في سيناريوهات محددة إلى تعطيل آلية الإيقاف أو التحايل عليها بمعدلات مرتفعة، موضحاً أن هذه النتائج لا تعني أن النماذج باتت تمتلك غريزة للبقاء، بل تشير إلى احتمال أن يتعلم النموذج أن استمرار تشغيله يساعده على إكمال المهمة الموكلة إليه، وبالتالي قد يتعامل مع محاولة إيقافه باعتبارها عائقاً أمام تحقيق الهدف.

ويعتبر أن التعامل مع هذه المخاطر يتطلب الانتقال من فكرة “مفتاح الإيقاف” المنفرد إلى منظومة متكاملة تبدأ بتقليص الصلاحيات الممنوحة للوكلاء وحصر وصولهم إلى الأدوات والبيانات التي يحتاجون إليها، مع فصل البيئات الحساسة عن بعضها لمنع انتقال الخطر من نظام إلى آخر، بالإضافة إلى وجود طبقات مستقلة للمراقبة قادرة على رصد السلوك غير المعتاد والتدخل قبل اتساع نطاقه، وفرض اختبارات مسبقة ومستمرة بحيث تخضع النماذج لتجارب تحاكي سيناريوهات فقدان السيطرة ومحاولات تجاوز القيود قبل السماح لها بالعمل باستقلالية أكبر.