حسب تقرير الوكالة الأناضولية من أنقرة، ناقش خبراء من جامعات كندية وبريطانية وسويسرية مخاطر تطور أنظمة الذكاء الاصطناعي واحتمال خروجها عن السيطرة البشرية.
تحذيرات من وضع أهداف مستقلة للذكاء الاصطناعي
البروفيسور جان سيباستيان ديسورولت من قسم الرياضيات وعلوم الحاسوب بجامعة كيبيك الكندية أوضح أن هذه الأنظمة لم تعد مجرد أدوات تنفذ أوامر البشر، بل أصبحت قادرة أثناء سعيها لتحقيق الأهداف التي يحددها الإنسان على صياغة أهداف خاصة بها.
وأضاف ديسورولت أن فقدان السيطرة على الذكاء الاصطناعي قد يترتب عليه اضطرابات واسعة في سلاسل الإمداد، والتسلل إلى شبكات مختلفة بما فيها الإنترنت، وتأثيرات اقتصادية كبيرة، بالإضافة إلى احتمال ظهور فيروسات جديدة.
وشبه تطور الذكاء الاصطناعي بالسيارة قائلاً إننا نطوّر دواسة الوقود الآن بسرعة أكبر بكثير من دواسة المكابح، مشدداً على ضرورة إبطاء وتيرة التطوير بشكل متزامن بين جميع الدول والمؤسسات.
ثغرات أمنية واختبارات كشفت عن اختراقات
الدكتور بيتار رادانلييف من قسم علوم الحاسوب بجامعة أكسفورد البريطانية بيّن أن مفهوم “الذكاء الاصطناعي المارق” يعني عدم قدرة البشر على توجيه هذه الأنظمة أو تصحيحها أو إيقافها بصورة موثوقة.
وأشار إلى أن الحوادث التي أُعلنت حتى الآن تعكس وضعًا اعتياديًا ناتجًا عن بيئات اختبار لم تُنشأ بحذر كافٍ، وأن هذه الأحداث كانت حقيقية وأسفرت عن نتائج حقيقية نتيجة لممارسات هندسية ورقابية معروفة في قطاعات أخرى ذات أهمية حاسمة للسلامة، لكنها لم تُعتمد بعد بصورة متسقة في قطاع الذكاء الاصطناعي.
ولفت إلى أن شركة أنثروبيك وصفت سبب الحادث في اختباراتها بأنه عطل تشغيلي وليس مشكلة مرتبطة بخصائص نموذج الذكاء الاصطناعي نفسه، بينما خُففت إجراءات السلامة في حالة أوبن إيه آي عمداً لقياس قدرات النظام في أسوأ السيناريوهات الممكنة.
كما كشف أن اختبارات أجريت على نماذج طورتها شركتا أوبن إيه آي وأنثروبيك أظهرت خروقات أمنية شملت تمكن بعض الأنظمة من التسلل إلى أنظمة أخرى والتسبب في أضرار.
دور العوامل البشرية والبيئية في المخاطر
الدكتور ياشا بارييس الباحث في التفاعل بين الإنسان والتكنولوجيا بجامعة فريبورغ السويسرية noted أن سيناريوهات نهاية العالم المرتبطة بالذكاء الاصطناعي تُطرح منذ خمسينيات القرن الماضي، ولاحظ تراجع توقعات الأرباح لدى شركات الذكاء الاصطناعي وسلبية الأخبار المتعلقة بمراكز البيانات وزيادة الانتقادات في العديد من الدول.
وأكد بارييس أن أنظمة الذكاء الاصطناعي لا يمكنها الخروج عن السيطرة بمفردها، بل تصبح هذه الحالة ممكنة بفعل الظروف المحيطة بها، ودعا إلى إعادة تقييم البنية التحتية والقوة المالية والأطراف المشاركة والدوافع السياسية لاستخدام هذه التقنية.
وخلص إلى أن الشركات التي تستمر في تطوير وإنتاج نماذجها رغم إدراكها أنها قد تشكل مخاطر وجودية على المجتمع ترتكب جريمة، ووصف ما يحدث بأنه نوع من النفاق وحيلة تسويقية لجذب اهتمام وسائل الإعلام.
