تحذيرات من حوادث أمنية كبرى للذكاء الاصطناعي
حذر ديميس هاسابيس، رئيس مجلس إدارة شركة «ديب مايند» التابعة لـ«غوغل»، من احتمال وقوع حوادث أمنية كبرى قد تنتج عن أنظمة الذكاء الاصطناعي خلال العامين المقبلين، إذا لم تُتخذ تدابير كافية لضمان سلامتها. وأشار ذلك خلال مشاركته في مؤتمر للذكاء الاصطناعي عقد في دبلن، موضحًا أن الحوادث الأمنية الأخيرة تمثل «طلقات تحذيرية مبكرة» لأنظمة لا تزال قدراتها محدودة نسبيًا، وحذر من أن هذه المخاطر قد تتفاقم خلال العام المقبل أو العامين المقبلين ما لم تكثف الشركات والحكومات جهودها لضمان أمن هذه التقنيات.
دعوات لإجراء اختبارات أكثر صرامة واستخدام بيئات معزولة
وأكد هاسابيس أن مواجهة هذه المخاطر تستلزم تحركًا على مستوى قطاع الذكاء الاصطناعي ككل، بالإضافة إلى خطوات مستقلة تتخذها الشركات والحكومات لتعزيز سلامة الأنظمة وتقليل فرص إساءة استعمالها. ولاحظ أن المخاوف بشأن أمن الذكاء الاصطناعي تصاعدت بعد وقوع حوادث ارتبطت بنماذج طورتها شركتا «أوبن إيه آي» و«أنثروبيك» خلال مراحل الاختبار، ما دعم المطالب بفرض رقابة أشد على تطوير هذه التكنولوجيا واستخداماتها. واقترح إخضاع نماذج الذكاء الاصطناعي الجديدة للاختبارات الأولية داخل «بيئات معزولة» غير متصلة بالشبكات، كوسيلة لتقليل المخاطر، بعد أن сумеت نماذج طورتها شركات أخرى من تجاوز القيود المفروضة على البيئات المغلقة المستخدمة لتقييم قدراتها.
موقف الاتحاد الأوروبي وتعزيز الإطار التنظيمي للذكاء الاصطناعي
من جانبها، دعت هينا فيركونين، مسؤولة شؤون التكنولوجيا في الاتحاد الأوروبي، إلى تخصيص شركات الذكاء الاصطناعي مزيدًا من الوقت والموارد لاختبار أنظمتها، بما يضمن بقاءها تحت السيطرة. وذكرت لدى وصولها إلى قمة دبلن أن المنافسة العالمية الشديدة تدفع الشركات إلى تسريع تطوير نماذجها، في وقت لا تخصص فيه جميع الشركات موارد كافية لاختبار هذه الأنظمة بصورة فعالة. وشددت على ضرورة قدرة الشركات على التحكم في أنظمتها، مبينة أن الاتحاد الأوروبي وجّه طلبات للحصول على معلومات إلى كبرى الشركات العاملة في مجال الذكاء الاصطناعي، للاستفسار عن إجراءات السلامة والأمن التي تطبقها. وأوضحت أن هذه التحركات تأتي في ظل تعزيز الاتحاد الأوروبي إطاره التنظيمي للذكاء الاصطناعي، إذ اكتسبت المفوضية الأوروبية في أغسطس صلاحيات تنظيمية جديدة بموجب قانون الذكاء الاصطناعي، الذي يُعد من أشمل الأطر التشريعية العالمية لتنظيم هذه التكنولوجيا والحد من مخاطر استخدامها.
