اختراق نظام OpenAI باستخدام نموذج كلود
وفقًا لتقرير صحيفة وول ستريت جورنال، نجح فريق من خبراء الأمن السيبراني في اختراق البنية الداخلية لشركة أوبن إيه آي مستخدمًا نموذج الذكاء الاصطناعي كلود الذي تطوره أنثروبيك. جاء ذلك ضمن برنامج مكافأة اكتشاف الثغرات الذي تديره أوبن إيه آي.
الوصول إلى نسخة خاصة من نموذج كلود
أوضحت الصحيفة أن الباحثين كانوا يملكون حق الوصول إلى نسخة خاصة من نموذج كلود، تم توفيرها للمتخصصين المؤهلين في مجال الأمن السيبراني. هذه النسخة مكنت ними من تجربة النموذج في سياق اكتشاف الثغرات.
تفاصيل العملية والتكلفة
ذكر باحثون من شركة هاكترون أنهم تمكنوا من الدخول إلى حساب شات جي بي تي الخاص بأحد موظفي أوبن إيه آي، ما أتاح لهم الوصول إلى الكود المصدر الداخلي للشركة. أوضحوا أن التنفيذ استغرق بضعة أيام من العمل الآلي وساعات قليلة من الجهد البشري، وبتكلفة تقل عن ثلاثة آلاف دولار. بعد الإفصاح عن النتائج، منحت أوبن إيه آي الباحثين مكافأة قدرها 6500 دولار.
آثار الاكتشاف والاستجابة
أشار الباحثون إلى أن الثغرة كشفت عن نقاط ضعف في منصات أخرى مثل سلاك وزوم وميتا، وشددوا على أن المهام التي كانت تحتاج سابقًا إلى فرق كبيرة وشهور من الجهد أصبحت الآن قابلة للتنفيذ في أيام قليلة بفضل تقدم نماذج الذكاء الاصطناعي. وحذروا من ضرورة مواكبة التطور في قدرات المهاجمين بإجراءات أمنية متقدمة. وأفادت هاكترون بأنها لجأت في البداية إلى نموذج كلود أوبوس 4.8 الذي واجه صعوبات، ثم نجحت بعد إصدار أوبوس 5 من أنثروبيك. من جانبها، أعلنت أوبن إيه آي أنها عالجت الثغرات الأمنية المكتشفة.
