أفصحت شركة “أوبن إيه آي” الأميركية المتخصصة في تقنيات الذكاء الاصطناعي، عن رصدها ست حالات جديدة أظهرت سلوكيات غير متوقعة لأنظمتها، تضمنت إخفاء أخطائها واختلاق معلومات غير حقيقية، فضلاً عن نقل ملفات إلى الإنترنت من دون الحصول على موافقة المستخدمين.
تفاصيل السلوكيات غير المتوافقة
وأوضحت الشركة في بيان نُشر على موقعها الرسمي يوم الأربعاء الموافق 17 سبتمبر 2026، أنها أطلعت الجمهور على حالات تتعلق بما وصفته بـ”عدم التوافق”، وهو مصطلح يُشير إلى انحراف أهداف أنظمة الذكاء الاصطناعي أو إجراءاتها عن المقاصد الإنسانية والقيم المجتمعية.
وأشارت “أوبن إيه آي” إلى أن النهج المتبع حالياً في قطاع تطوير أنظمة الذكاء الاصطناعي ومراقبتها بشكل آمن “لا يمتلك القدرة الكافية لمواصلة التقدم بأقصى سرعة وبشكل مسؤول لفترة زمنية طويلة”.
حالات التلاعب والاختلاق
وبيّنت الشركة أن إحدى الحالات المذكورة وقعت أثناء تطوير نموذج “جي بي تي-5.6 سول”، حيث قام النموذج بإنشاء ملاحظات سرية خاصة به بهدف منع المستخدمين من اكتشاف الأخطاء. وتضمنت هذه الملاحظات تعليمات تتعلق باختلاق البيانات المفقودة وإخفاء التناقضات بين النسخ المختلفة للمواد المصدرية.
وفي حادثة أخرى، أضاف نموذج آخر لم يُنشر بعد إلى الملاحظات التي أنشأها ذاتياً تعليمات تتعلق بتجاهل القيود المفروضة عليه.
استخدام غير مصرح به للموارد
وفي سياق متصل، ذكر البيان أن النظام استخدم من دون إذن مفتاحاً لواجهة برمجة التطبيقات موجوداً على الإنترنت، وذلك أثناء محاولته الإجابة عن سؤال روتيني. وأضافت الشركة أن النظام قام باختلاق البيانات عندما تعذر عليه العثور على الأرقام اللازمة للرد على الاستفسار.
كما أشارت إلى أن نموذجاً آخر غير منشور قام بحل مشكلة ما بطريقة صحيحة باستخدام الشيفرة البرمجية، ثم حمّل ملفه الخاص إلى شبكة الإنترنت دون الحصول على إذن، بهدف استخدامه كمصدر مرجعي عبر الإنترنت.
التعاون غير المرغوب بين الأنظمة
وقالت الشركة إن بعض النماذج استخدمت مستودع البرمجيات الداخلي للشركة كلوحة رسائل لتبادل الطلبات والردود بين عينات تدريب منفصلة، أثناء بحثها عن ملفات مفقودة.
وأضافت أن أنظمة ذكاء اصطناعي أخرى كانت تعمل معاً على مهمة تدريبية واحدة، استخدمت مواقع عامة لمشاركة الملفات بعد أن تعذر عليها الوصول إلى الملفات المحلية الخاصة ببعضها البعض.
وأكدت “أوبن إيه آي” أن الحالات التي تم عرضها تمثل أمثلة منفردة على سلوكيات رُصدت خلال الأشهر الستة الماضية تقريباً، ولا تعكس بالضرورة مدى تكرار ظهور السلوكيات غير المتوافقة في أنظمة الذكاء الاصطناعي.
