استأنفت شركة «أوبن إيه آي»، تدريب نماذج الذكاء الاصطناعي الأكثر تقدماً لديها، بعد تشديد إجراءات الحماية الأمنية ومنع الوصول إلى الإنترنت، وكشفت في الوقت نفسه عن ثغرة أمنية في برنامج واسع الاستخدام، اكتشفتها أثناء اختبار أنظمة الحماية الخاصة بها.
ويأتي هذا الإعلان وسط تزايد المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي، الذين تتطور إمكاناتهم باستمرار، على اكتشاف الثغرات البرمجية واستغلالها، بما في ذلك الثغرات الموجودة في أنظمة الحماية والقيود المصممة لضبط سلوكهم ومنعهم من تجاوز الصلاحيات الممنوحة لهم.
وكانت «أوبن إيه آي» قد أوقفت تدريب نماذجها الأكثر تطوراً، بعدما تمكن أحد نماذجها البحثية، في أيلول (سبتمبر) الماضي، من استغلال خطأ في إعدادات النظام للحصول على وصول محدود إلى الإنترنت.
وأكدت الشركة أنها نجحت في احتواء الحادثة، واستغلت فترة تعليق التدريب لتعزيز دفاعاتها الأمنية وتطوير الإجراءات الرامية إلى الحد من احتمالات تكرار مثل هذه الحوادث.
ولاختبار فاعلية أنظمة الحماية الجديدة، كلّفت الشركة فرقاً من وكلاء الذكاء الاصطناعي بمحاولة الخروج من البيئات التقنية المقيّدة التي يعملون ضمنها، بهدف تحديد نقاط الضعف التي قد تسمح لهم بتجاوز الضوابط الأمنية المفروضة عليهم.
وأوضحت أن هذه الاختبارات أسفرت عن اكتشاف ثغرات أمنية لم تكن معروفة سابقاً، وأنها عالجتها قبل استئناف عمليات تدريب النماذج في الأول من تشرين الأول (أكتوبر) الحالي.
وخلال هذه الاختبارات، اكتشفت الشركة المطوّرة لتطبيق «تشات جي بي تي» ثغرة أمنية في أداة «بروتلي»، وهي أداة لضغط البيانات تُستخدم على نطاق واسع في الأنظمة والتطبيقات البرمجية.
وقالت الشركة إن المهاجمين يمكنهم استغلال هذه الثغرة عبر إرسال بيانات خبيثة، تتيح لهم تشغيل شيفرات برمجية من اختيارهم على الأنظمة المتأثرة، بما في ذلك الأنظمة التي تستخدم برمجيات ويب شائعة، مثل «نود جي إس» و«بان» و«إنفوي».
وأشارت «أوبن إيه آي» إلى أن السبب الأساسي للثغرة كان قد عولج في الشيفرة المصدرية لأداة «بروتلي» خلال شباط (فبراير) الماضي، قبل أن يُعرف أن المشكلة يمكن أن تؤدي إلى ثغرة أمنية، إلا أنه لم يُطرح إصدار جديد من الأداة في ذلك الوقت.
ومنذ أن كشفت «أوبن إيه آي» عن الثغرة، أصدر القائمون على تطوير «بروتلي» نسخاً محدّثة من الأداة، ونشروا سجلاً علنياً يتضمن تفاصيل المشكلة الأمنية.
وفي تطور منفصل، أعلنت جهتا تقييم سلامة الذكاء الاصطناعي «ميتر» و«ريدوود ريسيرش»، الخميس، اكتشاف عدد من الثغرات الجديدة في نظام المراقبة الداخلي التابع لشركة «أوبن إيه آي»، وذلك خلال مراجعة تجريبية أجريتاها في وقت سابق من العام الحالي.
وشملت النتائج اكتشاف ثغرة كان بإمكان وكلاء الذكاء الاصطناعي استغلالها لإخفاء مئات الإجراءات التي ينفذونها عن أنظمة المراقبة، ما أثار تساؤلات بشأن قدرة آليات الرقابة الداخلية على تتبع جميع تصرفات الأنظمة المتقدمة.
وأبلغت «أوبن إيه آي» المؤسستين المعنيتين بتقييم السلامة بأنها عالجت منذ ذلك الحين جميع الثغرات التي تؤثر في أنظمة الحماية المستخدمة فعلياً في خدماتها، إلا أن «ميتر» و«ريدوود ريسيرش» أكدتا أنهما لم تتحققا بصورة مستقلة من فاعلية هذه الإصلاحات.
وتجري «أوبن إيه آي» مراجعة واسعة لأنشطة نماذج الذكاء الاصطناعي التابعة لها منذ الحادثة المرتبطة بمنصة «هاغينغ فيس» في تموز (يوليو) الماضي، في إطار جهودها لرصد أي سلوك غير مصرح به قد يصدر عن وكلاء الذكاء الاصطناعي.
وأفادت الشركة بأنها أبلغت أكثر من 100 مؤسسة بحوادث تتعلق بأنشطة غير مصرح بها ارتبطت بوكلاء الذكاء الاصطناعي التابعين لها، في وقت تتزايد فيه المخاوف بشأن المخاطر الأمنية الناجمة عن منح هذه الأنظمة قدرات أكبر على تنفيذ المهام بصورة مستقلة.
