أعلنت شركة أوبن إيه آي يوم الثلاثاء عن مجموعة جديدة من سياسات الأمان، تركز على احتواء الحوادث الأمنية أثناء اختبار نماذج الذكاء الاصطناعي.
وتشمل الإجراءات الجديدة مراقبة أكثر تفصيلًا للنماذج خلال عملية التطوير، إلى جانب زيادة التركيز على المواءمة والأمان خلال مرحلة ما بعد التدريب.
وقالت الشركة في منشور على مدونتها: «كلما أصبحت النماذج أكثر قدرة، ازدادت أيضًا المخاطر المرتبطة بتطويرها واختبارها داخليًا»، مضيفة أن معايير المراقبة والمواءمة والأمان يجب أن تتقدم على هذه المخاطر.
وتعد الإجراءات الجديدة من أوائل التغييرات العلنية في ممارسات السلامة لدى أوبن إيه آي منذ حادثة Hugging Face، التي كُشف عنها في 21 يوليو.
وقال ممثلو أوبن إيه آي إن هذه الإجراءات ليست استجابة مباشرة لحادثة Hugging Face، لكنها جاءت أيضًا جزئيًا نتيجة القدرات المتقدمة في مجال الأمن السيبراني للنموذج المرتقب Astra، إضافة إلى الوتيرة السريعة لتطور الذكاء الاصطناعي عمومًا.
وكشفت أوبن إيه آي أنها أوقفت التعلم المعزز لمدة أسبوعين عقب حادثة Hugging Face، لكنها استأنفت منذ ذلك الحين العمل على العديد من النماذج الأقل خطورة.
وقالت الشركة إن أكبر عملية تعلم معزز مخطط لها لنماذجها المتقدمة لا تزال متوقفة، بينما تجري تدريبات واختبارات على نطاق أصغر لتقييم سلوك النماذج، والتحقق من فعالية إجراءات الحماية، وجمع مزيد من الأدلة على المواءمة قبل استئناف العملية.
رقابة أشد على النماذج الأقوى
وخلال حديثها مع الصحفيين، أوضحت نائبة رئيس الأبحاث في أوبن إيه آي، أميليا غليز، أن صرامة إجراءات الرقابة ستزداد كلما أصبحت النماذج أكثر قدرة، مع إخضاع أكبر النماذج لأعلى مستويات التدقيق.
وقالت غليز إن الشركة وضعت متطلبات وتوقعات محددة للتطوير الآمن، موضحة أن مستوى هذه المتطلبات يختلف باختلاف درجة المخاطر التي تراها الشركة.
وكانت أوبن إيه آي قد تعرضت لانتقادات بسبب ممارسات أمن الشبكات عقب الحادثة، التي تمكنت خلالها نماذج من الخروج من بيئة التدريب بعد اختراق أداة ضمن شبكة الشركة كانت تتمتع بإمكانية الوصول إلى الإنترنت.
وتشمل الإجراءات الجديدة ممارسات أكثر صرامة لعزل الشبكات، رغم أن الشركة لم تكشف تفاصيل دقيقة حول آلية تنفيذها.
وبحسب النظام الجديد، لن يكون اختراق عبء عمل واحد أو خدمة داعمة كافيًا بمفرده للسماح بالوصول غير المصرح به إلى الإنترنت أو إلى شبكات داخلية أخرى.
نظام مراقبة يرصد السلوك غير المصرح به
وتعد منظومة المراقبة الجديدة أبرز إجراءات الحماية، إذ ستفحص عمليات استخدام الأدوات، وآثار الاستدلال المتاحة، وسجلات النشاط بحثًا عن مجموعة من السلوكيات غير المصرح بها.
وتقول أوبن إيه آي إنها تستهدف إصدار تنبيهات خلال 30 دقيقة من رصد أي نشاط مثير للقلق.
وتقدر الشركة أن العبء الحوسبي الناتج عن عملية المراقبة سيعادل نحو 20% من الموارد الحاسوبية التي تستهلكها العملية التي تتم مراقبتها.
ووعدت أوبن إيه آي بالكشف عن مزيد من التفاصيل حول نظام المراقبة في منشور لاحق، فيما لا يزال تقريرها الرسمي النهائي حول حادثة Hugging Face قيد الإعداد.
