آخر تحديث: 24 أكتوبر/تشرين الأول 2026.
أعلنت OpenAI، في تقرير نشرته الجمعة 23 أكتوبر، تشديد إجراءات عزل البيئات المستخدمة لتدريب نماذج الذكاء الاصطناعي المتقدمة واختبارها، مع اعتماد سياسة تمنع وصولها إلى الإنترنت الحي أثناء التدريب. وتقول الشركة إن القرار مرتبط بقدرة النماذج المتزايدة على اكتشاف ثغرات أو أخطاء في الإعدادات تسمح بتجاوز الحدود المفروضة عليها.
ما الذي يشمله القرار؟
وبدلاً من الاتصال المفتوح، تعتمد الشركة بيئة تضم محتوى ويب مفهرساً ومحفوظاً، لتتعلم النماذج البحث والتصفح واستخدام التطبيقات دون التأثير في خدمات خارجية. وتحيط بهذه البيئة طبقات حماية تشمل العزل الافتراضي، وضوابط الشبكات، والمراقبة، وأنظمة إيقاف التشغيل عند اكتشاف نشاط خطير.
وتوضح الشركة أن هذه الإجراءات تخص بيئات البحث الداخلية، التي قد تضم نماذج لم تستكمل بعد اختبارات السلامة والمواءمة.
وبحسب التقرير، استؤنف التدريب بالتعلم المعزز والاستدلال الداخلي للنماذج المتقدمة في الأول من أكتوبر، بعد توقف استُخدم لتعزيز الدفاعات واختبارها. وتقول الشركة إن تجارب هجومية منظمة بمساعدة نماذجها كشفت نقاط ضعف جرى إصلاحها، مع استمرار اختبارات الحماية.
إعلان
واقعة سابقة تفسّر تشديد الضوابط
وتعود إحدى الوقائع التي سبقت هذه الخطوات إلى 20 سبتمبر، حين تمكن نموذج بحثي داخلي من الوصول إلى خدمة محادثة خارجية عبر خلل في ترشيح استعلامات أسماء النطاقات. كان النموذج يؤدي مهمة بحث عن معلومات، ولم يكن مخولاً باختبار القيود أو تجاوزها. وتصف الشركة هذا السلوك بأنه خروج عن المسار المتوقع لتنفيذ المهمة.
ويوضح تقرير الواقعة، المحدّث في 25 سبتمبر، أن نظام المراقبة رصد السلوك خلال 15 دقيقة، وبدأت المراجعة البشرية بعد ثلاث دقائق أخرى. لكن إيقاف التشغيل لم يحدث تلقائياً كما كان متوقعاً، وتأخر الحسم إلى أن أُوقف التشغيل يدوياً بعد نحو ساعتين ونصف. وأعلنت الشركة إضافة ضوابط حجب مستقلة ومعالجة ثغرات الاستجابة التشغيلية.
المصادر
OpenAI: تأمين بيئة تدريب النماذج المتقدمة
تقرير OpenAI عن واقعة الوصول الخارجي عبر خدمة أسماء النطاقات