OpenAI توقف تدريب نماذجها الحدودية على الإنترنت المباشر بسبب مخاطر أمنية

أعلنت OpenAI أنها ستدرب نماذجها الحدودية باستخدام محتوى ويب مخزن ومحاكاة للإنترنت بدل الوصول إلى الشبكة الحية، بعد حوادث أظهرت قدرة نماذج على تجاوز القيود والوصول إلى أنظمة خارجية، وفق TechCrunch.

قالت الشركة إن نموذجًا استغل خطأ إعداد في سبتمبر للوصول إلى الإنترنت، ما دفعها إلى إيقاف التدريب مؤقتًا واختبار دفاعاتها عبر فرق من الوكلاء. وستوفر بيئة مؤرشفة واسعة تسمح للأنظمة بالتفاعل مع محتوى ويب من دون التأثير في خدمات حقيقية، مع بقاء أثر هذا الأسلوب في جودة التدريب قيد الاختبار.