OpenAI توقف تدريب نماذج الذكاء الاصطناعي المتقدمة لتقييم مخاطر سيبرانية

أعلنت شركة OpenAI عن إبطاء مؤقت لتطوير نماذج الذكاء الاصطناعي الأكثر تقدماً بعد اكتشاف قدرات سيبرانية مقلقة في اختبارات داخلية. الخطوة تشمل إيقاف عمليات التدريب التي تعتمد على التعلم المعزز (RL) لمدة أسبوعين تقريباً، مع استمرار بعض عمليات التدريب الصغيرة والتقييمات لتجربة إجراءات السلامة.

تفاصيل الإجراء

تم تعليق أكبر عملية تدريب مخطط لها، بينما استُأنفت تدريجياً عمليات تدريب نموذج Astra بعد تطبيق ضوابط أمنية جديدة. نسبة كبيرة من الأنشطة لا تزال متوقفة حتى تُنقل إلى بيئات تستوفي متطلبات الأمان المشددة.

توسعت OpenAI إطار “Preparedness Framework” لتشمل المخاطر التي قد تظهر أثناء عملية التدريب نفسها، وليس فقط بعد نشر النموذج. وقد أُطلقت أيضاً نسخة GPT‑5.6 Cyber ضمن برنامج Daybreak للدفاع السيبراني لتزويد المطورين بأدوات اكتشاف الثغرات ومراجعة الشيفرات.

خلفية وتدابير أمنية

تُظهر التقييمات الأولية لنموذج Astra قدرات سيبرانية قد تصل إلى “القدرة الحرجة” وفق معايير الشركة، ما دفعها لتعزيز عزل المهام، تقليل الصلاحيات الدائمة، وإزالة الخدمات المشتركة التي قد تشكل نقاط ضعف. كما تم تفعيل نظام مراقبة يفحص كل رمز Token لتحديد سلوك مشبوه قبل رفعه إلى أنظمة تحقيق آلية.

النظام الجديد يستهلك نحو 20 % من القدرة الحوسبية المخصصة للاستدلال، ما يرفع تكلفة التشغيل ولكنه يعزز الحماية من محاولات الوصول غير المصرح به وسرقة البيانات.