خوفاً من "خروج الذكاء الاصطناعي عن السيطرة".. أوبن إيه آي تبطئ تطوير أسترا

أعلنت شركة أوبن إيه آي إبطاء بعض جوانب العمل على نموذج الذكاء الاصطناعي المرتقب أسترا، بعد أن أظهرت تقييمات داخلية تقدماً ملحوظاً في قدرات البرمجة الوكيلة والأمن السيبراني، إلى حد دفع الشركة إلى عدم استبعاد وصول النموذج إلى "العتبة الحرجة" في مجال الأمن السيبراني.
وقالت الشركة في منشور على مدونتها إن التقييمات الأولية للنموذج، الذي لا يزال قيد التطوير، أظهرت تقدماً كبيراً في قدراته، ما استدعى تعزيز إجراءات الحماية والأمن خلال مراحل التطوير والاختبار.
وبموجب إطار الاستعداد الذي وضعته أوبن إيه آي، تشير العتبة الحرجة في الأمن السيبراني إلى مستوى مرتفع من القدرات يمكن أن يشمل اكتشاف واستغلال ثغرات متقدمة أو تطوير استراتيجيات لهجمات إلكترونية بصورة مستقلة ضد أنظمة محمية.
وأكدت الشركة أن بلوغ هذه العتبة المحتملة لا يعني أن أسترا قادر بالفعل على تنفيذ جميع أنواع الهجمات في العالم الحقيقي، وإنما أن قدراته أصبحت تستوجب ضوابط أمنية مشددة.