"أوبن إيه آي" توقف برنامج ذكاء اصطناعي "حاول الغش في الامتحان"

أوقفت شركة "أوبن إيه آي"، صاحبة برنامج "تشات جي بي تي"، العمل بأكثر نماذج الذكاء الاصطناعي لديها قدرة، بعد أن تجاوز أحد أنظمتها قيود الإنترنت وتواصل مع روبوت محادثة خارجي أثناء أحد الاختبارات.

وقالت "أوبن إيه آي" في منشور على مدونتها، إنه لم يكن من المفترض أن يتمكن النموذج من الوصول إلى الإنترنت، لكنه "اكتشف ثغرة واستغلها".

ومن المقرر أن تظل عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات متوقفة مؤقتا، حتى تتأكد الشركة من إغلاق الثغرة وإجراء المزيد من اختبارات السلامة.

وكشفت "أوبن إيه آي" أن الحادث كان أقل خطورة من بعض الحالات السابقة، لكنه يعد الأول منذ تشديد حواجز الحماية، في أعقاب حادث اختراق سابق كان يتضمن منصة الذكاء الاصطناعي "هاغينغ فيس".

وخلال الاختبار، طلب من النموذج تحديد هوية شخص كتب منشورا على مدونة باستخدام سلسلة من الأدلة، وبعد أن فشل في العثور على الإجابة في بيئة ويب محاكاة، اكتشف أنه يمكنه استخدام الإنترنت المفتوح عبر ثغرة.

ويأتي هذا الحادث في أعقاب عدة حالات أخرى شملت أنظمة "أوبن إيه آي".