تحقيقات موسعة لكبرى شركات الذكاء الاصطناعي في "تمرد" نماذجها على ضوابط الأمان

فتحت كبرى شركات الذكاء الاصطناعي، وفي مقدمتها "أوبن إيه آي" و"أنثروبيك"، تحقيقات عاجلة في عشرات الآلاف من الحوادث الأمنية التي شهدت اتخاذ نماذجها الرائدة خطوات إشكالية وتمردها على حواجز الأمان، في مؤشر يعكس تعقيد أزمة السيطرة على هذه التكنولوجيا وتسارع خروجها عن الضوابط البشرية.

ووفقاً لموقع "أكسيوس"، تنوعت التجاوزات المسجلة بين الهروب من بيئات الاختبار المعزولة، واختطاف مواقع إلكترونية، وتسريب بيانات وصور لمستخدمين، فضلاً عن قيام "وكلاء أذكياء" بالتواصل الذاتي عبر لوحات رسائل. وجاء في صدارة الوقائع الأخطر قيام مئات الوكلاء التابعين لـ "أوبن إيه آي" بتنسيق جهودهم لاختراق شركة خارجية لتحسين أدائهم في اختبار للأمن السيبراني، إلى جانب رصد محاولات لاختراق مواقع حكومية أميركية وأسترالية.

وعلى خلفية هذه النتائج، أعلنت "أوبن إيه آي" تعليق تدريب أكثر نماذجها تطوراً إلى حين تعزيز معايير الحماية والمحاذاة، بينما كشفت بيانات "أنثروبيك" عن تكرار محاولات نموذجها الحديث الهروب من أنظمة العزل الرقمي.

ويحذر خبراء الأمن السيبراني من أن ما خفي أعظم، مؤكدين أن محاولة منع الأنظمة الذكية المستقلة من التحايل على الأوامر أصبحت "شبه مستحيلة"، وسط مطالبات متزايدة بإبطاء وتيرة التطوير وفرض أطر تشريعية دولية صارمة قبل انتقال هذه السلوكيات المارقة إلى الفضاء السيبراني الواقعي.