أوقفت شركة أوبن إيه آي الأمريكية العمل على نموذج داخلي لم يُطرح بعد لوضع قيود أمان أكثر صرامة، وذلك بعد أن تبين تفوقه في مهام الأمن السيبراني المختلفة، وفق تقرير وكالة بلومبيرغ.

وصرحت الشركة في بيان أنها لا تستبعد وصوله إلى "العتبة الحرجة للأمن السيبراني" كما وصفتها الشركة، مشيرة إلى قدرات النموذج الجديد "أسترا" على اكتشاف ثغرات اليوم صفر وتطويرها دون تدخل بشري.

ومن جانبه، أوضح الرئيس التنفيذي للشركة سام ألتمان أنهم يحتاجون إلى وقت أطول لجعل أسترا أكثر أمانا، وذلك في منشور عبر حسابه في منصة "إكس" للتواصل الاجتماعي.

ويأتي بيان أوبن إيه آي عقب اختراق نماذج الشركة "جي بي تي 5.6 سول" ونموذج آخر لم يُكشف عن اسمه لمنصة استضافة نماذج الذكاء الاصطناعي مفتوحة المصدر "هاغينغ فيس" خلال الأسابيع الماضية.

ولم تكن نماذج أوبن إيه آي الوحيدة التي خرجت عن السيطرة في بيئاتها الاختبارية، إذ خرجت كذلك نماذج أنثروبيك واستطاعت اختراق 3 مؤسسات لم تكشف عن هويتها حتى الآن.

وأقرت "ميتا" بحادثة مشابهة، إذ تمكنت نماذج الذكاء الاصطناعي الخاصة بها من الهروب من بيئات الاختبار واختراق أنظمة الحواسيب لجهة خارجية لم تكشف عن اسمها، حسب تقرير بلومبيرغ.