هذا السؤال دفع شركة أوبن إيه آي إلى إبطاء بعض أعمال تطوير نموذجها المرتقب "أسترا"، بعد أن أظهرت اختبارات داخلية وخارجية قفزة كبيرة في قدراته على البرمجة الوكيلة والأمن السيبراني.

وقالت الشركة إن التقييمات الأخيرة كشفت عن قدرة متزايدة للنموذج على تنفيذ المهام البرمجية والسيبرانية بدرجة أعلى من الاستقلالية، ما جعلها غير قادرة على استبعاد وصوله إلى مستوى "حرج" من القدرات السيبرانية وفق إطار الاستعداد الخاص بها.

لا يتعلق الأمر بمجرد قدرة الذكاء الاصطناعي على اكتشاف ثغرات أو كتابة أكواد ضارة، وهي مهام باتت النماذج المتقدمة قادرة على تنفيذ أجزاء منها بالفعل.

وتعرّف أوبن إيه آي المستوى الحرج في الأمن السيبراني بأنه قدرة نموذج مزود بأدوات على اكتشاف وتطوير ثغرات "يوم الصفر" قابلة للاستغلال في أنظمة حقيقية محصنة، دون تدخل بشري، أو تصميم وتنفيذ هجمات متكاملة ضد أهداف محمية انطلاقًا من هدف عام.

وتكمن خطورة هذه المرحلة في إمكانية أتمتة أجزاء واسعة من دورة الهجوم الإلكتروني، بدءًا من اكتشاف نقاط الضعف وصولًا إلى استغلالها وتنفيذ عمليات طويلة الأمد، وهو ما قد يغير بصورة كبيرة التوازن بين الهجوم والدفاع في الفضاء السيبراني.

لا تكمن أهمية "أسترا" في قدرته على كتابة الأكواد فحسب، بل في الاتجاه الذي تتجه إليه النماذج الحديثة نحو العمل كوكلاء مستقلين.