تتزايد المخاوف المرتبطة بالذكاء الاصطناعي في مجال الأمن السيبراني مع التطور السريع لقدرات النماذج والوكلاء الذكيين، إذ تمنح هذه التقنيات المدافعين أدوات أكثر كفاءة لاكتشاف الثغرات وتحليل البرمجيات، لكنها في المقابل تتيح للمهاجمين أتمتة أجزاء من عمليات الاختراق، وخفض الوقت والموارد اللازمة لتنفيذ هجمات أكثر تعقيدًا.
وفي هذا السياق، وقعت أكثر من 100 شركة تقنية ومالية، بينها أوبن إيه آي ومايكروسوفت وألفابت وأمازون وآي بي إم، قبل يومين رسالة مشتركة دعت فيها إلى تحرك واسع ومنسق لتعزيز الدفاعات السيبرانية في مواجهة الهجمات المدعومة بالذكاء الاصطناعي، حيث ترى الشركات أن هناك فترة محدودة ينبغي خلالها تعزيز البنية الأمنية قبل أن تصبح الهجمات التي تستفيد من قدرات الذكاء الاصطناعي أكثر انتشارا وتأثيرا.
تكمن خطورة الذكاء الاصطناعي في الأمن السيبراني في قدرته على تنفيذ مهام كانت تتطلب سابقا خبرة بشرية ووقتا طويلا، ويمكن للنماذج المتقدمة تحليل كميات كبيرة من الشيفرات، البحث عن نقاط ضعف، المساعدة في كتابة البرمجيات، وتنسيق عدد كبير من المهام بصورة متزامنة.
ولا يعني ذلك أن الذكاء الاصطناعي أصبح قادرا بمفرده على شن أي هجوم معقد، لكن التطور في قدرات الوكلاء الذكيين يجعل بعض مراحل الهجوم قابلة للأتمتة بدرجة أكبر. كما تحذر الشركات الموقعة على الرسالة من أن تطور النماذج قد يجعل أدوات الهجوم المتقدمة متاحة أمام عدد أكبر من الجهات، ويزيد من سرعة تنفيذ العمليات السيبرانية وتعقيدها.
وتأتي هذه التحذيرات بعد حوادث أظهرت أن نماذج الذكاء الاصطناعي يمكن أن تتعامل مع مهام سيبرانية معقدة بدرجة متزايدة من الاستقلالية، ففي يوليو/تموز الماضي، كشفت أوبن إيه آي أن نماذج داخلية خضعت لاختبارات للأمن السيبراني تمكنت من تجاوز بعض الضوابط المصممة لعزلها عن الإنترنت، والوصول إلى أجزاء من البنية البحثية الداخلية وأنظمة تابعة لهاجينغ فيس (Hugging Face). وقالت الشركة إن النماذج استخدمت قنوات اتصال غير مصرح بها واستغلت ثغرات في البنية المشتركة للوصول إلى أنظمة خارجية.
وأظهر التحقيق الجنائي الذي نشرته هاجينغ فيس أن العملية تضمنت آلاف الإجراءات التي نفذها الوكلاء خلال فترة الاختبار، ما أعطى الباحثين مثالا عمليا على الكيفية التي يمكن أن تتصرف بها أنظمة الذكاء الاصطناعي المتقدمة عندما تمتلك قدرات واسعة على التفاعل مع بيئات الحوسبة.
التعليقات (0)