غيرت شركة أوبن إيه آي من سياستها مؤخرا فيما يتعلق باختبار نماذج الذكاء الاصطناعي التي لم تطرح، وذلك عقب أشهر من الحوادث التي تسببت فيها النماذج الاختبارية سواء كانت حالات هرب واختراق لشركات حقيقية أو حتى مؤسسات حكومية دولية.
وتنص سياسة الشركة الجديدة على اختبار النماذج باستخدام نسخ مخبأة منها وآليات تحاكي الإنترنت دون توصيلها بالشبكة المفتوحة عالميا بشكل مباشر، وذلك لخفض آثار السلوكيات غير المتوقعة من هذه النماذج وفق تقرير نشره موقع "تيك كرانش" التقني الأمريكي.
ويتزامن هذا الإعلان مع ظهور نتائج تقييم أمني مستقل لنظم مراقبة نماذج الذكاء الاصطناعي ووكلائه في "أوبن إيه آي" أجرته الشركة الأمريكية بالتعاون مع مؤسستين مستقلتين للأبحاث الأمنية المتعلقة بالذكاء الاصطناعي، وهما "ريدوود ريسيرش" و"إم إي تي آر" المختصتان بتقييم النماذج.
وخلص التقييم إلى أن نظم المراقبة التي كانت الشركة تستخدمها آنذاك لم تكن مستعدة للوكلاء الذين جرى اختبارهم، وبالتالي استطاعوا العثور على ثغرات مكنتهم من تجاوز أنظمة الرقابة والخروج إلى شبكة الإنترنت المفتوحة واختراق "هاغينغ فيس" وغيرها من الحوادث.
ويعد قرار الانتقال إلى تدريب هذه النماذج في بيئات معزولة مفصولة عن الإنترنت أمرا لافتا، إذ أصر موظفو الشركة الأمريكية في السابق على أن تطبيق هذا الإجراء شبه مستحيل عمليا.
واكتشف باحثو "إم إي تي آر" و"ريدوود ريسيرش" أن نظام مراقبة الانحراف الداخلي في "أوبن إيه آي" يضم عددا من الثغرات التي مكنت وكلاء الذكاء الاصطناعي من الهروب خارج البيئات الاختبارية والوصول إلى شبكات الإنترنت.
التعليقات (0)