حذرت دراسة أمنية حديثة من المخاطر المحتملة للتطور المتسارع في تقنيات الذكاء الاصطناعي، مشيرة إلى أن انتشار النماذج مفتوحة المصدر قد يسهّل وصول جهات خبيثة إلى معارف ومعلومات يمكن توظيفها في تطوير أسلحة كيميائية وبيولوجية.
وبحسب تقرير أعدته مجموعة الأبحاث Crimson Flare، فإن بعض نماذج الذكاء الاصطناعي التجارية يمكن تعديلها لإزالة أنظمة الحماية والقيود المدمجة فيها، الأمر الذي قد يدفعها إلى تقديم إجابات عن أسئلة حساسة ترفض النماذج الأصلية التعامل معها لأسباب تتعلق بالسلامة والأمن.
ويرى خبراء في المجال الأمني أن هذه التطورات قد تؤدي إلى خفض الحواجز التقنية أمام الوصول إلى المعرفة المرتبطة بالمواد الخطرة، بعدما كانت هذه المعلومات لفترات طويلة محصورة إلى حد كبير في الأوساط العلمية والأكاديمية المتخصصة.
وأشار التقرير إلى أسلوب غير رسمي يُستخدم لتجاوز ضوابط السلامة في بعض نماذج الذكاء الاصطناعي، من خلال تعديل الأجزاء المسؤولة عن رفض الطلبات الحساسة. ولفت الباحثون إلى أن انتشار الأدوات المتاحة عبر الإنترنت قد يجعل إجراء مثل هذه التعديلات في متناول أشخاص يمتلكون قدرا محدودا من الخبرة البرمجية.
ولا تقتصر المخاوف على إمكانية تعديل النماذج الموجودة، إذ يمكن أيضا العثور على نسخ معدلة مسبقا ومتاحة للتنزيل عبر الإنترنت. وذكرت صحيفة ديلي ميل أنها تمكنت خلال فترة قصيرة من الوصول إلى عدد من النماذج التي توصف بأنها "غير خاضعة للرقابة"، والتي يمكن أن تقدم إجابات أكثر تفصيلا بشأن موضوعات تتجنبها النماذج التقليدية.
ويزداد القلق، وفقا للتقرير، بشأن نماذج اللغة الكبيرة مفتوحة المصدر التي يمكن تشغيلها محليا على أجهزة المستخدمين من دون الحاجة إلى الاتصال بخوادم الشركات المطورة. ويجعل هذا النمط من التشغيل عملية مراقبة الاستخدام أو تتبع الأنشطة المرتبطة بهذه النماذج أكثر صعوبة، ما يطرح تحديات إضافية أمام الجهات المعنية بالأمن القومي.
التعليقات (0)