شهد يوليو/تموز ارتفاعا في معدل حالات هرب نماذج الذكاء الاصطناعي وخروجها عن طوع مستخدميها عبر الكذب والخداع وحتى تجاهل أوامر المستخدمين، فضلا عن محاولتها تحقيق أهدافها بغض النظر عن سلامة الطريقة التي تتبعها، حسب دراسة أجراها مرصد "لوس أوف كنترول ".
ويختص المرصد المنشأ حديثا بتمويل من معهد أمن الذكاء الاصطناعي التابع للحكومة البريطانية بتتبع حالات خروج أنظمة الذكاء الاصطناعي ووكلائها عن التعليمات الأولية من المستخدمين، إذ بدأ المرصد عمله في نوفمبر/تشرين الثاني الماضي وفق تقرير صحيفة "غارديان " عن الأمر.
ومنذ ذلك الوقت، سجل المرصد العديد من الحالات المختلفة مشيرا إلى تضاعف معدل خروج الذكاء الاصطناعي في يوليو/تموز مقارنة بيونيو/حزيران السابق، إذ وصل إجمالي الحالات إلى 300 حالة.
ويعرف المرصد حالات هروب الذكاء الاصطناعي بأنها الحالات التي يفقد فيها المستخدم البشري سيطرته على وكيل الذكاء الاصطناعي الذي يقوم بتشغيله مع ظهور أدلة واضحة على تآمر الوكيل وتخطيطه للخروج عن السيطرة.
وفي ذلك السياق، يكشف تقرير موقع "ديجيتال تريندز " التقني الأمريكي عن حالة انتحل فيها وكيل ذكاء اصطناعي شخصية المستخدم البشري وقلّد أسلوبه في الكتابة ليوجه لنفسه أوامر تمكنه من الخروج عن التعليمات الأساسية التي منحها له المستخدم.
ومن جانبه، أوضح تومي شافر-شين مدير السياسات الأول في مركز "لونغ تيرم ريزيليانس " ضمن حديثه مع "غارديان " أن سلوكيات الذكاء الاصطناعي الخبيثة والتآمر للهروب من سيطرة المستخدمين البشر لم تعد قاصرة على الاختبارات المعملية والنماذج الاختبارية فقط.
التعليقات (0)