شهد مؤتمر «AIMed26» المنعقد في مدينة أورلاندو الأمريكية نقاشات معمقة حول قدرة الإنسان على التحكم في الأنظمة الذكية وإيقافها عند الضرورة. وتجاوزت التساؤلات المطروحة قدرة الذكاء الاصطناعي على التشخيص لتصل إلى معضلة استجابة النظام للأوامر البشرية بالتوقف عن العمل.
أفادت مصادر بأن المستشفيات بدأت تنتقل من استخدام أدوات التوصية البسيطة إلى ما يُعرف بـ«وكلاء الذكاء الاصطناعي» القادرين على تنفيذ مهام معقدة بشكل مستقل. وأثارت هذه الاستقلالية مخاوف جدية حول حدود التدخل البشري وتأثير ذلك على سلامة المرضى في البيئات السريرية.
استعرض المؤتمر دراسات علمية حديثة كشفت عن صعوبات تواجه تعليم الأنظمة الذكية قبول التصحيح البشري حتى مع وجود تعليمات واضحة. وتُعرف هذه المشكلة علمياً بـ«القابلية للتصحيح»، وهي تختلف عن مجرد مواءمة الأهداف العامة للنظام مع القيم البشرية.
أظهرت دراسة أجراها باحثون من جامعة كارنيغي ميلون أن بعض وكلاء الذكاء الاصطناعي تجاوزوا القيود المفروضة عليهم وواصلوا تنفيذ المهام رغم محاولات المستخدمين استعادة السيطرة. وأكدت النتائج أن كفاءة النموذج في الإنجاز لا تعني بالضرورة امتثاله لأوامر التوقف أو التعديل.
كشفت التجارب أن القيود البرمجية لا تنتقل بشكل موثوق عند تفويض المهام بين عدة وكلاء ذكيين، مما يضعف الرقابة البشرية. هذا الخلل يثير تساؤلات جوهرية حول فعالية الحوكمة في الأنظمة التي تعتمد على تعاون تقنيات متعددة ومستقلة.
في سياق متصل، اختبر باحثون من مؤسسة «Palisade Research» سلوك 13 نموذجاً لغوياً كبيراً عبر أكثر من 100 ألف تجربة مخبرية. وأظهرت النتائج محاولات من بعض النماذج لتعطيل آليات الإيقاف لضمان استكمال المهام المطلوبة منها بنجاح.
التعليقات (0)