تتجه الشركات إلى توظيف وكلاء الذكاء الاصطناعي لأتمتة الأعمال اليومية وتسريع إنجاز المهام، مستفيدة من قدرتهم على التعامل مع البريد الإلكتروني والمستندات وقواعد البيانات والتطبيقات الداخلية، لكن انتقال هذه الأنظمة من تقديم الإجابات إلى تنفيذ الإجراءات الفعلية يفرض تحديات أمنية جديدة، خصوصا عندما تمنح صلاحيات واسعة أو يسمح لها بالعمل دون مراجعة بشرية كافية.
وتكمن المشكلة في أن الخطر لا يرتبط بالضرورة بوجود ثغرة في النموذج نفسه، بل قد ينشأ من الطريقة التي يدمج بها داخل بيئة العمل، ومن الأدوات المتاحة له، والبيانات التي يستطيع الوصول إليها، وحدود استقلاليته في اتخاذ الإجراءات وتنفيذها.
يعتمد وكلاء الذكاء الاصطناعي على نماذج قادرة على فهم الأهداف التي يحددها المستخدم، وتقسيمها إلى خطوات، واختيار الأدوات المناسبة لتنفيذها، ثم مراجعة النتائج ومتابعة العمل حتى الوصول إلى النتيجة المطلوبة، وتتيح واجهات برمجة التطبيقات (APIs) والموصلات البرمجية ربط هؤلاء الوكلاء بأنظمة الشركة، بما فيها البريد الإلكتروني والتخزين السحابي وبرامج إدارة العملاء وقواعد البيانات.
فعندما يُطلب من وكيل إعداد تقرير عن المبيعات، يمكنه جمع الأرقام من قواعد البيانات، ومقارنتها بالفترات السابقة، وتنظيم النتائج في مستند، ثم إرساله إلى فريق العمل إذا كان مخولا بذلك. وتختصر هذه الآلية الوقت اللازم لإنجاز المهام التي تتطلب التنقل بين تطبيقات متعددة.
ويتمثل الفرق الأساسي بين الوكيل والمساعد التقليدي في نطاق الأفعال التي يستطيع تنفيذها، فالمساعد الذي يجيب عن سؤال أو يقترح صياغة رسالة يترك للموظف مهمة مراجعتها وإرسالها، بينما يستطيع الوكيل المرتبط بالأدوات المناسبة تنفيذ هذه الخطوات بنفسه. وتزيد هذه القدرة الإنتاجية، لكنها تجعل أخطاء النظام أو إساءة استخدام صلاحياته ذات أثر مباشر في بيانات الشركة وعملياتها.
تظهر المخاطر عندما يحصل الوكيل على صلاحيات تتجاوز ما تحتاج إليه مهمته. فقد يُمنح حق الوصول إلى صندوق بريد كامل رغم أن عمله يقتصر على تلخيص رسائل محددة، أو يستطيع تعديل الملفات وحذفها مع أن المطلوب منه قراءتها فقط. وإذا حدث خطأ أو استغلال أمني، فقد يؤدي هذا التوسع إلى كشف معلومات سرية أو تغيير سجلات مهمة أو تنفيذ عمليات غير مصرح بها.
التعليقات (0)