باحثون للجزيرة نت: إجابات الذكاء الاصطناعي التي تصلك قد تكون "ملغمة سياسيا"

لم تعد حروب المعلومات تقتصر على منشورات وسائل التواصل الاجتماعي أو المواقع الإلكترونية، بل بدأت تمتد إلى المكان الذي يعتمد عليه ملايين المستخدمين يوميا للحصول على المعرفة، وهي أنظمة الذكاء الاصطناعي.

هذا ما تحذر منه دراسة جديدة، أعدها الباحثون كارل ميلر، وهانا بيري، وفلين ديفاين من مؤسسة الأبحاث البريطانية "ديموس" (Demos)، تبحث في كيفية تحول النماذج اللغوية الكبيرة (LLMs) إلى ساحة جديدة للتنافس والتأثير المعلوماتي.

وتشير الدراسة إلى أن الجهات الساعية إلى التأثير لم تعد بحاجة في المستقبل إلى السيطرة على منصات التواصل الاجتماعي أو محركات البحث فحسب، بل قد تسعى إلى التأثير في المصادر التي تعتمد عليها أنظمة الذكاء الاصطناعي عند صياغة إجاباتها للمستخدمين.

لطالما اعتمدت حملات التضليل على استهداف الجمهور مباشرة عبر الأخبار الزائفة أو شبكات التواصل الاجتماعي. لكن الباحثين يقولون، في تصريحات للجزيرة نت، إن صعود النماذج اللغوية الكبيرة يفتح جبهة مختلفة، إذ أصبحت هذه الأنظمة وسيطا جديدا بين المستخدم والمعلومة. فبدل أن يبحث الشخص بين عشرات المواقع، بات يحصل على إجابة واحدة مصاغة بواسطة نموذج ذكاء اصطناعي قد تؤثر في فهمه للأحداث والقضايا من حوله.

وقال كارل ميلر، أحد معدّي الدراسة ومؤسس مختبر تحليل وسائل التواصل الاجتماعي (CASM Technology) التابع لمؤسسة "ديموس" البريطانية، للجزيرة نت، إن النماذج اللغوية الكبيرة لا تختلف جذريا عن محركات البحث ومنصات التواصل الاجتماعي من حيث قدرتها على تحديد ما يلفت انتباه الناس، لكن الاختلاف الأساسي يكمن في أن بعض المستخدمين قد يطورون علاقة مستمرة مع أنظمة الذكاء الاصطناعي ويمنحونها مستوى من الثقة، ما يجعل التلاعب بهذه العلاقة "قناة جديدة كليا للتأثير".

وبحسب الدراسة، فإن التهديد الجديد لا يتمثل فقط في تدريب النماذج على بيانات مضللة، بل في التلاعب بالمصادر التي تسترجعها هذه الأنظمة أثناء الإجابة على الأسئلة، وهي العملية التي يطلق عليها الباحثون "تسميم الاسترجاع المعزز بالتوليد" (Retrieval Augmented Generation – RAG poisoning)، حيث تستعين أنظمة الذكاء الاصطناعي بمصادر خارجية من الإنترنت لتحديث إجاباتها أو دعمها بالمعلومات.