هل تعلّم الذكاء الاصطناعي أن يرى العالم بعين رجل؟

حين نسأل الذكاء الاصطناعي عن قضية اجتماعية، أو نطلب منه كتابة إعلان، نتعامل أحيانًا مع إجابته وكأنها صادرة عن عقل محايد يقف على مسافة واحدة من الجميع. لكن سؤالًا يستحق التوقف أمامه: على مَن يعتمد هذا الذكاء في تعلّمه، على النساء أم الرجال؟ ومَن علّمه أصلًا كيف ينظر إليهما؟

الإجابة الدقيقة تبدأ من توضيح أساسي: النماذج اللغوية لا تتدرّب على الرجال أو النساء بوصفهم مجموعتين منفصلتين، وإنما تتعلم من محتوى وبيانات، ثم تمر بمراحل من الضبط والتقييم. وتوضح إفصاحات شركات مطوّرة أن مصادر التدريب قد تشمل مواد متاحة على الإنترنت، وبيانات من أطراف أخرى، ومحتوى ينتجه مقيّمون بشريون، وبيانات مولّدة اصطناعيًا. لذلك لا تكفي معرفة هوية المبرمج لفهم ما تعلّمه النموذج.

ولا يصح أن نعلن أن الذكاء الاصطناعي يعتمد على الرجال أكثر من النساء بنسبة محددة، من دون بيانات منشورة تخص النموذج نفسه. فنسبة النساء في فرق التطوير، ونسبة المحتوى الذي كتبته نساء، وطريقة تمثيل النساء داخل ذلك المحتوى، مسائل مختلفة. قد تكتب امرأة نصًا يعيد إنتاج صورة نمطية، وقد يكتب رجل نصًا يدافع عن المساواة. هوية الكاتب وحدها لا تكشف عدالة ما يكتبه.

هنا تصبح المسألة أعمق من سؤال العدد. أيُّ عالم تصفه البيانات التي نضعها أمام الآلة؟ إذا كانت النصوص تكرر حضور الرجل في مواقع القيادة، وتختزل المرأة في الرعاية والعمل المنزلي، فقد يتعلم النموذج هذه الروابط ويعيد إنتاجها في إجاباته. كثرة تكرار الفكرة تساعده على تعلّمها، لكنها لا تجعلها حقيقة عادلة.

وهذا الاحتمال له شواهد بحثية. فقد كشفت دراسة نشرتها اليونسكو عام ألفين وأربعة وعشرين عن تحيزات وصور نمطية في نماذج لغوية اختبرتها، منها ربط النساء بالأدوار المنزلية والأسرة، وربط الرجال بالأعمال والمسار المهني. وهذه نتائج تخص النماذج والاختبارات التي تناولتها الدراسة، ولا يجوز تعميمها تلقائيًا على كل نموذج متاح اليوم. لكنها تكشف أن اللغة السلسة لا تضمن غياب التحيز.

ومن زاوية عملي في الإعلام والتسويق الرقمي، أرى أن خطورة ذلك تظهر حين تتحول الإجابة إلى مادة منشورة. لنتخيل مؤسسة تطلب كتابة قصص نجاح لرواد أعمال، فتراجع النصوص لتجد الرجال أصحاب قرارات ومشروعات، والنساء شخصيات مساندة. أو حملة تدريبية تخاطب الرجل بلغة الاستثمار والقيادة، وتخاطب المرأة بلغة المساعدة وتحسين دخل الأسرة فقط. هذه أمثلة توضيحية لما ينبغي فحصه، لأن تكرارها قد يضيّق الصورة التي نقدمها عن قدرات الناس وأدوارهم.