الذكاء الاصطناعي يتعلم الكلام مع الأطفال.. فمن يختبر أخطاءه؟

مع انتقال الذكاء الاصطناعي من أدوات للإجابة والبحث إلى أنظمة يتحدث معها الأطفال والمراهقون بصورة متكررة، لم تعد سلامة هذه النماذج مرتبطة فقط بمنع المحتوى الصريح والخطير، بل أصبحت تشمل قدرتها على فهم السياق النفسي واللغوي للمستخدم والتعامل معه بصورة مناسبة.

وفي هذا السياق، تحاول شركة "سيركيت بريكر لابز" (Circuit Breaker Labs) الأمريكية تطوير طريقة لاختبار هذه الأنظمة قبل أن تظهر نقاط ضعفها أمام مستخدمين حقيقيين.

وتقول الشركة إنها تبني ما يشبه دمى اختبار اصطدام للذكاء الاصطناعي، وهي وكلاء برمجية تحاكي مستخدمين من أعمار وخلفيات ولغات وثقافات مختلفة، ثم تدخل في محادثات مع نماذج الذكاء الاصطناعي بهدف اكتشاف الحالات التي يمكن أن تفشل فيها أنظمة الحماية.

ووفق الشركة، فإنه يمكن للوكلاء إجراء أكثر من 100 ألف تفاعل محاكٍ، مع اختبار اللغة العامية والأخطاء الإملائية والعبارات غير المباشرة والاختلافات الثقافية.

ترى سيركيت بريكر لابز أن المشكلة لا تظهر بالضرورة في سؤال واحد واضح، وإنما قد تتشكل عبر سلسلة من المحادثات، فقد يستخدم الطفل أو المراهق تعبيرا غامضا أو عاميا لا يبدو خطيرا بمفرده، لكن مع تراكم السياق قد يشير إلى أزمة نفسية أو سلوك محفوف بالمخاطر.

ويشير المؤسس المشارك والمدير التقني أرول نيغام إلى أن بعض المستخدمين، وخصوصا الشباب، يلجؤون إلى هذه الأنظمة للحصول على الدعم، بينما قد تفشل النماذج في فهم الفروق الدقيقة في كلامهم أو في تتبع السياق عبر المحادثة، وهو ما قد يقود إلى استجابة غير مناسبة، أما شقيقته شيرالي نيغام، الرئيسة التنفيذية للشركة، فتوضح أن النموذج قد يتعامل جيدا مع اللغة القياسية، لكنه قد يتعثر أمام الاختصارات والعبارات العامية أو اللغة المشفرة.