شات جي بي تي يراقب مؤشرات العنف ويقيد معلومات الأسلحة للمراهقين

بموجب الإجراءات الجديدة قد ينهي شات جي بي تي المحادثة تلقائيا إذا رصد مؤشرات على التفكير في ارتكاب أعمال عنف أو إلحاق أذى جسيم بشخص آخر (رويترز)

تتجه شركة أوبن إيه آي إلى تعزيز إجراءات السلامة في روبوت المحادثة شات جي بي تي، من خلال تقييد وصول المستخدمين المراهقين إلى المعلومات التطبيقية المتعلقة بالأسلحة، وتطوير آليات لرصد المحادثات التي قد تكشف عن مؤشرات على التفكير في ممارسة العنف أو إيذاء الآخرين.

وتأتي هذه الخطوة ضمن مساعي الشركة للحد من مخاطر إساءة استخدام أدوات الذكاء الاصطناعي، وتعزيز حماية القاصرين من المحتوى الذي قد يسهم في التخطيط لأعمال مؤذية أو تسهيل تنفيذها.

وأعلنت الشركة مجموعة من التحديثات التي تشمل الحد من تقديم المعلومات العملية المتعلقة بالأسلحة وأنظمة الحماية الأمنية، إلى جانب توسيع نطاق التدخل عند ظهور مؤشرات تستدعي القلق بشأن سلامة المستخدم أو المحيطين به، ولا تقتصر هذه الإجراءات على الطلبات التي تتضمن تهديدات صريحة، بل قد تشمل أسئلة تبدو عادية عند النظر إليها منفردة، إذا أظهر سياق المحادثة نمطا يثير مخاوف تتعلق بالسلامة.

تستهدف السياسة الجديدة الحد من وصول المراهقين إلى التفاصيل التي يمكن استخدامها للحصول على الأسلحة أو تشغيلها أو توظيفها في الاعتداء على الآخرين، وتسعى الشركة من خلال ذلك إلى منع تحول إجابات شات جي بي تي إلى إرشادات عملية يمكن استغلالها في تنفيذ أعمال عنف، حتى عندما لا يعبّر المستخدم صراحة عن نية مؤذية.

وفي إجراء منفصل يشمل جميع المستخدمين، قررت أوبن إيه آي تشديد القيود على التفاصيل المرتبطة بحوادث إطلاق النار الجماعي، بما في ذلك أنواع الأسلحة والمعدات المستخدمة، وطرق حصول منفذي الهجمات عليها، والمقارنات التفصيلية لحجم الأضرار التي تسببت فيها.