قالت منظمة العفو الدولية إن شركات التكنولوجيا الكبرى تطور أنظمة للذكاء الاصطناعي التوليدي تعتمد على ممارسات "استخلاص بيانات" غير مشروعة من الإنترنت، على نحو يكرّس انتهاكا واسعا لحق الأفراد في الخصوصية ويجعل هذه الأنظمة "غير مشروعة بحكم تصميمها".

وفي تقرير موجز وثقت المنظمة ما وصفته بمخاطر جسيمة ناجمة عن جمع كميات هائلة من البيانات المتاحة على الإنترنت ومعالجتها واستخدامها في تدريب نماذج الذكاء الاصطناعي التوليدي، بما يشمل بيانات شخصية كالصور والنشاط على وسائل التواصل الاجتماعي، غالبا من دون موافقة أصحابها.

وقالت ليكيتا بانرجي، رئيسة مختبر المساءلة الخوارزمية في المنظمة، إن الشركات "تقدم منتجات الذكاء الاصطناعي التوليدي تحت غطاء الكفاءة والتطور، لكنها في الواقع تكرّس انتهاكات واسعة النطاق للخصوصية عبر تقنيات استخلاص بيانات مؤتمتة من الإنترنت، تُستخدم لبناء هذه النماذج وتدريبها". وأضافت أن مسارات معالجة البيانات، والخيارات التصميمية المتأصلة، وسلاسل الإمداد الاستغلالية "تفتح الباب أمام خطر انتهاكات واسعة لحقوق الإنسان".

وبحث التقرير في النماذج المشغّلة لبعض أكثر أدوات الذكاء الاصطناعي التوليدي انتشارا مثل "جي بي تي 3" من "أوبن إيه آي" و"جيميني" من "غوغل" و"لاما" من "ميتا" و"ديب سيك" وغيرها. وأشارت المنظمة إلى أن الاعتماد على مليارات المنشورات والصور العامة على الإنترنت، دون موافقة صريحة، يضاعف أيضا مخاطر إنتاج محتوى تمييزي أو قائم على خطاب الكراهية، ويعمّق الصور النمطية السلبية، خاصة بحق الفئات المهمشة عرقيا أو على أساس النوع الاجتماعي.

وحذرت العفو الدولية من أن هذه النماذج، خصوصا الأضخم منها، تنطوي كذلك على خطر المساس بحرية التفكير، لقدرتها على التأثير في أفكار المستخدمين وتشكيل معتقداتهم من خلال المقترحات التنبؤية.

وسلط التقرير الضوء على "تكلفة بيئية باهظة" لهذه الأنظمة، في ظل التوسع السريع في البنية التحتية الرقمية ومراكز البيانات العالية الاستهلاك للطاقة والمياه، مشيرا إلى زيادات كبيرة في انبعاثات الغازات الدفيئة لدى شركات مثل غوغل ومايكروسوفت، وإلى مقاومة مجتمعات محلية في تشيلي والمكسيك والولايات المتحدة لمشاريع مراكز البيانات في مناطق تعاني أصلا من الجفاف وانقطاعات الكهرباء.