معلومات

يكشف البحث أن كاشف الكلام الذي يحض على الكراهية من Google متحيز عنصريًا

يكشف البحث أن كاشف الكلام الذي يحض على الكراهية من Google متحيز عنصريًا

يمكن أن يخلق خطاب الكراهية بيئة سامة للأشخاص عبر الإنترنت وقد أصبح مشكلة متنامية ، لدرجة أن منصات وسائل التواصل الاجتماعي تتعرض لضغوط متزايدة للرد.

ومع ذلك ، حتى هذا يمكن أن يكون مشكلة حيث أن الإزالة التلقائية لهذا النوع من المحتوى تفتح الأبواب أمام المزيد من المشكلات المحتملة لأن هذا الحل يميل إلى مزيد من قمع الأصوات المهمشة بالفعل. باختصار ، العملية صعبة.

ذات صلة: هذه منظمة العفو الدولية تعرف بالضبط كيف يمكنك أن تكون عنصريًا و جنسيًا

ومع ذلك ، في عام 2016 ، بذلت Google قصارى جهدها لإنشاء خوارزمية ذكاء اصطناعي تهدف إلى مراقبة ومنع خطاب الكراهية على منصات ومواقع التواصل الاجتماعي. ومع ذلك ، اكتشفت دراسة حديثة أجراها أشخاص في جامعة واشنطن أن نفس الأداة كانت متحيزة عنصريًا. تنميط التغريدات التي نشرها الأمريكيون الأفارقة.

كاشف الكلام المتحيز الذي يحض على الكراهية

الآن ، عند تدريب أي أداة تعلم آلي ، تكون مجموعة البيانات الصحيحة مهمة ، ولم تكن خوارزمية الكلام الذي يحض على الكراهية من Google مختلفة. يتألف المطورون من الشركة من قاعدة بيانات تزيد عن 100,000 التغريدات التي وصفتها واجهة برمجة تطبيقات Google بأنها "سامة" تسمى Perspective. أصبح هذا المحتوى السام بعد ذلك الضوء الإرشادي للخوارزمية ، باستخدام ما "تعلمته" لتحديد "المحتوى الجيد" والإبلاغ عنه وأي شيء مقيت أو فظ أو غير محترم.

وجدت ورقة جامعة واشنطن أن أداة Google لديها معدل مرتفع بشكل مثير للريبة في الإبلاغ عن السود على الرغم من أن معظم لغة التغريدات غير ضارة.

ومن المثير للاهتمام ، عندما تم اختبار الأداة ضد 5.4 مليون تغريدة وجدوا أن الأداة كانت أكثر عرضة بمرتين للإشارة إلى المشاركات التي كتبها الأمريكيون الأفارقة. يبدو أن أداة Google واجهت صعوبات في التعامل مع التغريدات المكتوبة باللغة الإنجليزية الأمريكية الأفريقية.

انتقاء البيانات الصحيحة

كما ذكر أعلاه ، فإن البيانات الصحيحة مهمة للغاية. بل هو أكثر أهمية في المناطق التي يشارك فيها العرق. تكمن المشكلة العامة في خوارزمية Google في أنها تفتقر إلى الفهم المناسب والوعي الثقافي للتعرف بشكل صحيح على اللغة الإنجليزية الأمريكية الأفريقية. باختصار ، لم يتم تقديم AAE بشكل صحيح لمجموعة البيانات مما أدى بدوره إلى التحيز.

الحل؟ كما هو مذكور في التقرير ، "لقد قدمنا ​​اللهجة والعرق الأولي ، طريقتان لتقليل تحيز التعليقات التوضيحية من خلال إبراز لهجة تغريدة في شرح البيانات ، وإظهار أنها تقلل بشكل كبير من احتمالية تصنيف تغريدات AAE على أنها مسيئة."

يعتقد فريق جامعة واشنطن أنه ينبغي إيلاء المزيد من الاهتمام للتأثيرات المربكة لللهجة لتجنب التحيز العنصري غير المقصود في اكتشاف الكلام الذي يحض على الكراهية.


شاهد الفيديو: شاهد رد فعل وايت WHITE444 عندما اتهموه بالهكر! يخرج عن صمتهكشف الحقيقة الكاملةFree Fire White444 (شهر اكتوبر 2021).