البرامج الخاصة برصد خطاب الكراهية تخلط بين الحوارات

«الذكاء الاصطناعي» لا يعرف الفرق بين الحديث عن الشطرنج والعنصرية

الحديث عن قطع الشطرنج «الأبيض والأسود» قد يتم تفسيره بواسطة الذكاء الاصطناعي «حديثاً عنصرياً» يتعيّن حجبه. أرشيفية

بعد النجاح الباهر الذي حققه المسلسل التلفزيوني «كوينز جامبت»، أي (خدعة الوزير)، الذي تدور أحداثه في عالم بطولات الشطرنج العالمية، اكتسبت لعبة الشطرنج اهتماماً كبيراً وأصبحت محل حديث دائم على مواقع التواصل الاجتماعي.

ولكن دراسة أجريت، أخيراً، أثبتت أن البرامج الخاصة برصد حديث الكراهية أو الحوارات التي تضم عبارات عنصرية مسيئة، قد تخلط بين الحوارات التي تتعلق بلعبة الشطرنج والأحاديث بشأن قضايا العنصرية. وأرجعت الدراسة التي أجراها باحثان من جامعة كارنيجي ميلون الأميركية السبب في هذا الخلط، إلى أن الحديث عن ألوان قطع الشطرنج التي تختلف ما بين الأبيض والأسود قد يتم تفسيره بواسطة أنظمة الذكاء الاصطناعي الخاصة برصد العبارات المسيئة على مواقع التواصل باعتباره «حديثاً عنصرياً» يتعيّن حجبه، بموجب القواعد التي تعمل بها هذه المنظومات. وأشار الموقع الإلكتروني «تيك إكسبلور»، المتخصص في التكنولوجيا، إلى حجب قناة لاعب شطرنج كرواتي يُدعى أنطونيو راديك، على موقع «يوتيوب» لعرض مقاطع الفيديو العام الماضي بزعم أنه يتضمن محتوى «ضاراً وخطيراً».

ويقول الباحث أشقر أر. خودابوش، من معهد تقنيات اللغات في جامعة كارنيجي ميلون، إن الحديث بشأن «الأبيض» في مواجهة «الأسود» هو ما أدى إلى حجب القناة، لأن البرنامج الذي يستعمله الموقع الإلكتروني قام بتفسير هذه العبارات تلقائياً باعتبارها «عنصرية». وأضاف: «لا نعرف البرنامج الذي يستخدمه موقع (يوتيوب)، ولكن إذا كان الموقع يعتمد على منظومة للذكاء الاصطناعي لرصد العبارات العنصرية، فإن هذه النوعية من الحوادث قد تقع»، مشيراً إلى أنه إذا كان هذا الحادث قد حدث مع شخصية شهيرة مثل راديك، فمن الممكن أن تحدث لآخرين دون أن يعرف بهم أحد. وفي إطار الدراسة، اختبر خودابوش، وزميله روباك ساكر، برنامجين لرصد العبارات العنصرية في مواقع التواصل، حيث تم عرض أكثر من 680 ألف عبارة من خمس قنوات متخصصة في لعبة الشطرنج على موقع «يوتيوب» على هذين البرنامجين، ثم قام الباحثان بفحص 100 عبارة قام البرنامجان بتصنيفها باعتبارها «مسيئة»، ولكن بعد الدراسة تبيّن أن 82% من هذه العبارات «لم تكن مسيئة» على الاطلاق، وإنما كانت تتضمن كلمات مثل أبيض وأسود وهجوم وتهديد، وغير ذلك من الألفاظ الدارجة في عالم الشطرنج.

• %82 من العبارات التي صُنّفت مسيئة لم تكن مسيئة أبداً.

• حجب قناة لاعب شطرنج بزعم نشر محتوى «عنصري».

طباعة