هذا المقال متوفر أيضاُ باللغة: الإنجليزية

تحليل العواطف

"ماذا لو تمكنت التكنولوجيات في مساعدتنا لتحسين النقاشات على الإنترنت؟" سؤال يطرحه فريق تكنولوجيا مكافحة سوء المعاملة التابع للشركة العملاقة في مجال التكنولوجيا، قوقل- والذي نتج عنه ولادة مشروع بروسبكتف (موقع مشروع بروسبكتيف). بالرغم عن كونه في مراحل تطويره الأولى، إلا أن المشروع يقدم أداة جديدة بإمكانها التعرف على إذا ما كان التعليق على الإنترنت سيفهم على انه يحرض على الكراهية. يعد المشروع شراكة بين قوقل وموقع ويكيبيديا وصحيفة نيويورك تايمز والإيكونيميست والجارديان.

أظهر علماء الحاسوب اهتماماً واسعاً بدراسة عواطف الإنسان وكيفية ارتباطها بالحياة الاجتماعية عبر ما يعرف بتحليل العواطف. إن دراسة عواطف كالحزن والغضب والتفضيلات الشخصية تحت ظروف تطبيقية لن يساعد المسوقين فقط على فهم الناس وبالتالي رسم حملاتهم التسويقية في الاتجاه الصحيح، بل أيضاً سيسمح بإمكانية تبرير التصرفات والأيديولوجيات التي تقبع خلف السلوك المعين رهن التحليل، مما سيؤدي إلى فهم أعمق. يقوم علماء النفس والاجتماع بفعل هذا الشيء –دراسة وتحليل سلوك المجتمعات- منذ نشأة هذين العلمين. ولكن تدخل علماء الحاسوب يضفي زاوية جديدة على المشهد. ففي فريق بحثي يتكون من علماء حاسوب ونفس واجتماع وبالاستفادة من التطور السريع في البرمجيات والتكنولوجيات فإن تعقيدات الظاهرة تحت الدراسة يمكن فهمها بطريقة أكثر كفاءة.

فحص خطاب الكراهية

إذا أخذنا خطاب الكراهية كمثال لسلوك المجتمعات فهو بالفعل أمر معقد. الكراهية أمر شخصي –غير موضوعي- ويتم تفسيره بطرق مختلفة بواسطة أناس من خلفيات وأصول مختلفة. إذا اعتمدنا على سياق معين فإن الكراهية يمكن التعبير عنها بأشكال متعددة سواء كانت صريحة أو ضمنية. إضافة إلى أن غنى اللغات أو اللهجات بالمفردات يجعل التعرف على خطاب الكراهية أكثر صعوبة. إن خطاب الكراهية ينتشر بسرعة عبر الإنترنت أو الوسائط و المنصات الرقمية. يعتبر الدين والإثنية والأيدولوجيات السياسية والأخلاقية -إضافة إلى عوامل أخرى- من العوامل التي تدفع المجموعات في مواقع التواصل الاجتماعي. بات من العرف بان نجد عبارات عنصرية أو جنسية أو تعبر عن الكراهية في التعليقات بعد تصفح عوالم التواصل الاجتماعي حتى و لو لمدة قصيرة. إن الأعداد الكبيرة للمنشورات التي تجنح إلى الكراهية يستعدي تدخلات باستخدام تحليل لغوي حاسوبي دقيق باستخدام تقنيات "البيانات الضخمة". أحيانا يصعب جعل تحديد خطابات الكراهية أوتوماتيكيا في ظل الأعداد الكبيرة من المنشورات الفوضوية في وسائط لتواصل الاجتماعي. أحيانا أخرى يشكل التعرف على الروابط بين خطاب الكراهية والعوامل الأخرى في ظل ظروف معينة تحدياً كبيراً.

يعتبر الوقت والموارد من المحددات لان عملية الأتمتة –جعل التعرف على خطاب الكراهية أوتوماتيكيا- تحتاج إلى وقت طويل ليتم تصميمها وإنشاؤها، وكذلك فمن الممكن أن لا تخدم الهدف النهائي بالكامل. لهذا السبب فإن الباحثين يتعاونون مع علماء الحاسوب في تخصص دقيق يدعى معالجة اللغات الطبيعية (اللغات الطبيعية هي اللغات البشرية كالعربية والإنجليزية وغيرهما). يتم تحليل العديد من النصوص في المنشورات والوثائق بواسطة معالجة اللغات الطبيعية وبمساعدة النماذج الرياضية. يتمثل دور هذه النماذج في المقارنة بين المدخلات (الكلمات والجمل) مع المخرجات (القرار بأن التعليق يحمل قدر من الكراهية أم لا) بمساعدة معادلات رياضية.

undefined undefined

تطبيع الكراهية: النتيجة على المستوى القطري. المصدر: تحليل إحصائي للكراهية باستخدام تصنيف التعهيد الجماعي - معهد قطر لأبحاث الحوسبة ، جامعة حمد بن خليفة.

قواميس الكراهية على الإنترنت

إن رحلة البحث عن خطاب الكراهية على الإنترنت تبدأ من استخلاص البيانات كي يبدأ تحليلها. وهل يوجد مصدر أفضل من موقع تويتر وقسم التعليقات على موقعي الفيسبوك واليوتيوب؟ تسمح هذه المواقع بالوصول إلى واجهة برمجة التطبيقات وبالتالي يصبح استخلاص أي بيانات ذات صلة أكثر بساطة عبر مميزات تشبه البحث التي تساعد في جمع وتصنيف النصوص في الشكل الذي يحدده المستخدم. إن البيانات المستخلصة من موقع تويتر-أو أي موقع يسمح بهذا النوع من استخلاص البيانات- تأتي في شكل نص التغريدة التي تم نشرها بجانب أي بيانات أخرى كالموقع الجغرافي للمستخدم ونوع الجهاز المستخدم ووقت النشر واللغة المستخدمة. إن هذه البيانات تساعد الباحثين في إنشاء قواميس الكراهية أو تساهم في أتمتة التعرف على خطاب الكراهية على الإنترنت. تتكون هذه القواميس ومجموعات البيانات من كلمات مفتاحية يتكرر استخدامها في خطاب الكراهية ويمكن استخدامها لاحقاً في الكشف عن التعليقات المليئة بالكراهية.

مثال على هذه القواميس التي تساعد في جعل التعرف على خطاب الكراهية أوتوماتيكيا هو القاموس الذي طورته (PeaceTech Lab Africa) وهي منظمة غير ربحية مقرها في كينيا. لقد أنشأوا معجم لعبارات الكراهية على الإنترنت، وهو قاموس لمصطلحات الكراهية التي استخدمتها المجتمعات الجنوب سودانية في مواقع التواصل الاجتماعي في الفترة بين أغسطس إلى نوفمبر 2017. مؤخراً، نشرت المنظمة قاموساً جديداً بنفس الهدف في دولة الكاميرون. مثال آخر هو قائمة كلمات الكراهية التي طورها الباحثون في معهد قطر لبحوث الحوسبة وجامعة حمد بن خليفة، و نشرت في جيت هب.

undefined

Source: Peace Tech Lab

في بعض الأبحاث الأخرى ذات الطابع الاستكشافي على خطاب الكراهية فان بعض النماذج الخوارزمية والتي تساعد في التعرف الأتوماتيكي على الكراهية تخصصت في إيضاح الروابط بين العوامل المختلفة وتمكنت من التعرف على علاقات تمكننا من الإجابة على أسئلة معينة مثلاً ما هي أكثر الدول حساسية تجاه الكراهية؟ وما هي الدول الأقل حساسية؟ ولماذا؟

على الرغم من أن التحليل الاجتماعي لخطابات الكراهية الفوضوية والمتنوعة باستخدام الطرق المحوسبة يبدو معقداً ألا أن الأجوبة التي تجلبها هذه الطرق مشجعة. قد تساعدنا هذه التحليلات الاجتماعية العميقة والتفسيرات التي تأتي بها في تحسين فهمنا لدوافع الأشخاص ومعرفة المجموعات الأكثر استهدافاً بخطاب الكراهية ومعرفة كيفية تفاعل الناس مع خطابات الكراهية على الإنترنت وقد تساعدنا في الكشف عن أنواع مخفية من الخطابات العنيفة والمزعجة.

بالرغم من ذلك فان زيادة الوعي والتدريبات في الاستخدام المسؤول لمواقع التواصل الاجتماعي عامة والتعليقات خاصة سيفسح المجال لبيئة رقمية أكثر سلاماً. في سبيلها لمعالجة تأثير الكراهية على الإنترنت في الحروب على ارض الواقع، فان مبادرة #defyhatenow قامت بالعديد من الحملات على الإنترنت وعلى أرض الواقع لمعالجة المشكلة بداية برفع الوعي. على سبيل المثال حملات #Peace4ALL و #ThinkB4Uclick التي تقام سنوياً في يوم الأمم المتحدة للسلام. كما أن المبادرة نظمت المناسبات الثقافية والرياضية ومسارح الشارع و فيلم #DEFY وأغنيات و حملات، بالإضافة إلى الأفلام والورش التدريبية في التصدي للكراهية على الإنترنت. مدونة المبادرة تعرض المغنين والشعراء والنساء المهنيات من دولة جنوب السودان وأنشطة صنع السلام التي يقومون بها وقصصهم الملهمة.

خواطر أخيرة

لا نريد أن نحظر أقسام التعليقات حيث تبدأ العديد من المحادثات الرشيدة والمثيرة للاهتمام هناك، و لا نريد بان نوقفها بسب الكلمات المزعجة واللغة المسيئة. كما أنه لا يمكننا ببساطة منع الناس من نشر الكراهية على وسائط التواصل الاجتماعي. ربما نحتاج إلى أن ننظر إلى المشكلة نظرة عن كثب وأن ننتبه إلى لغة الكراهية. إن التعقيد وتعدد الأبعاد في خطاب الكراهية يدعونا إلى التفكير بطرق جديدة عبر تطوير تقنيات مبتكرة إبداعية وحلول مجتمعية لمحاربة خطاب لكراهية.

شكرا للتكنولوجيا التي تسمح لنا بذلك.

المصادر

- Salminen, J., Veronesi, F., Almerekhi, H., Jung, S.G. and Jansen, B.J., 2018, October. Online Hate Interpretation Varies by Country, But More by Individual: A Statistical Analysis Using Crowdsourced Ratings. In 2018 Fifth International Conference on Social Networks Analysis, Management and Security (SNAMS) (pp. 88-94). IEEE.

- Lekea, I.K. and Karampelas, P., 2018, August. Detecting Hate Speech Within the Terrorist Argument: A Greek Case. In 2018 IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining (ASONAM) (pp. 1084-1091). IEEE.

- #defyhatenow blog.

- Wikipedia – Research: Detox.

- The Economist: Help us shape the future of comments on economist.com.

- The Guardian: The web we want.

- New York Times partnering with Jigsaw to expand comments capabilities.



تقوى وراق

تقوى وراق درست علوم الكمبيوتر وتكنولوجيا المعلومات في جامعة السودان. تهتم بالكتب والذكاء الاصطناعي وأحيانًا الأمان والفن (وتحديداً الرسوم المتحركة) واللغة الألمانية