كيف يمكن الحد من الكراهية على الإنترنت؟
إن حقيقة أننا نواجه الكراهية والعنف على الإنترنت أصبحت تقريبًا هي القاعدة: فنحن نتجاوزها كما لو كان من الطبيعي أن نرى الإهانات والتهديدات والمعلومات المضللة بجوار مقاطع فيديو قطط أو رسائل من عائلتنا وأصدقائنا. ولكن الأمر ليس كذلك: إذ يستطيع المستهلكون، بل ينبغي عليهم، أن يطالبوا بالحد الأدنى من سلامة المنتج في الفضاء الرقمي. بعد كل شيء، هذه هي الممارسة المعتادة في العالم الواقع، حيث يتم اختبار السيارات أو الأدوية أو البقالة بعناية لمعرفة ما إذا كانت تشكل خطرًا على المستهلكين.
ولكن عندما يتعلق الأمر بشبكات التواصل الاجتماعي، أو التطبيقات، أو الذكاء الاصطناعي، فغالبًا ما يتم إطلاق المنتجات دون فحص ضررها المحتمل على الأفراد والمجتمع. تريد المنصات الجديدة مثل Mastodon اتباع نهج مختلف. بعد استحواذ Elon Musk على تويتر، أنشأ العديد من المستخدمين حسابات في الشبكة اللامركزية. في تحليل جديد للبيانات، تستكشف HateAid ما إذا كان تصميم المنتج المختلف يعني حقًا كراهية أقل. وإذا كانت الإجابة بنعم، ماذا يمكن أن نتعلم من ذلك؟
يمكن للمنصات حماية المستخدمين
الخبر السار أولًا: إمكانية الوصول إلى إنترنت أكثر أمانًا. يوضح تحليلنا أن هناك عددًا أقل بكثير من التعليقات المهينة والمؤذية على Mastodon¹ مقارنةً بتويتر. ولذلك فمن الممكن أن تقوم شبكات التواصل الاجتماعي بحماية المستخدمين بشكل فعال من الكراهية، وهو ضروري، لأن العنف الرقمي والمعلومات المضللة يساهمان في تقسيم المجتمعات في جميع أنحاء العالم: على سبيل المثال، عندما ينظم المتطرفون اليمينيون هجمات منسقة عبر الإنترنت على المعارضين السياسيين لإسكاتهم. أو عندما تنتشر أيديولوجيات المؤامرة لتقويض الثقة في المؤسسات العامة والسياسة. وتظهر الدراسات الاستقصائية مدى شيوع الكراهية والتحريض على الإنترنت: ففي الاتحاد الأوروبي وحده، تعرض أكثر من 50% من اليافعين للعنف الرقمي. والمنصات؟ ينكرون مسؤوليتهم عن هذا التطور.
العنف الرقمي كنموذج تجاري
الطريقة التي تعمل بها وسائل التواصل الاجتماعي ليست من قوانين الطبيعة. على العكس من ذلك، فهو قرار واعي من جانب المنصات لتصميمها بطريقة معينة. وتقبل العواقب: من خلال خوارزمياتها، تساهم هذه المنصات بشكل كبير في النشر الجماعي للعنف والمعلومات المضللة ــ وهم يعرفون ذلك. منذ حوالي عامين، نشرت صحيفة وول ستريت جورنال ما يسمى بملفات فيسبوك. قام الصحفيون بتحليل المستندات الداخلية وسجلات الدردشة والعروض التقديمية التي تقدمها Meta للعديد من المقالات. وتظهر الوثائق والتصريحات للمبلغة عن المخالفات فرانسيس هاوغين: أن الشركة المالكة لفيسبوك وإنستغرام كانت على علم بالآثار الضارة لخدماتها. وقالت هاوغين إنه تم تضخيم محتوى الكراهية والاستقطاب من أجل زيادة نشاط المستخدم وعائدات الإعلانات. وفي الوقت نفسه، لم يتم فعل الكثير للحد من الأضرار.
غالبًا ما تتخذ المنصات إجراءات تعسفية ضد العنف الرقمي
ونجد أيضًا أن المنصات غالبًا ما تتخذ إجراءات تعسفية ضد العنف الرقمي. إن التعديلات على تصميم المنتج والخوارزميات عادة ما تكون غير شفافة، والسياسات، بمجرد تقديمها، لا يمكن الاعتماد عليها. بعد استحواذ إيلون موسك، على سبيل المثال، تصدرت تويتر عناوين الأخبار بشكل متكرر بقرارات إعادة الحسابات التي تم تعليقها سابقًا وتخفيض عدد الموظفين في فرق الإشراف. وفي الآونة الأخيرة، أدى طرح نموذج الدفع الجديد “Twitter Blue” والقيود المفروضة على القراءة إلى إثارة الاستياء بين المستخدمين. تشير الأبحاث أيضًا إلى زيادة كبيرة في المنشورات المعادية للسامية والعنصرية على المنصة. ونتيجة لذلك، انتقل العديد من المستخدمين إلى شبكات أخرى. واحد منهم هو Mastodon، الذي يتم الترويج له كبديل لتويتر. لكن هل الأمر مختلف حقًا؟
منظمة لا مركزية في Fediverse
Mastodon هي شبكة اجتماعية لامركزية. وهذا يعني أنه، على عكس معظم المنصات الأخرى، لا توجد شركة واحدة كبيرة تقف خلفها. بدلًا من ذلك، ينتمي المستودون إلى ما يسمى بـ “Fediverse”. يتكون هذا من عدد كبير من الخوادم المختلفة – تسمى “المثيلات” على Mastodon – والتي يمكنها التواصل مع بعضها البعض باستخدام بروتوكول مفتوح يسمى “Activity Pub”. كما هو الحال مع البريد الإلكتروني، لا يستخدم الجميع نفس المزود، لكن لا يزال بإمكانهم تبادل الرسائل مع بعضهم البعض. وبالإضافة إلى Mastodon، تشمل الخدمات الأخرى في Fediverse “Pixelfed”، وهي منصة للصور، و”PeerTube”، وهو برنامج لمنصات الفيديو. وبحسب إعلان “Threads”، فإن الشبكة الجديدة من Meta، الشركة التي تقف خلف فيسبوك، ستكون متوافقة أيضًا مع بروتوكول Activity Pub في المستقبل. ومع ذلك، يعد تطبيق Mastodon البديل غير التجاري لتويتر هو التطبيق الأكثر شهرة حاليًا. يظهر تحقيق أجرته صحيفة Süddeutsche Zeitung الألمانية في عام 2022: بعد استحواذ إيلون ماسك على تويتر، شهدت أكبر شركة Mastodon.social، زيادة هائلة في الحسابات.
نسبة أقل من التعليقات المهينة المحتملة على Mastodon
كجزء من تحليل البيانات، ألقينا نظرة فاحصة على ما إذا كان مستوى المحتوى المهين والمحتوى الذي يحض على الكراهية يختلف عن ذلك الموجود على تويتر. وللقيام بذلك، استخدمنا الذكاء الاصطناعي² لتحليل جميع التعليقات باللغة الألمانية المنشورة خلال يوم مختار عشوائيًا³ مما يسمى “الخلاصة الموحدة” على موقع Mastodon.social. ولا يتضمن ذلك جميع التعليقات من تلك الحالة فحسب، بل يتضمن أيضًا المحتوى من الأشخاص الموجودين على خوادم أخرى يتابعها مستخدمو Mastodon.social. لقد نظرنا إلى المشاركات باللغة الألمانية التي تم إنشاؤها في ذلك اليوم، والتي بلغ مجموعها 15.073، وفي نفس الفترة، تم تحليل جميع التغريدات باللغة الألمانية على تويتر والتي يمكن التعرف عليها من خلال قوائم الكلمات، والتي بلغت 390.832 تغريدة⁴. تظهر النتائج أن نسبة التعليقات المهينة المحتملة على Mastodon أقل بكثير من تلك الموجودة على Twitter. وفقًا لمنظمة العفو الدولية، فإن 2.95% من التغريدات التي تم فحصها لديها فرصة تزيد عن 85% لاحتواء لغة مهينة ومؤذية. بالنسبة للتعليقات على Mastodon، فإن الرقم هو 0.44% فقط. وتوصل الذكاء الاصطناعي الثاني⁵ إلى استنتاجات مماثلة.
يُظهر تحليلنا ما يلي: هناك كراهية أقل نسبيًا على Mastodon مقارنةً بـ Twitter
القواعد الخاصة بفضل الهيكل الفيدرالي
بطبيعة الحال، هذا ليس سوى جزء من الصورة. حاليًا، Mastodon مع حوالي 1.3 مليون مستخدم نشط شهريًا هو أصغر بكثير من تويتر. لكن حقيقة أن الشبكة تفعل بعض الأشياء بشكل مختلف تستحق نظرة فاحصة: فهيكلها الفيدرالي يسمح للمستخدمين بنقل حساباتهم إلى مثيل آخر. وهذا أمر مثير للاهتمام بشكل خاص لأن كل حالة يمكن أن تضع قواعدها الخاصة – على سبيل المثال، حول المحتوى المسموح به والمحتوى غير المسموح به. لذا، إذا كنت لا توافق على الإشراف على الخادم الذي تستخدمه حتى الآن – على سبيل المثال، إذا ظل عدد كبير جدًا من التعليقات التي تحض على الكراهية على الإنترنت – فيمكنك الانتقال دون فقدان جهات الاتصال الموجودة لديك.
وظيفة الحجب المؤتمتة جزئيًا
هناك إجراءات وقائية أخرى: تسمح لك معظم الشبكات الاجتماعية بحظر المستخدمين الفرديين يدويًا. ولكن مع النظم البيئية اليمينية واليمين المتطرف التي تضم عشرات الآلاف من الحسابات على منصات مثل تويتر، سرعان ما يصبح هذا عملًا روتينيًا يستغرق وقتًا طويلًا. يتيح لك Mastodon أيضًا حظر الآخرين وكتم صوتهم والإبلاغ عنهم. بالإضافة إلى ذلك، يمكن حظر المثيلات بأكملها وبالتالي آلاف المستخدمين مرة واحدة ببضع نقرات فقط. يمكن للمثيلات أيضًا القيام بذلك فيما بينها (“الانفصال”). على سبيل المثال، قام البعض بحظر جميع الخوادم اليمينية المتطرفة المعروفة في Fediverse لحماية مستخدميها من الهجمات من هذا الطيف. يمكن لمشاريع مثل “FediBlockHole” – وهي أداة تعمل على مزامنة قائمة الحظر الخاصة بك مع قوائم أخرى من مصادر موثوقة – أن تقوم بأتمتة هذه العملية جزئيًا.
نهج شامل للسلامة حسب التصميم
هذه كلها أساليب مثيرة للاهتمام وجديدة. بالإضافة إلى ذلك، هناك ميزات أخرى، بعضها مستخدم بالفعل في شبكات التواصل الاجتماعي المختلفة، والتي يمكن أن يستفيد منها Mastodon. وتشمل هذه:
* القدرة على إخفاء الردود لمنع اختطاف أقسام التعليقات بواسطة المحتوى المتطرف. وذلك لأن المستفيدين من الخدمة المجانية يستمرون في محاولة نشر الكراهية والمعلومات المضللة من خلال التعليق على المنشورات من الحسابات ذات الوصول العالي.
* يمكن الحد من عدد الأشخاص الذين يمكنهم الرد على مشاركة ما. وهذا يمنح المستخدمين المزيد من التحكم في الأشخاص الذين يتفاعلون معهم.
* يجب أن تكون قنوات التقارير شفافة للمستخدمين وأن تكون معايير قرارات الإشراف مرئية. يمكن تشفير الرسائل الخاصة من طرف إلى طرف. حاليًا، لا يتم فصل الرسائل المباشرة بشكل واضح عن المشاركات العامة في واجهة Mastodon. وبدلًا من ذلك، فإنها تظهر كمنشور مرئي فقط للشخص الذي تتم مخاطبته. وينبغي أيضًا فصل هذا في واجهة البرمجة.
* وينبغي استخدام فرق الاعتدال المتنوعة لتحديد التمييز في مرحلة مبكرة ولإدراج وجهات نظر مختلفة.
حتى الآن، لم تقم أي منصة تواصل اجتماعي بتنفيذ هذه التدابير بالكامل – ولا حتى المستودون. وبدلًا من ذلك، تقدم المنصات إجراءات أمنية فردية للمستخدمين والتي يمكن أيضًا إزالتها أو تغييرها بشكل تعسفي في أي وقت. وقد تجلت السرعة التي يمكن أن يحدث بها هذا من خلال استحواذ إيلون ماسك على تويتر، حيث شكك بشكل جذري في التدابير الأمنية الحالية لتويتر، وفي بعض الحالات قام بإزالتها أو تحويلها عن الغرض المقصود منها. وإذا تم تجميع التدابير الحالية على كافة المنصات وتطبيقها بشكل متسق في مجملها، فمن الممكن أن توفر مسودة أولية لمفهوم شامل “للسلامة حسب التصميم” (سلامة المنتج).
السلامة حسب التصميم لشبكة أكثر سلامًا
يُظهر التحليل وإلقاء نظرة فاحصة على Fediverse اللامركزية أن شبكات التواصل الاجتماعي تجعل الأمر سهلًا للغاية على نفسها عندما تقول إن الوضع الحالي على الإنترنت لا يمكن تغييره. نحن نطالب بضرورة تصميم المنصات لتقليل الضرر الناتج على الأفراد وديمقراطيتنا. لشركات التواصل الاجتماعي دور تلعبه هنا، حتى لو كان ذلك يعني التنازل عن الأرباح. السلامة حسب التصميم ممكنة – وضرورية.
الهوامش:
1. معلومات عن “الخلاصة الموحدة” على Mastodon.social
2. تم تحليل البيانات باستخدام لغة البرمجة بايثون. استخدمنا واجهة برمجة التطبيقات Perspective من Google (النتيجة “إهانة”) وأداة الإشراف في OpenAI (الفئة “الكراهية”) لتسجيل التعليقات التي يحتمل أن تكون مهينة وبغيضة. بعد التغييرات التي طرأت على الوصول إلى بيانات تويتر، لا يمكننا حاليًا إجراء مثل هذه التحليلات.
3. 23 مارس 2023
4. لذلك فإن بحث البيانات لا يدعي أنه مطلق. تم تحديد عدد التغريدات باللغة الألمانية لأول مرة باستخدام قوائم الكلمات التي تحتوي على مصطلحات ألمانية شائعة مثل المقالات وحروف الجر. ثم تم فحص التصنيف اللغوي. ومن الممكن أن يكون العدد الإجمالي لجميع التغريدات باللغة الألمانية في ذلك اليوم أعلى.
5. المعلومات الواردة في النص الخاص بواجهة برمجة تطبيقات Google Perspective. الذكاء الاصطناعي الثاني المستخدم هو OpenAI (الاعتدال “الكراهية”) ويصل إلى النتائج التالية: 3.45% من التغريدات التي يحتمل أن تحض على الكراهية على تويتر، و0.6% من التعليقات التي يحتمل أن تحض على الكراهية على Mastodon.
20 تموز/ يوليو 2023
(*) Hate Aid org
