ترصد الأداة المدعومة بالذكاء الاصطناعي على مراقبة انتشار خطاب الكراهية والعنف باللغتين العبرية والعربية في السياق الفلسطيني.
نشر أولًا على حملة – المركز العربي لتطوير الإعلام الاجتماعي.
أطلق حملة – المركز العربي لتطوير الإعلام الاجتماعي “مؤشر العنف باللغة العربية”، وهو نموذج لغوي يقوم على تكنولوجيا الذكاء الاصطناعي، من أجل رصد انتشار خطابات الكراهية والعنف على منصات التواصل الاجتماعي باللغة العربية بشكل آلي وفوري، وعرضها على منصة الإبلاغ “حُر- المرصد الفلسطيني لانتهاكات الحقوق الرقمية”، يأتي ذلك كخطوة مهمة لمحاربة المحتوى العنيف وحماية المستخدمين من التهديدات عبر الإنترنت، وتأتي هذه الأداة الجديدة بعد النجاح الذي حققه مؤشر العنف للمحتوى العبري في تشرين الثاني 2023.
قام مركز حملة بتطوير مصنفات لغوية مدعومة بالذكاء الاصطناعي لرصد انتشار خطاب الكراهية والعنف باللغتين العبرية والعربية في السياق الفلسطيني. يوفر مؤشر العنف باللغة العربية الجديد بيانات إحصائية في الوقت الفعلي حول مدى الوصول إلى المحتوى الضار وتوزيعه والتفاعل معه.
يرصد مؤشر العنف باللغة العربية المحتوى العنيف وخطاب الكراهية على منصات التواصل الاجتماعي بين الفلسطينيين/ات، ويقيّم عوامل مثل الجندر والخلفية السياسية والدينية والمزيد. لا تقتصر هذه الأداة على رصد المحتوى الضار فقط، بل تحلل أيضًا توزيعه ومشاركته، مما يساعدنا على فهم تأثيره والحد من انتشاره.
يساعد مؤشر العنف الباحثين/ات وصناع/صانعات القرار والمدافعين/ات عن حقوق الإنسان والناشطين/ات والإعلاميين/ات والمنظمات على فهم مدى التهديدات والعنف عبر الإنترنت، فهو يمكّنهم من دراسة هذه الظواهر بشكل معمّق وتصميم تدخلات فعّالة لمكافحة هذا المحتوى الضار.
“تمثل النسخة العربية من مؤشر العنف قفزة كبيرة في جهود مركز حملة لمكافحة المحتوى العنيف والتهديدات عبر الإنترنت داخل المجتمع الفلسطيني. ستساعدنا هذه الأداة على فهم مدى انتشار هذا المحتوى وتقديم صورة أوضح عن تعقيداته وتهديداته المحتملة، لا سيما للمستخدمين النشطين على الإنترنت وعلاقة الهجمات الرقمية بالتهديدات على أرض الواقع.” قال أحمد قاضي، مدير الرصد والتوثيق في مركز حملة، وأضاف: “ستعمل هذه الخطوة الإستراتيجية على تعزيز جهودنا في المناصرة من أجل تغيير سياسات الشركات على نحوٍ عادل وحُر، وحماية المستخدمين، وتوفير بيانات قيمة لأصحاب المصلحة لتصميم تدخلات أكثر فعالية لحماية الأشخاص على الإنترنت.”
منذ كانون الثاني 2024، رصد مؤشر العنف العربي حوالي من 261 ألف محتوى عنيف باللغة العربية بأثرٍ رجعي. رُصد القسم الأكبر من المحتوى على منصة فيسبوك (88.6%)، وX (تويتر سابقًا) تمثل 6.4% وتيليجرام 5% من مجمل المحتوى العنيف الذي تم رصده. وتشير البيانات إلى أنّ حوالي 48.6% من المحتوى العنيف يقوم على خلفية النوع الاجتماعي (الجندر) والأدوار الاجتماعية للنساء والرجال.
