التزييف العميق والعنف الرقمي: مواجهة تهديدات العنف القائم على النوع الاجتماعي في العصر الرقمي
تقرير WITNESS المقدم إلى اللجنة الاستشارية لمجلس حقوق الإنسان بشأن قضية العنف القائم على النوع الاجتماعي الذي تيسره التكنولوجيا
وبينما نحتفل بإنجازات المرأة على مستوى العالم في اليوم العالمي للمرأة، يجب علينا أيضًا أن نعترف بالتهديدات الرقمية المستمرة التي تستهدفهن بشكل غير متناسب. من الصور الحميمية بدون موافقتهن وإساءة استخدام التزييف العميق إلى المضايقات المضخمة خوارزميًا، يهدد العنف القائم على النوع الاجتماعي الذي تيسره التكنولوجيا المساواة بين الجنسين، وحرية التعبير، والسلامة الشخصية.
ولمعالجة المشكلة الملحة المتمثلة في العنف القائم على النوع الاجتماعي، قامت منظمة WITNESS التوصيات المقدمة إلى اللجنة الاستشارية لمجلس حقوق الإنسان التابع للأمم المتحدة كجزء من دراستها حول العنف القائم على أساس النوع الاجتماعي. يسلط تقريرنا الضوء على الثغرات الموجودة في الإطار الدولي الحالي لحقوق الإنسان ويقدم استراتيجيات ملموسة لتعزيز الاستجابات العالمية للعنف الرقمي القائم على النوع الاجتماعي بناءً على سنوات من العمل في مجال التكنولوجيا ومع المجتمعات الضعيفة على مستوى العالم.
منذ عام 2018، أجرت منظمة WITNESS مشاورات عالمية شخصية مع الصحفيين والتكنولوجيين وقادة المجتمع وغيرهم من الجهات الفاعلة في مجال حقوق الإنسان. خلال هذه المحادثات، تم تحديد العنف الجنسي والعنف القائم على نوع الجنس (SGBV) الناجم عن الذكاء الاصطناعي باعتباره أحد التهديدات الأكثر إلحاحًا في جميع المناطق، بما في ذلك جنوب شرق آسيا, أفريقيا, أمريكا اللاتينية، و البرازيل. إن إساءة استخدام الذكاء الاصطناعي التوليدي (AI) لإنشاء محتوى جنسي عميق غير موافق عليه للمواطنين العاديين أصبح حقيقة واقعة بالفعل. فيديوهات مزيفة تصور القيادات النسائية والناشطات في مواقف كاذبة أو مساومة يمكن استخدامها لتشويه سلطتهم، وتقويض نفوذهم، وتقويض ثقة الجمهور، والتسبب في الأذى الجسدي. يمكن أن يكون لهذا تأثير تقشعر له الأبدان ومنع النساء عن المشاركة في المجالات السياسية والاجتماعية والاقتصادية، وبالتالي تعزيز عدم المساواة بين الجنسين.
العنف القائم على النوع الاجتماعي بواسطة الذكاء الاصطناعي
سنوات من الشهود برنامج التهديدات والفرص التكنولوجية (TTO). يسلط الضوء على كيفية استخدام الذكاء الاصطناعي، وخاصة الذكاء الاصطناعي التوليدي وتكنولوجيا التزييف العميق، كسلاح لإسكات المجتمعات الضعيفة وتشويه سمعتها. منذ عام 2018، قادت WITNESS الاستعداد، لا داعي للذعر، وهي أول مبادرة يقودها المجتمع المدني لمعالجة تهديدات الوسائط الاصطناعية على النظام البيئي للمعلومات. وكجزء من هذا العمل، أجرت WITNESS عملاً مكثفًا بشأن تقييمات المخاطر والأضرار معايير المصدر والأصالة، إلى جانب الدعوة إلى أدوات كشف عادلة وفعالة. لقد كشفت خبرتنا عن القيود الكبيرة التي تواجهها هذه التقنيات في الاستجابة للعنف القائم على الإرهاب والعنف القائم على النوع الاجتماعي.
منذ عام 2023، قدمت WITNESS قوة الاستجابة السريعة للتزييف العميق كما قدمت أيضًا تحليلاً فوريًا للتزييف العميق في سياقات الانتخابات والصراعات على مستوى العالم، مع تسليط الضوء على تأثير الأكاذيب التي يولدها الذكاء الاصطناعي على النظام البيئي للمعلومات والديمقراطية وحقوق الإنسان. تترجم الدروس المستفادة من مباشرة إلى التحديات التي نواجهها عند التعامل مع المحتوى الجنسي العميق المزيف والذي يستخدم بشكل متزايد كأداة للترهيب والابتزاز والتضليل. وهذا له آثار خطيرة على الديمقراطية وحرية التعبير والسلامة الشخصية للنساء والأقليات الجنسية:
- يتم استهداف النساء في السياسة والإعلام بشكل كبير من خلال المعلومات المضللة التي ينتجها الذكاء الاصطناعي والمضايقات عبر الإنترنت، مما قد يثنيهن عن المشاركة في الحياة العامة.
- يعمل الذكاء الاصطناعي على تضخيم مخاطر المعلومات الخاطئة/المضللة وأنماط الانتهاكات التي تؤثر بشكل غير متناسب على الفئات الضعيفة بالفعل، بما في ذلك النساء ذوات البشرة الملونة، والنساء ذوات الإعاقة، والنساء المهاجرات، ونساء السكان الأصليين، والأقليات الجنسية، ومجتمع LGBTQ + الأوسع.
- ولا تزال أدوات الكشف الحالية عن طريق الذكاء الاصطناعي غير كافية، وخاصة بالنسبة للغات غير الإنجليزية والمجتمعات منخفضة الموارد، مما يجعل العدالة غير متاحة للعديد من الناجين. وفي كثير من الحالات، سواء تم إنشاء المحتوى بواسطة الذكاء الاصطناعي أو تم التلاعب به، فإن ذلك لا يغير الضرر الواقع، إذ إن الضرر الذي لحق بالسمعة والمصداقية والسلامة والأمن الشخصي قد حدث بالفعل، مع عدم توفر سبل كافية للمتضررين.
الثغرات في الأطر الدولية لحقوق الإنسان
على الرغم من الانتشار المتزايد للعنف القائم على العنف القائم على النوع الاجتماعي، فإن الأطر الحالية غير مجهزة للتصدي للتهديدات الرقمية الناشئة، مما يترك للناجين سبل قانونية محدودة. وتشمل أوجه القصور الرئيسية ما يلي:
- في حين أن المعاهدات الدولية لحقوق الإنسان تتناول العنف القائم على النوع الاجتماعي على نطاق واسع، فإنها تفشل في مراعاة الأبعاد الرقمية للانتهاكات، بما في ذلك التهديدات التي يحركها الذكاء الاصطناعي، والأثر غير المتناسب للعنف القائم على النوع الاجتماعي على الفئات المهمشة.
- هناك نقص في المعايير والآليات العالمية القابلة للتنفيذ لمساءلة شركات وسائل التواصل الاجتماعي ومطوري الذكاء الاصطناعي في الاستجابة للعنف القائم على النوع الاجتماعي.
- إن الطبيعة العابرة للحدود للإساءة عبر الإنترنت تؤدي إلى تعقيد التنفيذ القانوني وحماية الناجين، مما يتطلب تعاونا دوليا أقوى.
تعزيز الحماية
في تقريرنا، تدعو WITNESS إلى إجراء إصلاحات عاجلة لضمان عدم استخدام المساحات الرقمية كسلاح ضد المجتمعات المهمشة. تشمل توصياتنا الرئيسية ما يلي:
- إنشاء آليات والتزامات دولية مع الشركات التي تساعد في معالجة وضمان المساءلة عن إساءة استخدام المحتوى الناتج عن الذكاء الاصطناعي بغرض إنشاء ونشر صور حميمة غير توافقية.
- ضمان الوصول العادل إلى حلول الكشف وتعزيز المساءلة لمنصات التكنولوجيا ومنشئي التطبيقات ومتاجر التطبيقات.
- إنشاء سياسات تتمحور حول الناجين وتوفر إمكانية التشغيل البيني والإزالة السريعة للمحتوى الضار وسبل اللجوء القانوني التي يمكن الوصول إليها.
- تزويد الناشطين والصحفيين ومنظمات المجتمع المدني بالأدوات والمعرفة اللازمة للتعامل مع العنف القائم على النوع الاجتماعي ومواجهته.
- تنفيذ لوائح عالمية ملزمة تتطلب الشفافية في آليات الإزالة وممارسات تطوير الذكاء الاصطناعي من قبل شركات التكنولوجيا.
وبينما تواصل ويتنس العمل مع الأمم المتحدة والهيئات الدولية الأخرى، فإننا نؤكد على الحاجة الملحة إلى حماية عالمية أقوى ضد العنف القائم على النوع الاجتماعي. وفي يوم المرأة العالمي هذا، ندعو الحكومات وشركات التكنولوجيا والمجتمع المدني إلى اتخاذ إجراءات هادفة لتفكيك الهياكل التي تمكن العنف الرقمي.
نشر في 6 مارس 2025