إيمان البياري دكتوراه في القانون الخاص

مقدمة:

يعد الحق في التعبير معيار أساسيا من المعايير المحددة لحرية الأفراد وتقدم المجتمعات ونزاهة المؤسسات والمنظمات الحكومية، وقد حرصت المواثيق والاتفاقيات الدولية وكذا مختلف التشريعات الوطنية والدولية على ضمان هذا الحق وتمتع كافة الأفراد به دون ميز أو حيف.

ولا شك أن التطور التكنولوجي قد عزز من ممارسة  حرية التعبير والتواصل فلم يعد التعبير عن الرأي سواء كان ذو طابع سياسي أو اقتصادي أو اجتماعي حكرا على منصات معينة تخضع لرقابة مباشرة من طرف الجهات الحكومية المسؤولة، بل أصبح متاحا للجميع هذه الإتاحة تخلق نوعا من اللامحدودية السلبية في ممارسة الحق، الشيء الذي ينتج عنه قدر هائل من الخروقات والانتهاكات التي لا تتوقف عند حدود المجال الافتراضي بل قد تمس الأمن العام والخاص وسلامة النفس والمال على أرض الواقع…

إن التعبير الرقمي عبر وسائل التواصل الإلكتروني هو شكل من أشكال التعبير التي تضمنها الاتفاقيات والمعاهدات الدولية والنصوص التشريعية والتنظيمية لمختلف بلدان العالم، غير أن الصيغة الرقمية لممارسة هذا الحق تفرز تحديات وإشكاليات من نوع خاص تختلف عن تلك التي يعرفها التعبير عن الرأي من خلال وسائل تقليدية ولعل أبرز هذه التحديات هو تحدي الرقابة على المحتوى الرقمي بما في ذلك تدوينات الرأي سواء كانت عبر حسابات شخصية على مواقع التواصل أو من خلال منصات متخصصة،

الرقابة على المحتوى قد تطال مؤسسات ومنظمات وشخصيات عامة عبر مختلف دول العالم ، ولعل أشهر الأحداث التي عرفتها سنة 2021 بهذا الصدد تعليق حساب الرئيس الأمريكي دونالد ترامب على تويتر وفيسبوك لمدة أسبوعين و 12 ساعة على خلفية اقتحام أنصار دونالد ترامب لمبنى البيت الأبيض يوم 6 يناير 2021، هذا التدخل المباشر والغير مسبوق على مستوى حسابات شخصيات سيادية جعل من النقاش حول مسألة الرقابة على المحتوى الرقمي وحدود الإشراف على حرية التعبير على شبكات التواصل الاجتماعي يطفو مجددا على السطح.

تمارس إدارات مواقع التواصل نوعا من الرقابة الداخلية على المحتوى معتبرة أنها تمارس حقها المنصوص عليه ضمن شروط الانخراط ،  كما تمارس المؤسسات الحكومية رقابة خارجية بهدف تحقيق الأمن الرقمي وحماية المجتمع والأفراد من أي تجاوز، غير أن هذا الإطار العام لممارسة الرقابة بنوعيها لم يوقف النقاش الإشكالي حول مشروعية فرض الرقابة على المحتوى الرقمي، فضلا عن مشروعية الآليات التي تعمل الرقابة من خلالها وما قد ينتج عنها من خروقات حقوقية وقانونية.

المبحث الأول : الرقابة الداخلية على مواقع التواصل الاجتماعي

تعتبر مواقع التواصل الاجتماعي فضاء للتواصل والنقاش الحر، غير أن هذا الفضاء قد يتم إستغلاله في الإضرار بمصالح الأفراد والمؤسسات والمساس بالأمن العام والخاص على حد سواء ما لم توضع له حدود تؤطره وتحترم خصوصيته، وحيث أن هذه المواقع هي مؤسسات خاصة والإستفادة من خدماتها يخضع لشروط يحددها النظام الأساسي لكل موقع على حدى فإن هذه المواقع تحتفظ بأحقية فرض رقابة داخلية على المحتوى المنشور من خلالها، هذه الرقابة التي تمنح إدارة الموقع الحق في حذف المحتوى الغير مرغوب فيه والغير قانوني وفقا لما يتبناه الموقع من سياسة للنشر، فما مدى أهمية الرقابة الداخلية لمواقع التواصل في تحقيق الأمن الرقمي وحفظ الحريات وضمان الحقوق؟ وما مدى مشروعيتها؟ وما هي آليات إشتغالها والتجاوزات التي يمكن أن تنجم عن ممارستها؟

المطلب الأول : أهمية الرقابة الداخلية

يعرف العالم الرقمي تجاوزات وخروقات تعادل تلك المرتكبة خارجه إن لم تكن تفوقها حجما وخطورة، إذ قدرت الخسائر الناجمة عن الجرائم الإلكترونية لسنة 2021 بستة ترليون دولار ويتوقع أن يصل هذا الرقم إلى ما يفوق عشرة ترليون دولار سنة [1]2025، ناهيك عن الأضرار المعنوية الناجمة عن حملات التشهير ومنشورات الكراهية والتحريض على العنف، كما أن التواجد الإفتراضي على مواقع التواصل الإجتماعي يعزز الإحساس بتجاوز القانون وسهولة الإفلات من العقاب، خاصة في ظل إمكانية التخفي خلف هويات مجهولة[2]. الأمر الذي يجعل من الرقابة ضرورة لا غنى عنها  لضمان الأمن الرقمي وإستقرار المعاملات الإلكترونية وحماية الحقوق والمصالح بما لا يتعارض ولاشك مع ضمان الحريات التي يكفلها القانون ويوفرها الفضاء الرقمي.

إن ما يمتاز به العالم الرقمي من سرعة تطور تشمل طرق مبتكرة لتجاوز القانون تجعل من إمكانية مواكبة النصوص القانونية لهذا التطور أمر في غاية الصعوبة، لذلك تتجه أغلب التشريعات المنظمة للمجال الرقمي إلى سن نصوص توجيهية عامة تضمن توفير إطار قانوني عام، مع ذلك فالنص القانوني لا يغني عن وجود أجهزة رقابية تمنع نشر المحتوى الغير قانوني إن أمكن وتحذفه في حال تم نشره سلفا، وإذا كان مفهوم الرقابة غالبا ما يشار إليه كممارسة حكومية لضمان تفعيل النصوص القانونية والحد من الخروقات المرتبطة بها وقد يشار إليه أيضا كشكل من أشكال تعسف الأنظمة الإستبدادية، غير أن الجهات الحكومية لا تكون دائما معنية بممارسة الرقابة، وقد لا تمتلك الاليات المناسبة لممارستها كما هو الشأن في عالم التكنولوجيا الحديثة، فرغم أن الحكومات تسعى باستمرار إلى اقتناء وتطوير برامج وآليات الرقابة الإلكترونية[3] إلا أن كفاءة الرقابة الداخلية التي تمارسها مواقع التواصل نفسها تظل أكبر وأسرع.

الرقابة الإلكترونية بوجه عام ليست بالأمر اليسير، إذ يصل عدد ما يتم نشره على مواقع التواصل الاجتماعي إلى مئات الآلاف من التدوينات والصور ومقاطع الفيديو في الدقيقة الواحدة عبر مختلف دول العالم بمعدل انتشار يصل إلى الملايين من المشاهدات والإعجابات والمشاركات[4]، ضخامة حجم المنشورات المتداولة وسرعة هذا التداول عبر مختلف دول العالم والتي تختلف تشريعاتها وقوانينها من بلد لأخر مقابل آليات الرقابة التي تبقى صعبة التوفر بشكل يتلاءم مع الطبيعة الفورية للنشر على مواقع التواصل وسرعة انتشاره، بحيث يصعب التحكم فيه أو حصر نطاقه، كلها عوامل تفرض توفر جهاز رقابي داخلي يكون له سلطة إستباقية في التعامل مع المنشورات ومنع ما يمكن منعه قبل انتشاره. فإذا كان مفهوم الرقابة على المنشورات المكتوبة والسمعية البصرية يفترض وجود فارق زمني سابق للنشر حتى يتم بذلك منع المحتوى المخل أو المسيء قبل عملية النشر فإن هذا الفارق الزمني يكاد يكون منعدما ومتى ما نشر المحتوى أصبح من الصعب إيقافه وحتى مع حذفه يمكن أن يكون قد تم نسخه بشكل أو بأخر فمسألة الرقابة وآلياتها تحتاج إلى مستوى تقني شديد التطور ودائم المواكبة لمستجدات الاختراق والتسريب والنسخ الغير مشروعة والقرصنة وغيرها، وهو ما تتوفر عليه الرقابة الداخلية لمواقع التواصل الإجتماعي[5].

كما أن ما تمتاز به الرقابة الداخلية هو إمكانية اعتبار مواقع التواصل الاجتماعي طرفا محايدا قادرا على  توفير مستوى رقابي عالي من الكفاءة التقنية والموضوعية، دون توجهات سياسية واقتصادية واجتماعية مسبقة من شأنها أن تكون مدخلا لممارسة الاضطهاد والتعسف ضد حرية الرأي والتعبير.

فأهمية وجود رقابة داخلية على مواقع التواصل الاجتماعي أمر مفروغ منه، إنما الإشكال الأساسي المطروح هو ما مدى مشروعية هذه الرقابة؟ وما مدى تعارضها مع ما تضمنه المواثيق الدولية والنصوص التشريعية من حقوق وما تكفله من حريات؟

المطلب الثاني : مشروعية الرقابة

إن مشروعية ما تفرضه مواقع التواصل الاجتماعي من رقابة على المحتوى هي محل جدال ونقاش واسع، إذ يستند المعارضون لأحقية إدارة مواقع التواصل في مراقبة المحتوى على ما تضمنه النصوص القانونية الدولية والوطنية والمعاهدات والمواثيق الأممية من حفظ للحق في حرية التعبير وفقا لما جاء في المادة 19 من الإعلان العالمي لحقوق الإنسان من أن ” لكل شخص الحق في حرية الرأي والتعبير، ويشمل هذا الحق حريته في اعتناق الآراء دون مضايقة، وفي التماس وتلقي ونقل المعلومات والأفكار من خلال أي وسيلة إعلامية ودونما اعتبار للحدود ” و ما أكدته  المادة 10 من الاتفاقية الأوروبية لحقوق الإنسان حيث جاء فيها أن ” لكل شخص الحق في حرية التعبير ويشمل هذا الحق حرية الرأي وحرية تلقي أو نقل المعلومات أو الأفكار من دون أن يحصل تدخل من السلطات العامة، ودونما اعتبار لحدود…” المبدأ نفسه رسخته التشريعات الدولية والوطنية ومنها التشريع المغربي كحق أساسي من خلال نص الفصل 25 من الدستور المغربي[6]، إضافة إلى أن طبيعة الخدمة التي توفرها مواقع التواصل تتلخص في كونها مجرد وسيط أو قناة إرسال وهو الأساس الذي إعتمده التوجيه الأوروبي  عدد  CE/31/2000 المؤرخ في 8 يونيو 2000  من خلال المادة 14 والتي تحد من مسؤولية المواقع المضيفة والوسيطة عن المحتوى الرقمي الذي ينشر من خلالها، وهو نفس  التوجه الذي اعتمده المشرع الفرنسي  من خلال القانون رقم 575/2004  المؤرخ في 21 يونيو 2004 بشأن الثقة في الاقتصاد الرقمي، بالتالي وحيث أنها لا تسأل عما ينشر من خلالها فلا حق لها في ممارسة الرقابة عليه[7].

إذا كان المعارضون لأحقية إدارة مواقع التواصل الاجتماعي في ممارسة أي نوع من أنواع الرقابة على ما ينشره المنخرطون يحتجون بكون هذه الرقابة من شأنها المساس بجوهر قيم الحرية والاستقلالية المفترضة في عالم الانترنت ويفتح المجال لاستبداد رقمي يضاهي ما يعرفه العالم الواقعي من قمع للحريات خدمة لأجندات سياسية واقتصادية[8]، فإن جانبا كبيرا من الفاعلين في المجال الرقمي يدعون  إلى ضرورة  تعزيز الدور الرقابي لمواقع التواصل أولا لأن سرعة تدخلها تضمن تدارك عددا من المخاطر ثانيا لأن إدارة هذه المواقع هي المؤهلة تعاقديا لمثل هذا التدخل المباشر، فمعلوم أن تطبيقات ومواقع التواصل تشتغل وفق أنظمة أساسية وشروط يعرضها الموقع أو التطبيق على الراغب في الانخراط قبل إتمام عملية إنشاء حسابه الخاص، ولا تتم عملية الانخراط إلا بعد موافقته على كل ما ورد من شروط غير قابلة للتفاوض تحفظ للموقع الحق في مراجعة المحتوى وحذفه أو تعليق الحساب أو حذفه نهائيا في حالات معينة[9].

غير أن المعايير التي تعتمدها هذه المواقع لاعتبار حساب أو محتوى ما مخالفا لسياستها وشروطها وبالتالي اتخاذ إجراء التعليق أو الحذف ليست دائما معلنة، وإن كانت معلنة فهي تعتمد مسميات ومصطلحات فضفاضة قابلة لمختلف التأويلات مما يفتح المجال على مصرعيه أمام حرية إدارة الموقع في التحكم في حسابات منخرطيها بحجة أنهم خالفوا سياسة الموقع وشروطه. لذلك يعمل فيسبوك وخاصة بعد حملات الاتهام التي توجه إليه من حين لأخر على الإعلان عن معاييره الخاصة المعتمدة في التعامل مع المحتويات غير المرغوب فيها وفق أخر الاستراتيجيات والبرامج المستحدثة وكان أول إعلان رسمي من موقع فيسبوك لما يسمى بمعايير المجتمع قد تم في أبريل 2018[10] حيث أعلن عن أربعة معايير أساسية يلتزم بها الفيسبوك وهي:

1. المصداقية
2. الأمان
3. الخصوصية
4. الكرامة

 وهي المعايير التي من خلالها يتم حذف أي منشور يتضمن أي نوع من الخروقات التالية:

• التهديد
• الترويج للإنتحار
• خطاب الكراهية
• الترويج للإرهاب وتهديد أمن المجتمعات والدول
• الترويج للعنف الجنسي والعنف بشكل عام
• الترويج للأسلحة والبضائع الغير القانونية
• العري الصريح
• الإحتيال والتسويق المزعج[11]

فموقع فايسبوك يعتبر أنه مؤسسة لضمان حرية التعبير ما لم تسبب خطرا أو ضررا واضحا[12] ويتعامل موقع فايسبوك بصرامة أكبر كل ما تعلق الأمر بمحتوى يشكل تهديد أو دعوة للعنف ضد السلامة العامة أو الشخصية في حين يتعامل بقدر أقل حزما في ما يتعلق بباقي المعايير[13]، مع ذلك يبقى التساؤل المطروح هو ما المعايير المحددة لاعتبار منشور معين مهددا للأمن العام أو الخاص وما مدى إمكانية اعتبار المنشورات الموجهة بشكل خفي لرأي الجمهور إنتهاكا لهذه المعايير.

وحتى بعد أن أعلن الفايسبوك عن هذه المعايير التي يعتمدها في حذف محتوى معين أو تعليق حساب أو حتى إلغائه، استمر عدد من المنخرطين بالإضافة إلى مؤسسات ومنظمات حقوقية في رفع دعوى القضائية ضده خاصة في الولايات المتحدة الأمريكية، رفضت أغلبها لاستنادها على اعتبار واقعة الحذف أو الإلغاء انتهاكا لما يضمنه الدستور الأمريكي من حماية لحق التعبير[14] ضد أي تدخل حكومي، و أن الشبكات الاجتماعية ولأنها تقدم خدمة عامة فيجب أن يتم اعتبارها جهة فاعلة تابعة للدولة تخضع بالتالي لهذا المقتضى الدستوري لكن القضاء الأمريكي اعتبر أن مجرد توفر خدمات الشبكات الاجتماعية للاستخدام العام لا يكفي لإضفاء صفة الخدمة العامة وبالتالي التبعية لمؤسسات حكومية إضافة إلى أن نشر الأخبار وفتح المجال لنقاشات عامة بين الجمهور لا تعد من الخدمات العامة التي تكفلها الدولة. كما أن قانون آداب الاتصالات الأمريكي لا يحمل المنصات الرقمية المسؤولية عن ما ينشر من خلالها ليس ذريعة لمنعها من ممارسة دور رقابي، فمواقع التواصل الاجتماعي تابعة لشركات خاصة يحق لها فرض قيود على حسابات المنخرطين فيها وما ينشر من خلالها.

هذه الرقابة تتم من خلال آليات تقنية وتنظيمية هي مثار جدل حول فاعليتها في مواجهة المحتوى الغير قانوني حيث يطرح التساؤل عن مدى اعتبار الرقابة الداخلية جهاز رقابي محايد  أو رقابة موجهة لأغراض تجارية وسياسية محضة ؟ وهو الإشكال الذي ينفتح بدوره على إشكالية  طبيعة هذه الآليات ومشروعيتها

المطلب الثالث : آليات الرقابة الداخلية لمواقع التواصل الاجتماعي

حين ظهرت مواقع التواصل الاجتماعي قدمت نفسها على أنها وسيط محايد يضمن التبادل الحر للآراء والمعلومات والأخبار وعدم التدخل في المحتوى الذي ينشره المنخرطون، وكذلك الحماية الكاملة لبياناتهم الشخصية والمهنية كضمانات أساسية تميز عمل هذه المنصات عن غيرها من وسائل الإعلام والاتصال التقليدية، لكن تدخل مواقع التواصل في المحتوى المنشور بدأ في الظهور شيئا فشيئا بشكل بدا مستساغا في بادئ الأمر على اعتبار أنها تتدخل لحماية المنخرطين من أي انتهاك أو تجاوز والتخلص من المحتوى المسيء والغير قانوني فضلا عن أن الاستخدام الغير محمي من طرف مواقع التواصل نفسها يعرض المنخرطين إلى الاختراق وقرصنة البيانات الشخصية، أو في أيسر الأحوال الإغراق بالبريد المزعج وما تضعه مواقع التواصل من شروط تسبق الانخراط يعطيها أحقية ممارسة رقابة نوعية على المحتوى الذي ينشر من خلالها لكن هذه الرقابة تمارس عن طريق اليات معينة، فهي تتم إما عبر مراجعة المحتوى أو عن طريق خوارزميات المراقبة[15].

في بداية الأمر كانت مواقع التواصل الاجتماعي تعتمد بشكل كبير على بلاغات المستخدمين والشكايات التي تتلاقاها عن المحتوى المسيء والغير قانوني، حيث كانت تتوفر على مصالح خاصة عملها الأساسي هو متابعة هذه البلاغات ورصد المحتوى المبلغ عنه ثم تحديد مدى مطابقته للمبادئ التوجيهية والمعايير التي يعتمدها الموقع غير أن هذه الوسيلة مع مرور الوقت أصبحت شبه مستحيلة التطبيق نظرا لعدة عوامل منها ضخامة البيانات حيث فاق عدد المشتركين بمواقع التواصل الاجتماعي الأربعة مليار مشترك[16] شيء الذي يجعل من عملية مراقبة كل ما ينشر مهمة شبه مستحيلة هذا فضلا عن طبيعة هذه الرقابة نفسها وما إذا كانت  تخضع لمنطق يراعي اختلاف اللغات والثقافات، فتطبيق معايير الرقابة على المحتوى اللفظي أو المرئي في ظاهر معناه قد لا يكون دقيقا في كثيرا من الأحيان إذ كثيرا ما يعمد مستخدمو هذه المواقع في منشوراتهم إلى نوع من الخطابات الساخرة التي لا يقصد بها الإساءة كما يوحي بذلك ظاهرها كما أن اختلاف الثقافات واللغات من شأنه أن يحرف المعنى المقصود فيأخذ بما يخالف مقصد صاحبه مما قد يعرض محتواه أو حسابه للحذف بناء على سوء تقدير الجهات المعنية بمراقبة المحتوى[17].

في محاولة للسيطرة على ضخامة المحتوى الرقمي وضمان مستوى رقابة أفضل لم تعد مواقع التواصل تعتمد على بلاغات المنخرطين فقط بل أصبحت تعتمد أيضا على ما يسمى بفرق الحماية من مخاطر الشبكة، إضافة الى الاعتماد على شركات رقابة خاصة تعمل لفائدة مواقع التواصل ولفائدة شركات وعلامات تجارية لحماية هذه العلامات من حملات التشهير والمنشورات المغرضة.

فهذه الآليات المذكورة سابقا سواء كانت الاعتماد على بلاغات المنخرطين أو تعيين أقسام أجهزة داخلية خاص بالمراقبة أو حتى الإستعانة بشركات خاصة جميعها تعتمد على العنصر البشري ورغم وجود ما بين 250 ألف إلى 350 ألف شخص يعملون في مجال الرقابة على المحتوى[18] إلا أن اعتماد هذا النوع من الرقابة على العنصر البشري بشكل أساسي يجعلها أقل كفاءة وسرعة بحيث لا تواكب سرعة انتشار المحتوى الرقمي خاصة مع الزيادة المهولة في عدد المنخرطين لذلك تلجأ مواقع التواصل إلى الاعتماد على الخوارزميات لرصد المحتوى المسيء والغير قانوني والتعامل معه بكفاءة وسرعة أكبر .

بداية الرقابة الآلية كانت بالاعتماد على رصد كلمات ومصطلحات معينة بشكل آلي داخل المحتوى والعمل على حذف المحتوى تلقائيا بناء على وجود هذه المصطلحات وبصرف النظر عن السياق العام أو شمولية المضمون ، هذه المصطلحات غالبا ما قد تحتمل أكثر من معنى ومدلول باختلاف السياق والثقافة واللغة والظرفية إضافة إلى عدم وجود قائمة واضحة ومحددة معتمدة ، ولتجاوز هذا العائق عملت الأجهزة الرقابية على تطوير برامج لغوية للحاسوب أكثر تطورا باعتماد مبادئ البرمجة اللغوية العصبية بحيث يصبح الحاسوب قادرا على فهم المعنى المراد للفظ ما داخل السياق العام للنص، هذا فضلا عن تزويد البرنامج بآلية التعلم الذاتي حيث يجدد البرنامج بياناته بنفسه انطلاقا مما يراكمه من بيانات نتيجة تعامله مع المحتوى الرقمي بصورة تحاكي مقدرة الإنسان على التصنيف والتحليل والرصد حتى يتم بذلك تجاوز تقنية التصفية المعتمدة فقط على قائمة مصطلحات[19]، كما تمتاز هذه البرامج بإمكانيات إستباقية حيث تشتغل في الثواني الفاصلة بين عملية التحرير والنشر لتتدخل بمنع نشر المحتوى الذي تم تحديد أنه مخالف للقانون أو مسيء قبل أن يتم نشره فمن المعلوم أن الرقابة التي تتم بعد نشر المحتوى الرقمي ولو بدقائق فقط هي غير ناجعة مئة بالمئة حيث لا تمنع انتشاره عبر مواقع ومنصات غير خاضعة للرقابة أو بطرق شخصية بين الأفراد لذلك تبقى الرقابة الآلية الأكثر كفاءة ومقدرة على التدخل في الوقت المناسب[20].

وسواء كانت آليات الرقابة التي تعتمدها مواقع التواصل تتم من خلال العنصر البشري أو تتم بشكل آلي فإن ذلك لم ينهي الجدل القائم حول مشروعيتها خاصة في ظل الخروقات التي يتم الكشف عنها من حين لأخر.

المطلب الرابع: خروقات الرقابة الداخلية

إن الرقابة أيا تكن الجهات المسؤولة عنها لم يتم تقريرها بوجه عام بهدف قمع الحريات وانتهاك الخصوصيات، بل على العكس فالرقابة يجب أن يكون لها دور حمائي في حفظ حق التعبير والتواصل وضمان الحيز الكافي من الخصوصية وحماية البيانات والمعطيات الشخصية من أي اعتداء.

خلال السنين الأخيرة وجهت  أصابع الاتهام مرات عديدة إلى شركات ومؤسسات التواصل الاجتماعي وعلى رأسها شركة فيسبوك بجميع منصاتها التواصلية لقمعها لحرية التعبير وانتهاك خصوصية العملاء والمتاجرة ببياناتهم الشخصية لا بلا وتورطها مع جهات حكومية وغير حكومية في قضايا سياسية كبرى تتعلق بقمع الحريات والتجسس وتضليل الرأي العام .

تمارس مواقع التواصل الاجتماعي رقابة مباشرة على المحتوى المعروض من خلالها وتحتج على ذلك بكونها مؤسسات خاصة لها أنظمتها الخاصة التي يوافق عليها المشترك قبل تفعيل اشتراكه فالأمر أشبه برابطة عقدية[21]، لكنها متى ما أرادت التملص من مسؤوليتها عن ما ينشر من خلالها إحتجت بكونها مجرد وسيط ولا تتحمل مسؤولية ما ينشر من خلالها، وعدم وجود نصوص تشريعية واضحة وصريحة تنظم حدود مسؤولية المواقع الإلكترونية ومدى حقها في ممارسة الرقابة على المحتوى وحدود هذه الرقابة يعمق الإشكال القائم أكثر فأكثر هذا فضلا عن عدم إمكانية تكييف عمل مواقع التواصل على أنها خدمة عامة لمجرد توفرها للعموم فهي تحتفظ بصفتها القانونية كمؤسسة خاصة ذات نظام مستقل. كل هذا يتيح مجالا أكبر لارتكاب خروقات وتجاوزات خطيرة من طرف مواقع التواصل ضد عملائها.

من أكثر الملفات الشائكة في ما يخص تجاوزات مواقع التواصل هي ملفات تواطئها مع بعض الدول في إطار صفقات سرية للكشف عن البيانات الشخصية لعملائها و إتاحة إمكانية اختراق المراسلات والتحكم فيها، هذا فضلا عن المتاجرة بالبيانات الشخصية والتي أعتبرت قضية فايسبوك لسنة 2016 أشهر القضايا في هذا المجال[22] .

من بين الاتهامات الموجهة لفايسبوك في ما يخص الرقابة هو أن فايسبوك لا تقوم بما ينبغي القيام به في مراقبة المحتوى الزائف والإشاعات الكاذبة ذلك أن هذا النوع من المنشورات يحقق نسبة مشاهدة تعادل ستة أضعاف غيره[23] ، مما يحقق ولا شك أرباح متزايدة بينما تعمل الشركة على تضييق الخناق وتشديد الرقابة على المحتوى السياسي بالتواطئ مع جهات حكومية، هذا فضلا عن ما تم الكشف عنه مؤخرا من أن فايسبوك تمتلك ما  يسمى بالقائمة البيضاء والتي تضم مشاهير العالم ممن لا تسري عليهم القواعد والمعايير الرقابية للفايسبوك [24]

في محاولة للحد من السلطات الرقابية لمواقع التواصل صادق حاكم ولاية فلوريدا على نص قانون يمنع مواقع التواصل الإجتماعي من حذف بعض المنشورات ذات الطبيعة السياسية للمرشحين، لكن هذا النص تم الطعن فيه أمام القضاء بحجة عدم دستوريته، وعليه تم تجميد نص هذا القانون واعتباره مخالفا لمبادئ الدستور الأمريكي وتراجعا عن المكتسبات والحقوق المكفولة، كما إعتبرت المحكمة أن نص القانون يكتنفه قدر كبير من الغموض والمصطلحات التي يستخدمها تعتبر فضفاضة أكثر من اللازم[25].

المبحث الثاني : الرقابة الخارجية

ترتبط سلطة الرقابة بمن له سلطة إنزال العقاب فلا زجر إلا بتوفر عامل رادع ، لذلك فإن أهمية ممارسة الجهات الحكومية للرقابة على مواقع التواصل هي أهمية بالغة تحقق الغاية من الرقابة ، على أن تتم هاته الرقابة من خلال أليات تضمن سلامة التطبيق من أي خروقات محتملة.

المطلب الأول: أهمية الرقابة الحكومية

مواقع التواصل الاجتماعي لم تعد مجرد مواقع إلكترونية تهدف إلى التواصل أو حتى الترفيه والتسلية، بل أصبحت منصات للتعبير عن الرأي وتوجيهه، فبعد أن ارتفع عدد المستخدمين لهذه المواقع تحول اهتمام المنظمات والمؤسسات المؤثرة الحكومية والغير الحكومية والتي تستهدف استقطاب وتوجيه الرأي العام نحو غاية معينة من وسائل الإعلام التقليدية كالتلفاز والجرائد وغيرها إلى مواقع التواصل حيث وصل عدد المستخدمين النشطين شهريا على الفيسبوك في يونيو 2020 إلى 2.7 مليار مستخدم مما يشكل مجالا خصبا لمختلف الأنشطة على تعدد أهدافها. هذا الاستخدام المتزايد لشبكات التواصل تم استغلاله حيث أصبحت مواقع التواصل أداة لصناعة الرأي وتوجيهه وليس فقط للتعبير عنه[26].

غالبا ما يحيل مفهوم الرقابة على ما تمارسه المنظمات والمؤسسات الحكومية من سلطة تجاه عمل ما بهدفه مطابقته للقوانين والمبادئ العامة الجاري بها العمل، وإذا ما كان الحديث هنا عن حق أساسي من الحقوق التي تكفلها المواثيق والاتفاقيات الدولية وكذا الدساتير والقوانين الوطنية وهو الحق في التعبير، فإن ذلك لا يعني أن ممارسة هذا الحق تقع في دائرة بعيدة المنال عن رقابة مؤسسات وأجهزة الدولة المختصة بذلك ، هاته الرقابة التي تضمن حسن ممارسة هذا الحق في منأى عن أي خرق أو تجاوز من شأنه المساس  بمصالح وحقوق الغير من أفراد ومؤسسات إذ لا يتصور أن تتم الدعوة إلى العنف والتخريب بحجة ممارسة حق يكفله القانون[27].

فالرقابة من حيث المبدأ ضرورة لضمان حسن ممارسة الحق، والمؤسسات الحكومية هي من تملك شرعية ممارسة هذه الرقابة، غير أن الحق الذي نحن بصدد الحديث عنه هنا وهو حق التعبير تضمنه القوانين  ضد كل تدخل، بل إن بعض التشريعات قد نصت على حماية هذا الحق من تدخل  جهات حكومية بنص صريح كما هو حال الدستور الأمريكي في التعديل الأول وغيره من الدساتير والقوانين، مما يفقدها شرعيتها في ظل وجود نص قانوني صريح بهذا الصدد.

إن الوضع في مواقع التواصل الاجتماعي أكثر تعقيدا من غيره في ما يخص الرقابة ليس فقط لارتباط هذه الفضاءات بمستويات عالية من التقنية الحديثة التي تكفل سرعة الانتشار ولا محدوديته وإمكانية إخفاء الهويات الحقيقية لروادها، لكن لأن التواجد الافتراضي يوحي لدى أغلب المتعاملين بأنه تواجد يتجاوز حدود القوانين مما يحفز لديهم بالتالي الرغبة في تجاوز ما قد لا يجرؤون على تجاوزه على أرض الواقع لذلك فإن عدد الخروقات والانتهاكات التي تعرفها مواقع التواصل الاجتماعي تحت مسمى حرية التعبير عدد ضخم ومتزايد باستمرار، وما تمارسه إدارات مواقع التواصل الاجتماعي من رقابة رغم فاعليته خاصة في الجانب التقني، إلا أنه يفتقر لسلطة الردع المستمدة أساسا من القدرة على فرض عقوبات صارمة تتناسب مع حجم الضرر المتسبب فيه، فسلطة الموقع لا تتجاوز في أقصى حد الحق في حذف منشور أو تعليق حساب وهو المطلوب لا زيادة ولا نقصان، على أن تتدخل الجهات التي تمتلك سلطة التجريم والعقاب وقوة الردع ولا يتصور أن تكون هذه الجهات إلا جهات حكومية يفترض فيها الحياد الذي تضمنه نصوص قانونية واضحة تحدد المعايير الأساسية لتدخلها وحدود هذا التدخل[28].

المطلب الثاني: مشروعية الرقابة الحكومية

في سبيل تحديد معايير رقابة الدولة على المحتوى الرقمي من جهة والتحكم في المحتوى الغير مرغوب فيه تسعى عدد من الدول إلى سن تشريعات ونصوص واضحة وصريحة تنهي هذا الجدل الدائم حول مشروعية تدخل الدولة وحدود هذا التدخل، ويعتبر التشريع الألماني الأسبق في هذا الصدد داخل دول الاتحاد الأوربي من خلال إصدار القانون المعروف بقانون NetzDG  والذي وافق عليه البرلمان الألماني بتاريخ 30 يونيو 2017 ودخل حيز التنفيذ بتاريخ 1 يناير2018 [29]

 تفرض المادة الثانية من القسم الثالث الخاص بالتعامل مع الشكايات ضد المحتوى غير القانوني، نمطا محددا للتعامل مع هذه الأخيرة رغم اعتراف المشرع الألماني بمنصات التواصل[30] واعتبارها مؤسسة ذاتية التنظيم وفقا لنص المادة 6 من القسم الثالث إلا أنه ألزمها بمقتضى المادة الأولى من القسم الثاني في حال تلقيها ما يزيد عن  100 شكاية في السنة بشأن المحتوى غير القانوني بتقديم تقارير نصف سنوية باللغة الألمانية حول كيفية تعاملها مع هذه الشكايات، وتنشر هذه التقارير في الجريدة الفيدرالية وعلى الموقع الإلكتروني في أجل لا يتجاوز شهر واحد بعد انتهاء نصف السنة[31].

هذا القانون الذي شكل سابقة من نوعه تعرض لعدة انتقادات من طرف منظمات حقوقية أبرزها منظمة “هيومن رايتس” التي إعتبرت أن مقتضياته تفتح المجال أمام رقابة واسعة النطاق غير قابلة للمساءلة،  كما أن ضخامة الغرامات المقررة كجزاء لأي خرق سيحفز رغبة الشركات في تجنب هذه الغرامات على حساب قمع الحريات من خلال قرارات سريعة قد تختزل المنشور في سياقه اللفظي أو المرئي وتفرغه من محتواه المرتبط بظروف معينة تختلف باختلاف الزمان والمكان دون أي إشراف قضائي أو حق في الطعن[32].

ومما لا شك فيه أن هذه المبادرة التشريعية من طرف ألمانيا ستشجع عددا من دول العالم بصفة عامة ودول الإتحاد الأوروبي بصفة خاصة على سلك نفس النهج التشريعي الرامي إلى تحميل منصات التواصل الرقمي المسؤولية عن ما ينشر من خلالها ويمنحها الأحقية في ممارسة الرقابة المتحكم فيها بنصوص تشريعية.

في فرنسا يحتدم النقاش حول ما مدى فاعلية إسناد مساحة رقابية تنظيمية أكبر لمواقع التواصل الاجتماعي  بالموازاة مع الدور الرقابي لهيئات تابعة للشرطة والقضاء، حيث يرى جانب من الفاعلين في الميدان أن مواقع التواصل تمتلك بالفعل مساحة رقابية أكثر من اللازم وتفرض تعتيما على غيرها من المتدخلين، والأولى أن تعمد النصوص التشريعية إلى تأطير دور مواقع التواصل ومدى تدخلها. من جهة أخرى يرى البعض أن إجبار مواقع التواصل الاجتماعي على التدخل بشكل مباشر لحذف المحتوى الغير قانوني ومن ضمنه الأخبار الكاذبة وتحميلها مسؤولية ذلك تحت طائلة غرامات ضخمة كما هو الحال في ألمانيا والتي فرضت غرامات تصل إلى خمسين مليون أورو على مواقع التواصل في حال عدم حذفها للمحتوى المخالف في أجل قدره 24 ساعة هذا التوجه التشريعي  من شأنه أن يجعل هذه المواقع تنتهج سياسة جد صارمة في مراقبة المحتوى مادام التحقق من صحة المعلومات من عدمها ليس بالأمر السهل وقد لا يكون متاحا دائما من جهة ومن جهة أخرى فإن حذف المحتوى بصرف النظر عن كونه مخالفا أو غير مخالف لا يعرض هذه المواقع لأية مسائلة بينما الإبقاء على محتوى مخالف يعرضها لأداء غرامات مالية. وهو الأمر الذي يشكل انحراف عن المسار الديمقراطي.

إذا كان هذا هو الوضع بالنسبة لأغلب دول الاتحاد الأوروبي حيث تحاول الحكومات فرض سيطرة أكبر على مواقع التواصل الإجتماعي، من خلال إفساح مجال أكبر للرقابة الحكومية (إيطاليا)[33] أو إلزام مواقع التواصل بمقتضيات قانونية صارمة(ألمانيا)، فإن الوضع مختلف نوعا ما بالنسبة للولايات المتحدة الأمريكية حيث تتمتع مواقع التواصل بسلطة رقابية مطلقة إستنادا على المادة 360 من قانون الاتصالات الأمريكي ولا تمارس الحكومة رقابة مباشرة بمقتضى التعديل الدستوري الأول، ورغم وجود العديد من الجهات التي تنادي بضرورة تعديل المادة 360 وإعادة تفسير النص الدستوري بما يتماشى مع واقع الحرية المطلقة التي تتمتع بها مواقع التواصل والتي تؤدي إلى خروقات خطيرة، إلا أن الوضع لازال على حاله.

المطلب الثالث : أليات الرقابة الحكومية

تزايد إقبال الحكومات عبر مختلف دول العالم على تطوير واقتناء برامج  وتقنيات تكنولوجية متطورة متخصصة في مراقبة المحتوى الإلكتروني، في حين كانت هذه التقنيات حكرا على وكالات الاستخبارات العالمية الرئيسية في السابق، فبعد أن أصبح الفضاء الرقمي عالما موازيا للعالم الواقعي وما يرتكب فيه من خروقات وتجاوزات وجرائم لا يقل خطورة عن ما يتم خارجه، أصبح تدخل هيئات الرقابة الحكومية أمرا لابد منه ولا شك أن تحقيق ذلك يفترض التوفر على تقنيات شديدة التطور سريعة المواكبة حتى نكون أمام رقابة ناجعة تحقق الأهداف المتوخاة منها[34].

تمارس الرقابة الحكومية عن طريق آليات تتقاطع في الكثير منها مع اليات الرقابة التي تستخدمها مواقع التواصل، ومنها ما تختص بممارسته الحكومات كالحجب كلي للموقع عبر منع الوصول إليه داخل حدودها الترابية كما هو الحال في الصين وكوريا الشمالية أو حجب جزئي كسياسة رهينة بظرفية أو أحداث معينة، كما تعمد الدول على إختلاف سياساتها وتوجهاتها إلى تعيين هيئات ومراكز متخصصة تعتمد على العنصر البشري والتقنيات الحديثة معا هدفها متابعة المحتوى الرقمي ليس فقط لرصد المحتوى الغير قانوني بل أيضا لمتابعة توجهات الرأي العام وانشغالاته ومنها من تلجأ لإستخدام برامج متخصصة ذات تقنية متطورة تعمل على تجميع البيانات من مواقع التواصل الاجتماعي وتحليلها انطلاقا من المنشورات المؤثرة والتجاوب معها وكذا بتحليل المعطيات والبيانات الخاصة مما يمكن من فهم أراء المواطنين وتوجهاتهم ورصد الجهات الموجهة للرأي العام[35] ، ويتم اللجوء في بعض الحالات الإستثنائية إلى حملات مكثفة من التبليغات ضد المحتوى الغير مرغوب فيه، وهذه الخاصية توفرها مواقع التواصل لعامة الناس وليست موجهة للحكومات لكن هناك إتهامات تشير إلى لجوء بعض الحكومات إلى البلاغات كوسيلة تدخل غير مباشرة.

 في البلدان  الأكثر تشددا والتي تعتمد سياسة الحجب الكلي أو الجزئي كالصين وروسيا تضطر مواقع التواصل إلى تقديم تنازلات قد تكون غير قانونية في ظل صفقات سرية بين الحكومة ومواقع التواصل حيث يمنح الموقع للأجهزة الاستخبارية إمكانية اختراق الرسائل والمحادثات الشخصية لا بلا والتلاعب بها وكذا الاطلاع على بيانات العملاء وإمكانية حذف أو تعليق حسابات معينة، وهو ما يعتبر خرقا سافرا للخصوصية وحرية الرأي والتعبير.

المطلب الرابع : خروقات الرقابة الحكومية

لاشك أن الرقابة الحكومية تقدم ضمانات تحقيق مستوى عالي من الرقابة لارتباطها أساسا بالقدرة على إنزال العقاب وهو الأمر الذي ليس في متناول مواقع التواصل إذ أن أقصى ما تطبقه هذه المواقع هو قرار حذف أو تعليق حساب أو منشور، بينما تتيح الرقابة الحكومية هذه الإمكانية فضلا عن المتابعة القانونية التي من شأنها أن تسفر عن عقوبات حبسية ومالية مما يعزز الدور الردعي للرقابة ويمنحها فاعلية أكبر غير أنها تفتح المجال أمام إنتهاكات وخروقات أكبر من تلك التي يمكن أن تمارسها مواقع التواصل الإجتماعي، نظرا لما تمثله من سلطة[36].

يعتبر الفضاء الرقمي مجالا خصبا للعمل الغير مشروع الذي لا يتوقف عند حدود تهديد سلامة وأمن الأفراد وإنما يهدد استقرار الدول والنظام العام، سواء من خلال نشاط ممنهج لمنظمات إجرامية وإرهابية أو من خلال مبادرات فردية تصب في نفس هذا السياق، إضافة إلى تدخل جهات معينة في الانتخابات وتوجيهها كما حدث في الانتخابات الرئاسية في الولايات المتحدة الأمريكية سنة 2015 حيث تزعم وكالات الاستخبارات الامريكية تدخل نظيرتها الروسية في توجيه الانتخابات الرئاسية عبر اختراق شبكات الاتصال الامريكية عن طريق شراء مساحات إعلانية من طرف شركات وهمية روسية، كما إعتبر الرئيس الفرنسي امانويل ماكرون أن انتشار الاخبار الكاذبة والمضللة عبر شبكات التواصل خلال الحملات الانتخابية تلعب دورا كبيرا في توجيه الرأي العام وتضليله ودعا إلى سن تشريعات رادعة على هذا المستوى[37]، وكانت الشرطة الايطالية قد تدخلت قبل شهرين من الانتخابات بشكل مباشر لمراقبة الاخبار التي يتم تداولها عبر مواقع التواصل تفاديا لأي نوع من أنواع التضليل تحت مسمى مكافحة الأخبار المزيفة، وقد لجئت الحكومة الإيطالية إلى هذا الإجراء على خلفية نتائج استفتاء ديسمبر 2016 لمقترح تعديل الدستور الإيطالي والذي حظي بالرفض من طرف الناخبين خلافا لتوجه البرلمان الإيطالي الأمر الذي لفت انتباه المسؤولين إلى اتساع الهوة بين المواطنين وممثليهم في الهيئات والمؤسسات الحكومية وأوضح بشكل لا يحتمل الشك مدى القدرة الهائلة التي أصبحت مواقع التواصل الاجتماعي تتوفر عليها في تأثير على توجهات وقرارات المواطنين فتم إنشاء آلية رقابية على مواقع التواصل في محاولة لرصد توجهات المواطنين والسيطرة على  التأثيرات الموجهة ، غير أن عمل هذا الجهاز الرقابي المنتمي بشكل مباشر للشرطة الإيطالية قد حظي بمعارضة شديدة في الأوساط الحقوقية والقانونية في إيطاليا ذلك أنه يفتقد للشرعية الدستورية حيث تكفل المادة 21 من الدستور الإيطالي حرية التعبير وفرض رقابة من هذا النوع من شأنها تهديد ممارسة هذا الحق، إضافة إلى أن القانون الإيطالي لا يجرم نشر المعلومات الكاذبة إلا إذا كان نشر هذه المعلومات يؤدي إلى إساءة فعلية كالتشهير أو المساس بسمعة أو كرامة الآخرين، هذا فضلا عن أن قرار إحداث هيئة رقابية تابعة للشرطة لا يجد أساسه القانوني ضمن النصوص التشريعية الإيطالية[38].

إن ما توفره الرقابة الحكومية على المحتوى الرقمي من فرص لقمع الرأي العام والاستبداد سواء في الدول ذات الأنظمة الديمقراطية أو تلك التي تعاني من أنظمة ديكتاتورية هي جد ضخمة، ففي تقرير لفريدم هاوس لسنة 2019 أظهرت أن 47 دولة من أصل 65 تم فيها إعتقال أشخاص على خلفية تعبيرهم عبر وسائل التواصل الاجتماعي عن أرائهم وتوجهاتهم السياسية أو الدينية أو الاجتماعية. إن فرض المزيد من الرقابة الحكومية على مواقع التواصل خاصة في بيئات لا توفر الضمانات الكافية لحقوق الإنسان بوجه عام والحق في التعبير بوجه خاص من شأنه أن يفسح المجال أمام المزيد من التجاوزات والخروقات التي تمارسها الدولة على مواطنيها[39].

وفقا لتقرير المعهد الدولي للناشريين لسنة 2020 فإن إنتهاكات حق التعبير والنشر هي غالبا مرتبطة بما تمارسه الدول من رقابة تتجاوز المبادئ المفترضة، حيث أنه كلما تعلق الأمر بمواضيع لها إرتباط بالسياسة أو الدين أو الميولات الجنسية كلما كانت مساحة تدخل الدولة أكبر بل إن جزء من الرقابة التي تمارسها مواقع التواصل هي مرتبطة بما تفرضه الحكومات من شروط على إدارات المواقع بما يتماشى مع سياسة كل دولة وخصوصية النظام بها ولعل أشهر الأمثلة على ذلك دولة الصين التي تحجب عددا كبيرا من المواقع الإلكترونية داخل حدودها الجغرافيا كموقع Facebook و Instagram و Twitter و Gmail وغيرها [40] والمفاوضات بين الحكومة الصينية  وشركة فايسبوك لا زالت قائمة بهدف إخضاع فايسبوك لشروط الصين ومعاييرها الرقابية.

كما إعتبرت منظمة « freedomhouse »  أن التهديد الذي تواجهه حرية التعبير على الأنترنت يتزايد بشكل كبير نظرا لإقبال الحكومات على تطوير برامج رقابية تمارس من خلالها قمع الحريات وتجرد مواقع التواصل من دورها كفضاء حر ومحايد لتبادل الآراء وتحويله إلى أداة للتجسس والقمع ومنصة لتحقيق المزيد من الطموحات السلطوية للأحزاب الحاكمة، وحددت المنظمة قائمة سوداء للدول الأكثر إنتهاكا لحرية التعبير عبر الانترنت  تتصدرها الصين وتضم أيضا عددا من دول الشرق الأوسط وإفريقيا كما أنها لم تستثني دول الاتحاد الاوروبي والولايات المتحدة بوصفها نماذج لتدخلات تهدف بشكل أو بأخر إلى توجيه الرأي العام[41].

خاتمة

إخترقت التكنولوجيا الحديثة حياتنا حتى أنها أصبحت جزء من اليومي المعاش، وطغت على كافة المجالات الاجتماعية والاقتصادية والسياسية، فكان من البديهي أن تصبح مواقع التواصل الإجتماعي ملاذا يوفر للملايير حرية التواصل والتعبير والنقاش في منأى عما تفرضه وسائل الإعلام التقليدية من قواعد وشروط تشكل عائق أمام أغلب شرائح المجتمع إذ أنها ليست متاحة للعموم بل للنخبة فقط، أما منصات التواصل الاجتماعي فهي صوت من لا صوت له، لكن هذه الاتاحة في وجه العامة والخاصة من أفراد المجتمع على حد سواء لا تمثل فقط الوجه المشرق لهذه المنصات بل أيضا تنطوي هي نفسها على جانب سلبي يتمثل في فتح باب على مصرعيه أمام مختلف الانتهاكات والتجاوزات، مما يستدعي تدخلا رقابيا في صيغة تشاركية تجمع بين مختلف الجهات الفاعلة والمعنية بهذا المجال، على أن يتم تأطيره بنصوص قانونية تكفل الحقوق وتضمن ممارسة الحريات في منأى عن إستغلال مواقع التواصل الاجتماعي و انتهاكات المؤسسات الحكومية.

ولا يفوتنا في هذا المقام الإشارة إلى ما تعرفه المنظومة التشريعية الرقمية في بلادنا من خصاص لابد أن يتم تجاوزه في سبيل تحقيق أمن رقمي يواكب تطلعات المملكة في تحقيق مخططات المغرب الرقمي ورقمنة الحكومة، ولإن كانت المنازعات القضائية في هذا المجال لا تعرف إرتفاعا ملحوظا رغم انتشار  المعاملات الإلكترونية و الإقبال الهائل على مواقع التواصل الإلكترونية فذلك ليس بسبب استقرار المعاملات وانضباطها وعدم وجود خروقات وانتهاكات في العالم الرقمي، بل مرده إلى عدم وجود ثقافة التقاضي في كل ما هو رقمي  لانتشار الاعتقاد بأنه ما من جهة تكفل حقوق المستخدمين للفضاءات الإلكترونية، وهكذا فإن العديد من الحقوق تنتهك وتضيع بسبب غياب الوعي القانوني، لذلك لابد من الحرص على توعية المواطن المغربي بما له من حقوق وما عليه من واجبات في هذا المجال بالموازة مع مواكبة تشريعية ملائمة.

---

[1] . 2021 Must-Know Cyber Attack Statistics and Trends, Embroker set web, 11 August 2021, https://www.embroker.com/blog/cyber-attack-statistics/

[2]  حمدي محمد محمود حسين، المسئولية الجنائية عن إساءة استخدام مواقع التواصل الاجتماعي، دراسة تحليلية ومقارنةـ مجلة العلوم السياسية والقانون، العدد 2، أبريل 2018، المركز الديمقراطي العربي برلين، ص2

[3] Giselle Rampersad, Robert Goodwin, E-Government Readiness Assessment for Government Organizations in Developing Countries, Academia Accelerating the world’s research, Vol. 4, No. 3; May 2011.

[4] Media usage in an online minute 2021, Published by Statista Research Department, Oct 6, 2021, https://www.statista.com/statistics/195140/new-user-generated-content-uploaded-by-users-per-minute/

[5]  طاهر شوقي مؤمن، الرقابة على محتوى الانترنت، موقع المنهل، https://platform.almanhal.com/Files/2/47585

[6]  نص الفصل 25 من الدستور المغربي على أن : “حرية الفكر والرأي والتعبير مكفولة بكل أشكالها ” ونصت المادة الرابعة من ديباجة الدستور الفرنسي على أنه  “تكفل القوانين حق التعبير عن الآراء المختلفة والمشاركة العادلة للأحزاب والجماعات السياسية في الحياة الديمقراطية للأمة”

[7]  محمد ابو الهيجا، علاء الدين فواز الخصاونة، المسؤولية التقصيرية لمزودي خدمات الإنترنت عن المحتوى غير المشروع _دراسة في التوجيه الأوروبي الخاص بالتجارة الإلكترونية لسنة 2000 والقانون الفرنسي، مجلة جامعة الشارقة للعلوم الشرعية والقانونية، 2011، ص6

[8] Mark Andrejevic, Surveillance and Alienation in the Online Economy, Surveillance & Society 8(3), University of Iowa, USA, P 278-287

[9]  لوري أندروز، ترجمة شادي الرواشدة، أعرف من أنت ورأيت ماذا تفعل، العبيكان للنشر الرياض، السعوديةـ طبعة 2012، ص 10

• [10] Jillian C.Yarok, Facebook Releases First-Ever Community Standards Enforcement Report, Electronic Frontier Founation website, MAY 16, 2018, https://www.eff.org/fr/deeplinks/2018/05/facebook-releases-first-ever-community-standards-enforcement-report
• [11] Standards de la communauté, facebook set web, shttps://web.facebook.com/communitystandards/integrity_authenticity?_rdc=1&_rdr
• [12] Transcript of Mark Zuckerberg’s Senate hearing, the Washington post set web, https://www.washingtonpost.com/news/the-switch/wp/2018/04/10/transcript-of-mark-zuckerbergs-senate-hearing/, 10/04/2018.
• [13]. Jeff Horwitz, Facebook Says Its Rules Apply to All. Company Documents Reveal a Secret Elite That’s Exempt, The wall street journal, Sept. 13, 2021

[14]  التعديل الأول للدستور الأمريكي

[15] . Marie-Andrée Weiss, Liberté d’expression sur les réseaux sociaux Regards croisés États-Unis/Europe, Dans Documentaliste-Sciences de l’Information 2014/3 (Vol. 51), page 21

[16] How many people use social media, oberlo set web, https://www.oberlo.com/statistics/how-many-people-use-social-media.

[17]

[18]  تصريح “هيمانشو نيغام”، المسؤول الأمني السابق في موقع “ماي سبيس” ومؤسس شركة “إس إس بي بلو” لاستشارات أمن الإنترنت بلوس أنجلوس، مقال صحفي من تحرير إليزابيث غارون، أشخاص وظيفتهم مراقبة كل ما ننشره على الإنترنت، لموقع الرسمي ل “بي بي سي ” ،

24 ماي 2016، https://www.bbc.com/arabic/business/2016/05/160524_vert_cap_the_people_watching_what_we_post_online

[19] Artificial Intelligence, Content Moderation, and Freedom of Expression, Emma Llansó, Center for Democracy and Technology , Joris van Hoboken, Institute for Information Law, Vrije Universiteit Brussels, Paddy Leerssen, Institute for Information Law, Jaron Harambam, Institute for Information Law, University of Amsterdam

February 26, 2020,p4, https://www.ivir.nl/publicaties/download/AI-Llanso-Van-Hoboken-Feb-2020.pdf

[20] Jennifer Cobbe, Algorithmic Censorship by Social Platforms: Power and Resistance,  Philos. Technol. (2020),  07 October 2020 , https://doi.org/10.1007/s13347-020-00429-0

 [21]  زينة حازم خلف الجبوري، القانون الواجب التطبيق على مسؤولية مزودي خدمة الانترنت، مجلة جامعة تكريت للحقوق، السنة 1 ،المجلد 1 ،العدد 4 ،الجزء.

[22] TechRepublic Staff ,Dan Patterson,Facebook data privacy scandal: A cheat sheet, set web “  techrepublic “ , July 30, 2020, 11:37 AM PST, https://www.techrepublic.com/article/facebook-data-privacy-scandal-a-cheat-sheet/

[23] Elizabeth Dwoskin, Misinformation on Facebook got six times more clicks than factual news during the 2020 election, study says, website “washingtonpost” .September 4, 2021 at 12:01 p.m. EDT, https://www.washingtonpost.com/technology/2021/09/03/facebook-misinformation-nyu-study/

[24] Jeff Horwitz, Facebook Says Its Rules Apply to All. Company Documents Reveal a Secret Elite That’s Exempt,Official Website of the wall street journal, Sept. 13, 2021 10:21 am ET https://translate.google.com/?hl=fr&sl=ar&tl=en&text=%D8%A7%D9%84%D9%85%D9%88%D9%82%D8%B9%20%D8%A7%D9%84%D8%B1%D8%B3%D9%85%D8%B3&op=translate

[25] Jim Saunders, Groups seek quick freeze to Florida’s new social media law, FOX13, https://www.fox13news.com/news/groups-seek-quickfreezeto-floridas-new-social-media-law.

[26] Number of Facebook users worldwide from 2015 to 2020, Published by Statista Research Department, Jan 27, 2021, stewed  “ statista”,  https://www.statista.com/statistics/490424/number-of-worldwide-facebook-users/

[27]   فاطمة الزهراء عبدالفتاح، آليات وضوابط “مراقبة” مواقع التواصل الاجتماعي، الخميس، 23 فبراير 2017، موقع مستقبل للأبحاث والمستقبل، https://futureuae.com/ar/Mainpage/Item/2515

[28] Government Information Quarterly,  From e-government to we-government: Defining a typology for citizen coproduction in the age of social media, University of Maryland, 109 Bent Twig Ln, Gaithersburg, MD 20878, United States, Available online 18 July 2012. Volume 29, Issue 4, October 2012, Pages 446-454

[29] Germany: Flawed Social Media Law _NetzDG is Wrong Response to Online Abuse_ , Human Rights Watch set web,

February 14, 2018 12:01AM EST, https://www.hrw.org/news/2018/02/14/germany-flawed-social-media-law

[30]  يعرف قانون NetzDG  المؤسسات التي يسري عليها نطاق تطبيقه وفقا للمادة الأولى من القسم الأول بأنها المؤسسات المزودة لخدمات الوسائط عن بُعد والقائمة على تشغيل منصات الإنترنت المصممة لتمكين المستخدمين من مشاركة أي محتوى مع مستخدمين آخرين أو إتاحته للجمهور بهدف ربحي.

Article 1

Section 1 Scope

« (1) This Act shall apply to telemedia service providers which, for profit-making purposes, operate internet platforms which are designed to enable users to share any content with other users or to make such content available to the public (social networks)… »

[31] Section 3

(6) An institution shall be recognised as a self-regulation institution within the meaning of this Act if :

1. the independence and expertise of its analysts are ensured,
2. appropriate facilities are in place and prompt analysis within a 7-day period is guaranteed,
3. it has rules of procedure which regulate the scope and structure of the analysis, stipulate the submission requirements of the affiliated social networks, and provide for the possibility to review decisions,
4. a complaints service has been set up, and
5. the institution is funded by several social network providers or establishments, guaranteeing that the appropriate facilities are in place. In addition, the institution must remain open to the admission of further providers, of social networks in particular.

[32] Germany: Flawed Social Media Law NetzDG is Wrong Response to Online Abuse, Official Website  of  Human Rights Watch, February 14, 2018 12:01AM EST , https://www.hrw.org/news/2018/02/14/germany-flawed-social-media-law

[33] لجنة مراقبة مواقع التواصل التابعة للشرطة الإيطاليا،

Rafael Schmuziger Goldzweig , Bruno Lupion, Michael Meyer-Resende, social media monitroring, during elections, cases and best practice to inform, electoral observation missions, foreword by iskra kiriva and susan, editor taylor, Open Society Foundations,2019

[34] فاطمة الزهراء عبد الفتاح، أليات مراقبة مواقع التواصل، مواقع المستقبل والدراسات المتقدمة، 23 فبراير 2017، https://futureuae.com/ar/Mainpage/Item/2515/

[35] Eirini Manga “University of West Attica“, Catherine C Marinagi « Agricultural University of Athens » , Data Mining in Government Social Media, Conference: PCI 2020: 24th Pan-Hellenic Conference on Informatics, November 2020.

[36] Eirini Manga, Catherine C Marinagi, Data Mining in Government Social Media, November 2020,

https://www.researchgate.net/publication/349828975_Data_Mining_in_Government_Social_Media

[37] By Scott Shane, Vindu Goel, Fake Russian Facebook Accounts Bought $100,000 in Political Ads,6 sep 2017 The New York Times official website, https://www.nytimes.com/2017/09/06/technology/facebook-russian-political-ads.html

[38] Anahit Miridjanian, Fake news :  Réseaux sociaux comment réguler sans toujours censurer ?, publié le 22 janvier 2018 à 15h09,  liberation official web site,  https://www.liberation.fr/planete/2018/01/22/reseaux-sociaux-comment-reguler-sans-toujours-censurer_1622027/

[39] FREEDOM ON THE NET 2019, The Crisis of Social Media, Freedom House Set web, https://freedomhouse.org/sites/default/files/201911/11042019_Report_FH_FOTN_2019_final_Public_Download.pdf

[40] Liberté de publier : gouvernements et réseaux sociaux poussent à la censure, site Web actualitte,https://actualitte.com/article/5003/reseaux-sociaux/liberte-de-publier-gouvernements-et-reseaux-sociaux-poussent-a-la-censure,

[41] Freedom on the Net 2021, The Global Drive to Control Big, Official Website  of « Freedom house«, https://freedomhouse.org/report/freedom-net/2021/global-drive-control-big-tech