كتبت رفيدة عادل همام:
عاصفة من الشكاوى بسبب المحتوى العنيف
في واقعة أثارت غضبًا واسعًا بين مستخدمي إنستجرام، اجتاحت منصة Reels موجة من المحتوى العنيف والصادم، حتى مع تفعيل أقصى مستويات “التحكم في المحتوى الحساس”. مستخدمون كثر أبلغوا عن تعرضهم لمشاهد غير لائقة، ما دفع شركة “ميتا” المالكة لإنستجرام إلى إصدار بيان رسمي تعتذر فيه عن الحادثة، مؤكدةً أنها أصلحت الخلل الذي تسبب في هذا الخرق غير المقصود لسياساتها.
“ميتا” تعتذر: خلل تقني أم مشكلة أعمق؟
في تصريح نشرته شبكة CNBC، قال متحدث باسم “ميتا”: “لقد أصلحنا خطأً تسبب في ظهور محتوى غير ملائم على إنستجرام Reels. نحن نعتذر عن هذا الخطأ.”. ورغم هذا الاعتذار، لا يزال هناك جدل حول مدى قدرة أنظمة ميتا على التعامل بكفاءة مع المحتوى العنيف، وما إذا كان هذا الخطأ مجرد عثرة تقنية أم مؤشرًا على ثغرات أعمق في آليات الرقابة والتصفية.
ثغرات الذكاء الاصطناعي في إدارة المحتوى
تعتمد ميتا بشكل رئيسي على الذكاء الاصطناعي في تصفية المحتوى، إلا أن هذه الخوارزميات لا تزال تعاني من مشكلات في التمييز بين المواد المقبولة وغير المقبولة، لا سيما عندما يكون للمحتوى طابع توعوي أو إخباري.
فبينما تفرض الشركة قيودًا صارمة على المحتوى العنيف، إلا أنها تتيح استثناءات لبعض المنشورات التي تهدف إلى رفع الوعي بشأن قضايا إنسانية، مثل انتهاكات حقوق الإنسان أو النزاعات المسلحة، مع وضع تحذيرات عليها.
لكن الحادثة الأخيرة كشفت خللًا في هذه المنظومة، حيث وُجد أن بعض المحتويات لم تخضع للتحذير المناسب أو ظهرت لمستخدمين لم يبدوا اهتمامًا بهذا النوع من المنشورات.
تحقيقات إعلامية تؤكد انتشار المحتوى العنيف
لم تقتصر الشكاوى على المستخدمين فقط، بل دفعت الحادثة وسائل الإعلام للتحقق من الأمر. فقد أجرت شبكة CNBC تحقيقًا مساء الأربعاء (بتوقيت الولايات المتحدة) ووجدت بالفعل مقاطع فيديو تحتوي على مشاهد عنيفة وإصابات خطيرة داخل منصة Reels، رغم تصنيفها ضمن “المحتوى الحساس”، مما يثير تساؤلات حول فاعلية أنظمة الرقابة الآلية لميتا.
ردود فعل غاضبة: هل يكفي الاعتذار؟
تفاعل المستخدمون مع هذه الواقعة بغضب شديد، حيث طالب كثيرون ميتا بتوضيحات أعمق حول كيفية حدوث هذا الخطأ، وما هي التدابير التي سيتم اتخاذها لمنع تكراره. من جهتها، حذر خبراء الأمن الرقمي من أن تكرار مثل هذه الأخطاء قد يضر بثقة المستخدمين في قدرة ميتا على إدارة المحتوى، خاصةً في ظل الانتقادات المستمرة لسياستها فيما يتعلق بالخصوصية وحماية المستخدمين من المحتوى الضار.
ورغم إعلان ميتا عن إصلاح الخلل، يبقى السؤال الأهم: هل يمكن لمجرد اعتذار أن يطمئن المستخدمين؟ وكيف ستضمن الشركة عدم تكرار هذه المشكلات مستقبلًا؟ الأيام المقبلة قد تكشف المزيد حول مدى جدية ميتا في تحسين أدوات الرقابة على محتواها.
