فيديوهات صادمة بالذكاء الاصطناعى لإساءة معاملة الأطفال تغزو فيس بوك

مع توسع شركة ميتا فى الاعتماد على الذكاء الاصطناعى خلال السنوات الماضية، امتلأت صفحات المستخدمين على فيسبوك وإنستجرام بمحتوى مولد بهذه التقنيات، يتراوح بين المواد التافهة والمحتوى المصمم لجذب أكبر عدد ممكن من المشاهدات والاستفادة من أنظمة تحقيق الدخل، لكن بعض هذا المحتوى وصل إلى مستويات شديدة الفظاعة.

وكشف تحقيق أجرته مؤسسة "فيوتشرزم" عن مئات الحسابات على فيسبوك التى تنشر مقاطع فيديو مولدة بالذكاء الاصطناعى تظهر إساءة معاملة الأطفال بعنف، بينما لا تبدو شركة ميتا مهتمة بالقدر الكافى بإزالتها، وتشمل المقاطع أطفالا رضعا وصغارا يتعرضون للصفع والركل والضرب بأشياء ثقيلة، وسحبهم من شعرهم وحرقهم بالمواقد والمكواة وتقييدهم بالسلاسل وحبسهم فى أقفاص ومجمدات، إلى جانب رميهم من السلالم وتهديدهم بالسكاكين والبنادق وتجويعهم وإجبارهم على تناول طعام الكلاب والقمامة.

مشاهد عنيفة تحصد آلاف التفاعلات

تضمنت بعض المقاطع مشاهد شديدة القسوة، من بينها امرأة تصرخ فى وجه فتاة صغيرة لتتوقف عن البكاء، بينما تقول الفتاة وهى تبكي: "أرجوك لا تضرب نوح، اضربنى أنا بدلا منه"، فى الوقت الذى تظهر فيه جروح وكدمات على خدها وجبهتها وينكمش طفل آخر خوفا، وفى مقطع آخر، يتوسل صبى متسخ إلى امرأة قائلا: "أرجوك يا سيدتى، بضعة دولارات فقط للطعام"، لكنها تصفعه مرتين على وجهه، ليسقط على الأرض وينزف من أنفه، وفقا لموقع futurism.

وتظهر مقاطع أخرى رجلا يقطر الشمع من شمعة مشتعلة على يدى صبى مقيد، بينما يصرخ الطفل: "إنه مؤلم!"، كما تضمنت المقاطع أطفالا يحرمون من أجهزة الاستنشاق، وأطفالا يعانون من الحساسية ويجبرون على تناول المحار، إلى جانب بالغين يسكبون الثعابين والصراصير على أطفال يبكون، وامرأة تلقى بطفل رضيع فى حفرة نار.

وتظهر فيديوهات أخرى أطفالا سود يتعرضون للجلد أو الضرب على أيدى بالغين بيض أثناء قيامهم بأعمال يدوية فى بيئة تشبه أفريقيا خلال الحقبة الاستعمارية، ورغم أن المقاطع لا تبدو واقعية تماما، فإنها مصممة بتقنيات متطورة ومزعجة، وتحصد بعضها آلافا أو عشرات الآلاف من التفاعلات، بينما يبدو أن عددا كبيرا من المعلقين لا يدركون أنها مصطنعة، بل يعبرون عن رعبهم ويطلبون أحيانا استكمال القصة فى مقاطع جديدة.

وكتب أحد المستخدمين تعليقا على مقطع لامرأة تصفع صبيا بحزام على وجهه، تاركة أثرا دمويا حول عينه: "يا لك من مختلة عقليا، لماذا تعتدين على الطفل؟ أنت تستحقين عقابا شديدا"، وفى البداية، اعتقد التحقيق أنه يمكن حصر شبكة الحسابات التى تنشر هذا المحتوى، لكن بعد أيام من مراجعة الحسابات ومقاطع الفيديو، تم العثور على مئات الحسابات، مع استمرار ظهور محتوى جديد بالسرعة نفسها التى يجرى بها اكتشافه.

ميتا تتحدث عن سياساتها

تنص سياسة ميتا المتعلقة بالعنف ضد الأطفال على حظر "مقاطع الفيديو أو الصور التى تصور إساءة معاملة الأطفال، سواء كانت حقيقية أو غير حقيقية، وغير جنسية، بغض النظر عن نية المشاركة"، مع استثناءات تتعلق بالأعمال الفنية والرسوم المتحركة والأفلام وألعاب الفيديو من العالم الحقيقى، لكنها لا توضح صراحة ما إذا كانت هذه الاستثناءات تشمل المحتوى المولد بالذكاء الاصطناعى.

وعندما تواصل التحقيق مع ميتا وقدم لها أمثلة على المقاطع، أصدرت الشركة بيانا مقتضبا قالت فيه: "لدينا قواعد صارمة ضد المحتوى الذى يصور الأذى الجسدى للأطفال، سواء كان حقيقيا أو تم إنشاؤه بواسطة الذكاء الاصطناعى، وقد قمنا بإزالة هذه الفيديوهات"، لكن الشركة واجهت منذ فترة طويلة صعوبات فى السيطرة على المحتوى المثير للقلق على منصاتها.

وفى الأسبوع نفسه، أفادت مجلة "وايرد" بأن ميتا قبلت أموالا من معلنين لعرض مئات الإعلانات الترويجية لتطبيقات "التعري"، تضمنت صورا جنسية لأطفال مولدة بالذكاء الاصطناعى، من بينها صور لأطفال قاصرين حقيقيين جرى سرقتها من مواقع التواصل الاجتماعى ومواقع الصور.

وعند سؤال متحدث باسم ميتا عن إمكانية إزالة محتوى إساءة معاملة الأطفال بشكل استباقى، بعد تقديم أمثلة عديدة، رفض التعليق رسميا، واكتفى بالإشارة إلى صفحة للشركة تتحدث عن جهود إزالة محتوى إساءة معاملة الأطفال تلقائيا، لكن البيانات المنشورة لا توضح عدد مقاطع الفيديو التى تزيلها الشركة، كما لا تحدد ما إذا كانت هذه المقاطع مولدة بالذكاء الاصطناعى أم لا.

اختبار يكشف ضعف الإزالة

قالت ميتا أن أحد أسباب وجود بعض هذه المقاطع هو أن كثيرا منها يبدأ بعنف ضد الأطفال قبل أن يتدخل شخص بالغ لحمايتهم، ويرى التحقيق أن هذا الأسلوب قد يكون حيلة استباقية من منشئى المحتوى للتحايل على محاولات الرقابة، أو استراتيجية لتجاوز ضوابط مولدات الفيديو بالذكاء الاصطناعى، خاصة أن المقاطع المنتجة بكميات كبيرة تتحول أحيانا إلى مشاهد عنف مفرط وغير منطقية بين البالغين.

وحذفت الشركة معظم المقاطع التى أبلغ عنها فريق الإعلام، لكنها أبقت على بعضها، من بينها فيديو لفتاة صغيرة محبوسة فى ثلاجة، وآخر لصبى ملقى فى سلة مهملات وهو يقضم العظام، وثالث لفتاة داخل فصل دراسى تجبر على تناول القمامة.

ولفهم طريقة تعامل ميتا مع هذا المحتوى، أجرى التحقيق اختبارا من خلال الإبلاغ عن 8 حسابات تنشر مقاطع فيديو مولدة بالذكاء الاصطناعى لإساءة معاملة الأطفال، وفى النهاية، لم تزل الشركة سوى حسابين، وفى إحدى الحالتين رفضت البلاغ فى البداية قبل أن تتراجع عن قرارها وتحذف الحساب، كما استغرقت الإجراءات أكثر من أسبوع.

وردت الشركة على أحد البلاغات قائلة: "لقد ألقينا نظرة ووجدنا أن الصفحة لا تتعارض مع معايير مجتمعنا"، أما الحسابات الـ6 التى أبقتها الشركة، فكانت تنشر مقاطع تتضمن طفلا صغيرا يضرب على وجهه بمقلاة، وفتاة تضرب بمضرب بيسبول، وطفلا رضيعا يتعرض للركل، وقرر التحقيق عدم نشر هذه المقاطع فى الوقت الحالى بعد نقاش داخلى معمق.

الذكاء الاصطناعى قادر على رصد المقاطع

يرى التحقيق أنه إذا كانت ميتا جادة فى إزالة محتوى إساءة معاملة الأطفال بشكل استباقى أو اكتشافه عند تحميله، فمن شبه المؤكد أنها تملك القدرة على ذلك، خاصة أن الشركة استثمرت مئات المليارات من الدولارات فى بناء "ذكاء خارق"، كما أفادت تقارير بأنها قدمت عروضا لأفضل المواهب فى صناعة الذكاء الاصطناعى تجاوزت مليار دولار لتوظيف شخص واحد.

وقال مارك زوكربيرج، الرئيس التنفيذى لشركة ميتا، العام الماضي: "من يصل إلى هناك أولا سيحصل على ميزة طويلة الأجل ودائمة نحو بناء أحد أهم المنتجات فى التاريخ"، كما أظهرت اختبارات أولية أن نظام الذكاء الاصطناعى "كلود" التابع لشركة "أنثروبيك" قادر على تقييم ما إذا كانت مقاطع الفيديو تتضمن مشاهد عنف ضد الأطفال.

ويبدو أيضا أن ميتا نفسها تمتلك أنظمة قادرة على تحديد هذا النوع من المقاطع، حتى إذا كانت لا تستخدمها لمراقبة المحتوى على منصاتها بالفاعلية المطلوبة، وتمكن التحقيق من تحديد الغالبية العظمى من الحسابات المروعة بمجرد العثور على أحدها، ثم استخدام ميزة التوصيات فى فيسبوك، التى قدمت تدفقا مستمرا من المواد المماثلة.

وبذلك، تمتلك ميتا موارد ضخمة تمكنها من إزالة مقاطع إساءة معاملة الأطفال أو منع تحميلها من الأساس، لكن التحقيق يشير إلى أنها تتباطأ فى التعامل معها حتى عند إبلاغ الصحفيين أو المستخدمين عنها، وهو نمط سبق أن تعرضت الشركة للانتقاد بسببه.

وبعد عرض هذه النتائج على ميتا، اختفت أخيرا مقاطع الفيديو التى أبلغ عنها فريق الصحافة من فيسبوك، رغم بقاء أعداد هائلة من المقاطع المماثلة على المنصة، وفى بيان ختامى مقتضب، قالت الشركة: "ليست كل الروابط التى أرسلتها تنتهك سياساتنا، هل يمكنك من فضلك تجنب الإيحاء فى تقريرك بأنها تفعل ذلك؟".