عززت إنستغرام قواعدها التي تحظر الصور التي قد تشجع على الانتحار أو إيذاء النفس مضيفة رسوماً ومحتوى خيالياً إلى القائمة.

وقد فرضت هذه الخدمة المخصصة لمشاركة الصور والفيديوهات التابعة لفيسبوك في وقت سابق من هذا العام حظرا على صور الإيذاء الذاتي بعدما أنهت مراهقة بريطانية حياتها إثر دخولها إلى الإنترنت لتقرأ عن الانتحار. وقال آدم موسيري رئيس إنستغرام في منشور على مدونته "لن نسمح بعد الآن بتصوير خيالي للإيذاء الذاتي أو الانتحار على إنستغرام مثل الرسوم ومحتوى الفيديوهات والرسوم الهزلية". كما أنها حظرت الوسوم التي ترتبط بمواضيع تتعلق بإيذاء النفس او الانتحار أيضا. وتهدف هذه الإجراءات إلى جعل هذه الصور أكثر صعوبة للعثور عليها من جانب المراهقين الذين يعانون من الاكتئاب والذين قد تكون لديهم ميول انتحارية. ففي العام 2017، أقدمت الشابة البريطانية مولي راسل على الانتحار بعدما قرأت عن هذا الموضوع على الانترنت، ما أثار جدلا حول فرض رقابة على شبكات التواصل الاجتماعي.

وإثر تلك الحادثة، أعلنت إنستغرام عن تشديد الرقابة المفروضة على صور تروّج لإيذاء النفس. ولحماية مستخدميها من التنمر الإلكتروني والتعليقات المسيئة، طرحت منصة إنستغرام حزمة خصائص جديدة مستعينة بالذكاء الاصطناعي. وتعتمد الخصائص الجديدة على تنبيه المستخدمين بأن تعليقهم يُعتبر مهيناً أو غير لائق قبل نشره، بهدف دفعهم لإعادة التفكير فيما تمت كتابته.

وتعول المنصة المملوكة لفيسبوك بالفعل مند أعوام على الذكاء الاصطناعي لتقصي محاولات التنمر الإلكتروني، أو أي محتوى يهدف لإلحاق الأذى بمستخدميها، سواء كان ذلك من خلال التعليقات أو الصور أو مقاطع الفيديو. وتتيح ميزة جديدة لمستخدمي إنستغرام فرصة التراجع عن وضع تعليق غير لائق، كما تجنب وصول إشعار هذا التعليق للمتلقي. وقد أظهرت الاختبارات أنّ هذه الخاصية قد شجعت بعض الأشخاص على التراجع عن تعليقاتهم المسيئة ومشاركة شيء آخر غير مسيء بمجرد أن أعادوا التفكير في تعليقاتهم.

كما ستبدأ إنستغرام قريباً في اختبار خاصية تقييد التفاعل وذلك لحماية حسابات مستخدميها من التفاعلات غير المرغوب فيها. وبمجرد تقييد المستخدم لتفاعل شخص ما، ستكون تعليقات ذلك الشخص على مشاركاته مرئية لصاحب الحساب فقط.