اقدام جدید اینستاگرام برای جلوگیری از زورگویی

این شبکه اجتماعی روز گذشته از ابزارهای ماشین یادگیری جدیدی رونمایی کرده که می توانند به طور فعال عکس ها و کپشن های خشونت آمیز  و زورگویانه رصد کنند.

در حال حاضر اینستاگرام از هوش مصنوعی برای فیلتر کردن کامنت های خلاف راهنمای خود استفاده می کند. اما این اقدام یک گام فراتر است.

به نقل از اینستاگرام این تغییر کمک می کند تا به اندازه کافی آزار و اذیت را شناسایی و حذف کنند. و این یک گام بسیار مهم است؛ چرا که بسیاری از افرادی که در معرض آزار و اذیت قرار می گیرند گزارش نمی دهند. این قابلیت در حمایت از جوانترین اعضای جامعه کمک زیادی خواهد کرد؛ زیرا نوجوانان میزان آزار و اذیت آنلاین را بیشتر از دیگران تجربه می کنند.

این ویژگی تصاویر و کپشن ها را بررسی می کند تا نمونه هایی را که حاوی زورگویی است، رصد کند. به عنوان مثال اگر تصویری از ظاهر یک فرد انتقاد کند یا تهدیدی برای سلامت فردی باشد، الگوریتم آنها را ردیابی می کند. تصویر پس از علامتگذاری برای ممیز انسانی اینستاگرام ارسال می شود تا بررسی های بیشتری انجام شود.

اینستاگرام  می‌گوید ویژگی جدیدش صرفا زیرنویس تصاویر را برای شناسایی زورگویی تحلیل نخواهد کرد؛ بلکه به بررسی خود تصویر نیز میپردازد. 

یکی از سخنگویان اینستاگرام در گفتگو با خبرگزاری ورج با ارائه‌ی مثالی نحوه‌ی کار این ویژگی را توضیح داد. 

این ویژگی تصاویر و کپشن ها را بررسی می کند تا نمونه هایی را که حاوی زورگویی است، رصد کند. به عنوان مثال اگر تصویری از ظاهر یک فرد انتقاد کند یا تهدیدی برای سلامت فردی باشد، الگوریتم آنها را ردیابی می کند. تصویر پس از علامتگذاری برای ممیز انسانی اینستاگرام ارسال می شود تا بررسی های بیشتری انجام شود.

اینستاگرام علاوه‌بر فیلترهای جدید، «افکت مهربانی دوربین» را نیز منتشر می‌کند. به‌نظر می‌رسد این افکت، روشی برای انتشار پیام‌های مثبت به‌عنوان شیوه‌ای برای افزایش تعامل کاربران محسوب می‌شود. در حین استفاده از دوربین اصلی، این افکت‌های صفحه‌نمایش را با پوششی از کامنت‌های محبت‌آمیز به زبان‌های مختلف پر خواهند کرد. کاربر سپس با انتخاب دوربین سلفی، ایموجی‌ها و تشویق‌های مودبانه دریافت خواهد کرد تا «دوستی را که خواهان پشتیبانی او است» در تصویر خود برچسب‌گذاری کند.