آزار، اذیت، تهدید، ارعاب، جعل هویت و بی‌احترامی در پلت‌فرم‌های آنلاین به حدی رسیده که بسیاری از دولت‌ها از این پلت‌فرم‌ها خواسته‌اند توانمندی خود را در برخورد با چنین رفتارهایی نشان دهند. اینستاگرام در این میان می‌گوید می‌خواهد با بهره‌گیری از هوش مصنوعی پیش‌تاز باشد و نگرانی‌های فزاینده کاربران را به مدد فن‌آوری‌های پیش‌رفته تشخیص رفتارهای زننده برطرف کند.
ادم موسری، مدیر اینستاگرام در گفت‌وگو با مجله تایم گفته: «ما در یک نقطه عطف تاریخی قرار گرفته‌ایم و می‌خواهیم حرکت دنیای تکنولوژی به سوی برخورد با این رفتارها را رهبری کنیم.» ادم موسری ۳۶ ساله که پس از ترک مدیران پیشین اینستاگرام در اکتبر ۲۰۱۸ جای‌گزین آنان شد، می‌گوید: «ما می‌خواهیم عصری جدید را در اینستاگرام رقم بزنیم که در آن سلامت کاربران مهم‌ترین اولویت است، حتی اگر پی‌آمد آن کمتر شدن تعداد کاربران یا کمتر استفاده شدن اینستاگرام باشد.» او می‌خواهد با در نظر گرفتن ابعاد اذیت و آزار جاری در این پلت‌فرم، همه پروتکل‌های این کمپانی را بازنگری کند.
واقعیت این است که اینستاگرام از محبوب‌ترین اپلیکیشن‌های نوجوانان و بسیاری از کاربران کم‌سن و سال است و شاید به همین خاطر است که اذیت و آزار آنلاین در آن همواره فزاینده است. مجله تایم در گزارشی مبسوط که از ابتکار جدید اینستاگرام نوشته، آورده: «برآوردها نشان می‌دهد ۸۰ درصد نوجوانان در اینستاگرام حضور دارند و بیش از نیمی از آنها تا کنون گونه‌ای از اذیت و آزار یا تهدید و جعل هویت را تجربه کرده‌اند.»
اذیت و آزار و تحقیر و تهدید در اینستاگرام همان‌قدر فراگیر است که «خبرهای جعلی در فیس‌بوک» و «ترول‌ها در توییتر» و مدیران اینستاگرام آگاه‌اند که با هر ویژگی جدیدی که به این اپلیکیشن اضافه می‌کنند، فرصتی جدید برای سوء استفاده هم فراهم می‌شود.
اعمال محدودیت‌های نامحسوس با «ریستریکت»
از نظر فنی، حل معضل فراگیر اذیت و آزار روی پلت‌فرم‌های آنلاین، کاری بس دشوار است. بهره‌گیری از هوش مصنوعی برای مقابله با آن یعنی به ماشین‌ها آموزش دهیم که این معضل چیست؛ معضلی که رو به رشد و تکامل است و ظرایفش همواره پیچیده‌تر می‌شوند.
اینستاگرام با اضافه کردن ویژگی تازه «مقابله با اذیت و آزار» می‌تواند محتوای زننده یا آزاردهنده در قالب کامنت‌ها را پیش از آن‌که منتشر شوند تشخیص دهد و پس از کلیک روی دکمه «ارسال» از کاربر می‌پرسد: «آیا مطمئنی که می‌خواهی این نظر ارسال شود؟» هدف از این اقدام این است که کاربران را به تامل در محتوای پیام یا کامنت ارسالی وادار کنند. این ویژگی از حالا برای کاربران انگلیسی زبان در دسترس است، اما به تدریج برای همه زبان‌ها عرضه خواهد شد.
در کنار این ویژگی جدید، کاربران همچنین می‌توانند از امکان «محدود کردن» (Restrict) نیز بهره بگیرند، به این معنی که شما می‌توانید مشخص کنید کامنت‌های چه کسانی را هرگز نبینید و چه کسانی بتوانند ببینند که شما در اینستاگرام فعال هستید یا نه. اگر کسی را محدود کنید، آن شخص دیگر نمی‌تواند ببیند که کامنت‌ها یا پیام‌هایش را خوانده‌اید یا نه و کامنت‌های زننده آنها فقط برای خودشان به نمایش درخواهد آمد؛ اعمال محدودیت اما به‌صورت نامحسوس و در سایه.
امکان محدود کردن برای این طراحی شده که عموم کاربران جوان اینستاگرام اعلام کرده‌اند از بلاک کردن، آن‌فالو کردن یا گزارش کردن موارد اذیت و آزار می‌پرهیزند، چون از وخیم‌تر شدن اوضاع می‌ترسند. روزنامه بریتانیایی گاردین گزارش داده که بنا بر تحقیق‌های انجام شده ۵۹ درصد نوجوانان آمریکایی گونه‌ای از آزار و اذیت آنلاین را تجربه کرده‌اند. در بریتانیا این رقم برای کاربران ۱۲ تا ۲۰ ساله حدود ۴۲ درصد است. پژوهش‌ها نشان می‌دهند که روند اذیت و آزار روندی فزاینده و رو به رشد است.
الگوریتم علیه محتوای مسموم
از زمانی که تعداد کاربران اینستاگرام از مرز یک میلیارد نفر هم گذشته، طبعا وظیفه نظارت بر محتوا برای ریشه‌کن کردن محتوای مسموم، از پروپاگاندای تروریستی گرفته تا پورنوگرافی کودکان، بیش از انسان‌ها بر عهده الگوریتم‌ها قرار گرفته است.
بنیان‌گذاران اینستاگرام برای تبدیل آن به محیطی امن‌تر و مهربانانه‌تر، الگوریتم هوش مصنوعی موسوم به «دیپ‌تکست» (Deep Text) را از فیس‌بوک وام گرفته‌اند که برای درک و تفسیر ادبیات به‌کارگرفته‌شده از سوی کاربران طراحی شده است. در سال ۲۰۱۶ از آن برای مقابله با اسپم‌ها استفاده می‌شد، یک سال بعد این الگوریتم می‌توانست محتوای نژادپرستانه را هم تشخیص دهد و در اواسط ۲۰۱۸ از آن برای تشخیص اذیت و آزار در کامنت‌ها هم بهره گرفتند.
حالا با آمدن ادم موسری، آنها می‌خواهند قابلیت تشخیص اذیت و آزار در عکس‌ها و ویدئوها را هم به این الگوریتم اضافه کنند و این یعنی هوش مصنوعی بتواند همه عناصر یک پست را بررسی کند. با این همه، این تازه ابتدای راه است و این الگوریتم‌ها برای تکامل راهی دراز در پیش دارند.
یواو شاپیرا، سرپرست تیم مهندسانی که مسئولیت مقابله با اذیت و آزار در اینستاگرام را برعهده دارند، محتوای مسموم را به ۷ دسته تقسیم می‌کند: «توهین، تحقیر، تهدید، جعل هویت، بی‌احترامی، تماس ناخواسته و خیانت» و می‌گوید هدف نهایی این است که الگوریتم هوش مصنوعی ما بتواند هر یک از این مفاهیم را جدا تشخیص دهد و راه انتشارش را سد کند.
