این روزها رسانه‌های اجتماعی پر شده از تصاویری از چهره‌هایی پیرتر یا جوانتر. این تصاویر توسط اپلیکیشنی به نام فیس اپ ساخته شده‌اند. اپلیکیشنی که با استفاده از فیلترهای گوناگون ظاهر فیزیکی را تغییر می‌دهد. فیس اپ (FaceApp) یک برنامه تلفن همراه برای آی او اس و اندروید است که توسط شرکت وایرلس لبز روسیه ساخته شده است. این برنامه با استفاده از هوش مصنوعی برای ایجاد تغییرات بسیار واقعی از چهره انسان در عکس طراحی شده است. فیس اپ در سال ۲۰۱۷ ابداع شد و در مدتی کوتاه طرفداران زیادی یافته است. اما این اپلیکیشن موجب بروز نگرانی‌های فراوانی در میان کارشناسان شده است. به گفته‌ی کارشناسان این نرم افزار تلفن همراه دارای قابلیت دسترسی دائمی به عکس‌های افرادی است که از آن استفاده می‌کنند. « کارشناسان هشدار داده‌اند احتمالاً این اپلیکیشن اطلاعات کاربران را در اختیار توسعه دهندگان روسی خود قرار می‌دهد».
این اپلیکیشن در کنار خنداندن طرفدارانش با ارائه تصویری از آینده آنها، انتقاد افراد زیادی از جمله مردم رنگین پوست و زنان را برانگیخته است.
در سال ۲۰۱۷، برنامه فیس اپ دارای ویژگی «hot» به معنای داغ بود که ظاهرا کاربران آن را با استفاده از فیلترهای خاص جذاب‌تر نشان می‌داد اما چندی بعد، این نرم افزار جنجالی به دلیل روشن‌تر کردن رنگ چهره افراد سیاه پوست و اروپایی جلوه دادن آنها به نژادپرستی متهم شد که البته مدتی بعد این ویژگی پس از تغییر نام به «spark» به معنای جرقه از لیست ویژگی‌های این نرم افزار حذف شد. یاروسلاو گونچاروف، بنیانگذار و مدیر اجرایی فیس اپ، این وضعیت را «یک اثر جانبی ناگوار شبکه عصبی ناشی از تعصب و جانبداری آموزشی و وضعیتی پیش بینی نشده» توصیف کرد.
چند ماه بعد در ماه اوت ۲۰۱۷، اپلیکیشن فیس اپ بار دیگر با انتقاد از فیلترهای قومی که سیاه، سفید، آسیایی و بومی را نشان می‌داد، با انتقاد شدید مواجه شد و این فیلترها بلافاصله از برنامه حذف شدند.
فعالان حوزه زنان از دیگر منتقدان این اپلیکیشن هستند و بر این باورند که فیس اپ نرم افزاری سکسیت است که برای زشت‌تر و چروکیده‌تر نشان دادن کاربران زن این برنامه، نسبت به کاربران مرد طراحی شده است.
یکی از کاربران این نرم افزار می‌گوید: «پس از مشاهدات دقیق و بحث با دوستان، نتیجه گرفتم که FaceApp به شدت بر نشان دادن مردان به عنوان افراد جذاب‌تر و خوشتیپ سعی دارد در حالی که زنان را چون جادوگرانی پیر نشان می‌دهد! عجب نرم افزار سکسیستی».
دیگری می‌گوید: «چرا فیس اپ با تمام مردان مهربان است درحالی‌که تمامی زنان را بیمارانی نحیف جلوه می‌دهد؟ بسیار سکسیست».
تحقیقات نشان می‌دهد که یکی از نتایج مخرب استفاده از این اپلیکیشن، روی آوردن مردم به جراحی پلاستیک و بوتاکس است. دکتر رکا تیلور متخصص زیبایی و مدیر پزشکی و موسس (بهداشت و زیبایی گرایی) به ایندیپندنت می‌گوید: «من شاهد افزایش بیمارانی هستم که بخاطر استفاده از این نرم افزار به دنبال بوتاکس هستند و سن این افراد به طور قابل توجهی در حال کاهش است».
به گزارش تلگراف، بسیاری از زنان از اندازه تئوریک بینی آینده خود شکایت دارند. یکی از این زنان می‌گوید: «من روشی که فیس اپ برای بزرگ نشان دادن بینی من در زمان پیری استفاده می‌کند را تحسین نمی‌کنم».
برخی از منتقدان معتقدند که احتمالا زشت و بی روح جلوه دادن کاربران زن نسبت به مردان توسط فیس اپ از پیش اندیشیده و عمدی نباشد و شاید حاصل خطای الگوریتم‌های استفاده شده در تکنولوژی باشد. اما حتی اگر این امری پیش اندیشیده نباشد، وظیفه‌ی کمپانی تولید کننده‌ی این اپلیکیشن در رفع نابرابری‌های شکل گرفته از طریق نرم افزار فیس اپ چیست؟
تکنولوژی می‌تواند به عنوان ابزاری قدرتمند در خدمت حقوق انسانی باشد. افزایش دسترسی به اینترنت و توسعه ابزار رسانه‌های اجتماعی فعالان اجتماعی را قادر ساخته پیام‌های خود را سازماندهی کنند و بطور سریع‌تر و موثر‌تر به گوش مخاطبان خود برسانند. فناوری‌های در حال ظهور، مانند هوش مصنوعی، می‌توانند به طور قابل توجهی افزایش در دسترس بودن و کیفیت داده‌ها را برای تصمیم گیری‌های آگاهانه به نفع مردم افزایش دهند. حامیان این فن آوری معتقدند که آنها فرصت‌های جدید بوجود خواهند آورد، بهره‌وری را افزایش خواهند داد و همچنین به حداکثر رساندن پتانسیل انسانی کمک خواهند کرد. اما این تنها یک روی سکه است. از سوی دیگر، تحولات سریع در هوش مصنوعی، اتوماسیون و رباتیک سوالاتی بسیار جدی در مورد تاثیرات بالقوه فناوری بر وضعیت کنونی حقوق بشر و آینده‌ی آن در جهان و همچنین سوالاتی پیرامون این‌که افراد چقدر از گسترش آنها بهره می‌برند و یا ضرر خواهند کرد، بوجود می‌آورد.
کمپانی‌هایی نظیر فیس اپ بایستی قبل از ارائه نرم افزاری این چنین به بازار جهانی مواردی چون جنسیت، قوم، رنگ پوست و نژاد را جدی بگیرند که حتی اگر نتوانستند در مسیر رفع تبعیض نژادی و جنسیتی در جهان قدم بردارند، وضعیت کنونی که در حال بهبود و تحسین است را با تکنولوژی مدرن به عقب باز نگردانند و از پیامدهای مخرب اجتماعی که این برنامه با خود بهمراه دارد، ممانعت کنند.
