ورود محتوای نامتعارف ممنوع!

واژه "NSFW" به معنای «برای کار بی‌خطر نیست» می‌باشد که از عبارت “not safe for work" گرفته شده است. برنامه‌ای رایج که وظیفه دارد تصاویر نامناسب برای محیط کار را فیلتر ­کند. از این سرویس می‌توان در موقعیت‌هایی مانند زمان بارگذاری تصویر جدید روی یک وب‌سرویس توسط کاربر استفاده کرد به این صورت که سرویس می‌تواند به‌طور خودکار تأیید کند که «آیا نمایش این تصویر به سایر کاربران مناسب است یا خیر؟» یا «آیا یک تصویر حاوی برهنگی است و باید برایش NSFW در نظر گرفته شود یا نه؟» با ما همراه باشید تا در این مقاله پاسخ این دست از سوالاتتان را پیدا کنید و کمی با الگوریتم NSFW و دنیای یادگیری ماشین آشنا شوید.

الگوریتم "NSFW" چگونه کار می‌کند؟
الگوریتم NSFW از چندین مدل الگوریتم‌ یادگیری ماشین برای محاسبه مدلی استفاده می‌کند و از طریق آن طبقه‌بندی خود را انجام می‌دهد. در واقع آموزش یک مدل یادگیری ماشین یک کار پیش پا افتاده و ساده نیست. حجم عظیمی از داده‌ها باید قبل از پردازش (برای انتقال یادگیری و …) مرتب و برچسب‌گذاری شوند. الگوریتم عددی بین 0 و 1 را برمی‌گرداند، که 1 به احتمال 100% حاوی برهنگی و NSFW است. مدل، پیش از رسیدن به سطح قابل قبولی از دقت باید اصلاح شود که همه این‌ها به منابع عظیمی از جمله زمان و پول نیاز دارند.
موارد مثبت کاذب (false positive) به شرطی برای برنامه‌های فیلترینگ محتوا مسئله مهمی نیستند که یک لایه انسانی ثانویه وجود داشته باشد. می‌توان API را با مدل «NSFW» فراخوانی نمود و به سادگی یک ورودی تصویر را با یک URL در دسترس عموم قرار داد یا تصویر را به صورت مستقیم ارسال کرد.

هدف سرویس NSFW
به دلیل لزوم نظارت و کنترل بر محتواهایی که در معرض دید عموم (به ویژه کودکان و نوجوانان)، قرار می گیرد، سرویس NSFW با هدف جلوگیری از انتشار تصاویر حاوی برهنگی در فضای وب و شبکه‌های اجتماعی و جلوگیری از ذخیره تصاویر حاوی برهنگی در تلفن همراه ایجاد شده است.

ویژگی­‌های NSFW

1. تشخیص برهنگی در کمتر از 1 ثانیه:
   تشخیص برهنگی در تصاویر و ویدیوها به صورت خودکار و به راحتی امکان‌پذیر می‌­باشد. API تشخیص برهنگی، توسط شبکه‌های عصبی که توانایی بومی‌سازی اشیا مرتبط با برهنگی را دارند، تامین می‌شود.
2. تشخیص ویدئوی بزرگسالان در مقیاس وسیع به کمک شبکه‌های عصبی:
   ویدیوها را برای اشیا مرتبط با برهنگی تجزیه و تحلیل می‌­کند و برای آن‌ها یک آستانه برهنگی ایجاد می‌­نماید تا بر اساس آن از NSFW استفاده کند.
3. تشخیص خودکار برهنگی در تصاویر و ویدیوها:
   از API تشخیص برهنگی می­‌توان برای یافتن خودکار محتوای NSFW در تصویر و ویدیو استفاده نمود. این محتوا را می‌­توان بدون دخالت انسانی از محیط‌های آنلاین فیلتر کرد.
4. تعریف آستانه قابل قبول برهنگی:
   با شناسایی اشیا (اعضای بدن) مرتبط با برهنگی و تعیین محتوای پیشنهادی و آستانه، می‌توان برهنگی را بر اساس نیازهای خاص فیلتر کرد.

کاربردهای NSFW
تشخیص NSFW در میان شمار متعددی از خدمات وب که به صورت مشارکتی بوده یا محتوایی عمومی را نمایش می‌­دهند، تقاضای بالایی دارد. مدل NSFW برای تشخیص محتوا، امتیازها را براساس احتمال اینکه یک تصویر حاوی برهنگی باشد، برمی‌­گرداند. کاربرد این مدل برای کاربرانی است که سعی می‌کنند به طور خودکار محتوای توهین‌آمیز را از پلتفرم خود اصلاح یا فیلتر کنند. کاربردهای این سرویس شامل موارد زیر می‌­باشد:

• پلتفرم­‌های اجتماعی: ساده نمودن کار مدیران محتوای وب سایت، برنامه با جلوگیری از ارسال تصاویر نامناسب یا انتخاب تصاویر نامناسب به عنوان تصویر پروفایل کاربری
• میزبانی تصویر یا ویدئو: ایمن نمودن میزبانی رسانه‌ای از انتشار تصاویر و ویدئوهای نامناسب
• اصلاح یا فیلتر محتوای نامناسب از پلتفرم کاربران به طور خودکار
• تشخیص برهنگی در تصاویر و ویدیوها به صورت خودکار توسط شبکه‌های عصبی عمیق

سرویس تشخیص محتوای ناسالم آیفا
سرویس تشخیص محتوای ناسالم (NSFW) که در تیم هوش مصنوعی «آیفا» توسعه داده شده است، می‌تواند تصاویر دریافتی در فرمت‌های مختلف را به کمک فناوری پردازش تصویر تحلیل کند. این سرویس قادر است احتمال تعلق داشتن تصاویر به پنج کلاس مختلف، از جمله دو کلاس محتوای سالم (Drawings و Neutral) و سه کلاس محتوای ناسالم (Hentai، Porn و Sexy)، را از طریق تخصیص عددی بین صفر و یک مشخص نماید. این سرویس به صورت Async بوده و با فراخوانی یک سرویس، لینک‌ تصویر دیجیتال را دریافت می‌نماید.
این سرویس با بهره‌گیری از مدل­‌های یادگیری عمیق و استفاده از مدل پردازش تصویر دقیق و بومی خود از دقت بالای 98% و سرعت بالای پاسخگویی در تشخیص وضعیت تصاویر برخوردار است. سرویس NSFW می‌­تواند دقت خود را با گنجاندن موارد مثبت کاذب (False Positive) بیشتر در مجموعه داده‌های آموزشی به صورت مداوم ارتقاء بخشد.

در نهایت
در این مقاله سعی کردیم تا درباره‌ی الگوریتم NSFW، کاربرد و نحوه عملکرد آن صحبت کنیم. این الگوریتم با شناسایی محتواهای نامناسب از انتشار آن‌ها جلوگیری می‌کند. شما می‌توانید این سرویس را از بازارچه پادیـوم خریداری و اطلاعات تکمیلی را از آنجا دریافت کنید.
در نهایت ممنونیم که تا پایان این مقاله همراهمان بودید.