این هوش مصنوعی با تجزیه و تحلیل بازتاب نور در چشم، دیپ‌فیک‌ها را شناسایی می‌کند

منتشر شده در thenextweb به تاریخ ۲۳ دسامبر ۲۰۲۱
لینک منبع Smart: This AI spots Deepfakes by analyzing light reflections in the eyes

دیپ‌فیک برای طیف وسیعی از اهداف شوم استفاده می‌شود، از کمپین‌های اطلاعات نادرست گرفته تا وارد کردن افراد به فیلم‌های نامناسب، و تشخیص تصاویر دستکاری‌شده سخت‌تر می‌شود.

یک ابزار جدید هوش مصنوعی یک راه شگفت‌آور ساده برای تشخیص آن‌ها ارائه می‌کند: نگاه کردن به نور منعکس شده در چشم‌ها.

این سیستم توسط دانشمندان کامپیوتر از دانشگاه بوفالو ایجاد شد. در تست‌های مربوط به عکس‌های سبک پرتره، این ابزار در تشخیص تصاویر دیپ‌فیک ۹۴٪ موثر بود.

این سیستم با تجزیه و تحلیل قرنیه‌ها، که یک سطح آیینه مانند دارند که الگوهای انعکاسی را در هنگام روشن شدن توسط نور ایجاد می‌کند، تقلبی‌ها را آشکار می‌کند.

در عکسی از یک چهره واقعی که توسط دوربین گرفته شده است، انعکاس روی دو چشم مشابه خواهد بود زیرا آنها یک چیز را می بینند. اما تصاویر دیپ‌فیک که توسط GANها سنتز شده‌اند معمولا نمی‌توانند این شباهت را به درستی درک کنند.

در عوض، اغلب ناهماهنگی‌هایی مانند اشکال هندسی مختلف یا مکان‌های ناهماهنگ بازتاب‌ها را نشان می‌دهند.

قرنیه‌ها تفاوت‌های بسیار بزرگتری در تصویر دیپ‌فیک (سمت راست) دارند، احتمالا به این دلیل که با ترکیب بسیاری از عکس‌ها ایجاد شده‌اند.

سیستم AI این تفاوت‌ها را با ترسیم یک چهره و تحلیل نور منعکس‌شده در هر کره چشم جستجو می‌کند.

یک نمره تولید می‌کند که به عنوان معیار شباهت عمل می‌کند. هر چه امتیاز کوچک‌تر باشد، احتمال اینکه صورت یک دیپ‌فیک باشد بیشتر است.

این سیستم در تشخیص دیپ‌فیک‌های گرفته شده از This Person Does Not Exist، مخزنی از تصاویر ایجاد شده با معماری StyleGAN2 بسیار موثر بود. با این حال، نویسندگان مطالعه اذعان دارند که چندین محدودیت دارد.

واضح‌ترین نقطه‌ضعف این ابزار این است که به یک منبع نور بازتاب شده در هر دو چشم وابسته است. تناقض در این الگوها را می توان با روندی به صورت دستی اصلاح کرد، و اگر یک چشم در تصویر قابل‌مشاهده نباشد، این روش کارساز نخواهد بود.

همچنین ثابت شده‌است که این کار تنها بر روی تصاویر پرتره موثر است. اگر صورت در تصویر به دوربین نگاه نکند، سیستم به احتمال زیاد تشخیص‌های مثبت کاذب ایجاد خواهد کرد.

محققان در نظر دارند تا این مسائل را برای بهبود اثربخشی روش خود بررسی کنند. در شکل فعلی‌اش، پیچیده‌ترین دیپ‌فیک‌ها را شناسایی نمی‌کند، اما همچنان می‌تواند بسیاری از موارد ساده‌تر را شناسایی کند.

این متن با استفاده از ربات ترجمه مقالات تکنولوژی ترجمه شده و به صورت محدود مورد بازبینی انسانی قرار گرفته است.در نتیجه می‌تواند دارای برخی اشکالات ترجمه باشد.