شرکت OpenAI در حال «کاوش» در مورد نحوه تولید مسئولانه پورن هوش مصنوعی است!

شرکت OpenAI پیش نویس اسنادی را روز چهارشنبه منتشر کرد که نشان می دهد چگونه می خواهد ChatGPT و سایر فناوری های هوش مصنوعی آن رفتار کنند. بخشی از سند طولانی مدل Spec فاش می کند که این شرکت در حال بررسی یک جهش به سمت پورن و سایر محتوای صریح است.

خط‌مشی‌های استفاده OpenAI در حال حاضر مطالب جنسی صریح یا حتی پیشنهادی را ممنوع می‌کند، اما یک یادداشت «تفسیری» در بخشی از مدل Spec مربوط به این قانون می‌گوید که این شرکت در حال بررسی نحوه اجازه چنین محتوایی است.

این یادداشت می‌گوید: «ما در حال بررسی هستیم که آیا می‌توانیم به طور مسئولانه توانایی تولید محتوای NSFW را در زمینه‌های مناسب سن از طریق API و ChatGPT فراهم کنیم یا خیر. "ما مشتاقانه منتظر درک بهتر انتظارات کاربران و جامعه از رفتار مدل در این زمینه هستیم."

سند مدل Spec می‌گوید که محتوای NSFW «ممکن است شامل شهوانی، بدگویی شدید، توهین‌ها و ناسزاگویی ناخواسته باشد». مشخص نیست که آیا کاوش‌های OpenAI در مورد چگونگی ایجاد مسئولانه محتوای NSFW، سیاست استفاده آن را فقط اندکی کاهش می‌دهد، مثلاً اجازه تولید متن وابسته به عشق را می‌دهد، یا به طور گسترده‌تر اجازه می‌دهد تا توصیف یا تصویر خشونت را ارائه دهد.

OpenAI در حال بررسی این موضوع است که چگونه فناوری خود می تواند به طور مسئولانه طیف وسیعی از محتوای متفاوت را تولید کند که ممکن است NSFW در نظر گرفته شود، از جمله توهین و شهوانی. اما این شرکت به طور خاص در مورد چگونگی توصیف مطالب صریح جنسی است.

نیکو فلیکس، سخنگوی این شرکت در بیانیه‌ای به WIRED گفت: «ما هیچ قصدی نداریم که مدل‌هایمان پورن‌های هوش مصنوعی تولید کنند.» با این حال، NPR گزارش داد که Joanne Jang از OpenAI، که به نگارش مدل Spec کمک کرد، پذیرفت که اگر فناوری آن محتوای بزرگسالان تولید کند، کاربران در نهایت تصمیم خود را خواهند گرفت و گفت: "بستگی به تعریف شما از پورن دارد."

در پاسخ به سؤالات WIRED، سخنگوی OpenAI، گریس مک گوایر، گفت که مدل Spec تلاشی برای «به ارمغان آوردن شفافیت بیشتر در مورد فرآیند توسعه و دریافت بخشی از دیدگاه ها و بازخورد از مردم، سیاست گذاران و سایر ذینفعان» است. او از به اشتراک گذاشتن جزئیات درباره آنچه که اکتشاف OpenAI در تولید محتوای صریح شامل می شود یا بازخوردهایی که شرکت در مورد این ایده دریافت کرده است، خودداری کرد.

در اوایل سال جاری، میرا موراتی، مدیر ارشد فناوری OpenAI به وال استریت ژورنال گفت که مطمئن نیست که آیا این شرکت در آینده اجازه خواهد داد تصاویر برهنگی با ابزار تولید ویدیو سورا ساخته شود.

پورنوگرافی تولید شده توسط هوش مصنوعی به سرعت تبدیل به یکی از بزرگترین و دردسرسازترین برنامه های کاربردی از نوع فناوری هوش مصنوعی مولد OpenAI شده است. به اصطلاح پورن دیپ فیک - تصاویر یا ویدیوهای صریح که با ابزارهای هوش مصنوعی ساخته شده اند و افراد واقعی را بدون رضایت آنها به تصویر می کشند - به ابزاری رایج برای آزار و اذیت زنان و دختران تبدیل شده است. در ماه مارس، WIRED گزارش داد که به نظر می رسد اولین خردسالان آمریکایی هستند که به دلیل توزیع عکس های برهنه تولید شده توسط هوش مصنوعی بدون رضایت دستگیر شدند، پس از آن که پلیس فلوریدا دو پسر نوجوان را به دلیل ساختن تصاویری که دانش آموزان دبیرستانی را به تصویر می کشیدند متهم کرد.

دانیل کیتس سیترون، استاد دانشکده حقوق دانشگاه ویرجینیا که این مشکل را مطالعه کرده است، می‌گوید: «نقض حریم خصوصی، از جمله ویدیوهای جنسی عمیق و سایر تصاویر صمیمی ترکیب‌شده غیرمتعارف، شایع و عمیقاً آسیب‌رسان هستند. ما اکنون پشتیبانی تجربی واضحی داریم که نشان می‌دهد چنین هزینه‌های سوء استفاده، فرصت‌های حیاتی افراد را هدف قرار می‌دهد، از جمله کار کردن، صحبت کردن و ایمن بودن از لحاظ فیزیکی.»

Citron استقبال بالقوه OpenAI از محتوای صریح AI را "هشدار کننده" می نامد.

از آنجایی که خط‌مشی‌های استفاده OpenAI جعل هویت بدون اجازه را ممنوع می‌کند، حتی اگر شرکت به سازندگان اجازه دهد مطالب NSFW را تولید کنند، تصاویر غیرمتعارف صریح ممنوع باقی می‌ماند. اما باید دید که آیا این شرکت می‌تواند به طور موثر تولید صریح را تعدیل کند تا از استفاده بازیگران بد از ابزارها جلوگیری کند. مایکروسافت پس از گزارش 404 Media مبنی بر استفاده از آن برای ایجاد تصاویر واضح از تیلور سویفت که در پلتفرم اجتماعی X توزیع شده بود، تغییراتی را در یکی از ابزارهای هوش مصنوعی مولد خود ایجاد کرد.

منبع : Wired

🔹این مقاله به صورت ماشینی، توسط Aiticle ترجمه شده و ممکنه ایراداتی داشته باشه، فیدبک‌های شما به ما در جهت بهبود سیستممون خیلی کمک میکنه :) لطفا نظراتتون رو باهامون به اشتراک بگذارین.