شرکت OpenAI تصمیم گرفته است که از اجرای واترمارک (علامت‌گذاری) روی متن‌های تولید شده توسط ChatGPT صرف‌نظر کند. این شرکت می‌گوید که این تصمیم به دلیل مخالفت کاربران و چالش‌های فنی گرفته شده است.
OpenAI قبلا فناوری واترمارک را آماده کرده بود که می‌توانست با تغییر الگوهای پیش‌بینی کلمات، متن‌های تولید شده توسط هوش مصنوعی را علامت‌گذاری کند. این سیستم ادعا می‌کرد که دقت تقریبا ۱۰۰ درصدی داشته و در برابر تغییر ساده کلمات مقاوم است. اما این شرکت متوجه شد که روش‌های پیچیده‌تر تغییر متن، مثل استفاده از مدل‌های هوش مصنوعی دیگر، می‌توانند به راحتی این محافظت را دور بزنند.
یکی از دلایل مهم‌تر این تصمیم، واکنش احتمالی منفی کاربران بود. یک نظرسنجی نشان داد که اگر واترمارک اجرا می‌شد، حدود ۳۰ درصد کاربران ChatGPT کمتر از این سرویس استفاده می‌کردند. این موضوع برای شرکتی که به سرعت در حال گسترش کاربران و خدمات تجاری خود است، خطر بزرگی محسوب می‌شود.
OpenAI همچنین نگران پیامدهای ناخواسته این تصمیم بود، به خصوص اینکه ممکن بود ابزارهای هوش مصنوعی برای افرادی که زبان انگلیسی زبان مادری آن‌ها نیست، منفی دیده شوند.
به جای کنار گذاشتن کامل این ایده، OpenAI اکنون در حال بررسی روش‌های احتمالا کم‌تنش‌تر است. این شرکت در وبلاگ خود به تحقیقات اولیه در مورد جاسازی داده‌های متا اشاره کرده که می‌تواند بدون ایجاد خطاهای مثبت کاذب، اطمینان رمزنگاری را ارائه دهد. اما هنوز مشخص نیست که این روش تا چه اندازه موثر خواهد بود.
این خبر ممکن است برای بسیاری از بازاریابان و تولیدکنندگان محتوا که ChatGPT را در جریان کار خود قرار داده‌اند، خبر خوبی باشد. نبود واترمارک به معنای انعطاف‌پذیری بیشتر در نحوه استفاده و تغییر محتوای تولید شده توسط هوش مصنوعی است.
با این حال، این به این معنی است که مسئولیت‌های اخلاقی در مورد تولید محتوا با کمک هوش مصنوعی تا حد زیادی بر عهده کاربران است.
این حرکت OpenAI نشان می‌دهد که حفظ تعادل بین شفافیت و رشد کاربری در هوش مصنوعی چقدر دشوار است. صنعت به روش‌های جدیدی برای مقابله با مسائل اصالت در زمان رونق محتوای هوش مصنوعی نیاز دارد. برای حال حاضر، استفاده اخلاقی از هوش مصنوعی بر عهده کاربران و شرکت‌ها است. انتظار می‌رود نوآوری‌های بیشتری در این زمینه از سوی OpenAI یا سایر شرکت‌ها انجام شود. یافتن نقطه تعادل بین اخلاق و قابلیت استفاده همچنان یک چالش کلیدی در بازی محتوای هوش مصنوعی است.
