شرکت OpenAI پس از ماجرای تلخ خودکشی یک نوجوان ۱۶ ساله به نام آدام رین، اعلام کرد که نسخهی جدید چت جی پی تی (ChatGPT) به قابلیتهای کنترل والدین (Parental Controls) مجهز خواهد شد. این اتفاق در حالی رخ میدهد که والدین آدام از OpenAI شکایت کردهاند و بار دیگر موضوع ایمنی هوش مصنوعی و خطرات احتمالی آن برای نوجوانان به صدر اخبار بازگشته است.
قابلیت کنترل والدین در ChatGPT
به گفتهی OpenAI، در آپدیت جدید، والدین میتوانند حساب کاربری ChatGPT خود را به حساب فرزندشان متصل کرده و نحوهی استفاده او از این چتبات هوش مصنوعی را بهطور کامل مدیریت کنند. این امکانات شامل موارد زیر است:
غیرفعالسازی حافظه و سابقهی چتها
محدود کردن برخی قابلیتها بر اساس سن و حساسیتهای نوجوان
دریافت هشدار خودکار در صورت تشخیص پریشانی یا وضعیت بحرانی کاربر نوجوان
این ویژگیها به والدین کمک میکند تا استفادهی فرزندانشان از ChatGPT در محیطی امنتر انجام شود.
تلاش OpenAI برای بهبود ایمنی هوش مصنوعی
OpenAI تأکید کرده که آپدیت ChatGPT تنها بخشی از یک برنامهی گستردهتر است. این شرکت قصد دارد طی ۱۲۰ روز آینده مجموعهای از بهبودها را با تمرکز بر ایمنی کاربران، بهویژه نوجوانان اجرا کند.
از جمله اقدامات جدید:
همکاری با متخصصان حوزهی سلامت روان، اعتیاد و اختلالات نوجوانان
هدایت مکالمات حساس یا بحرانی به مدلهای استدلالی که توانایی بیشتری در رعایت دستورالعملهای ایمنی دارند
ایجاد مکانیزمهای پیشرفتهتر برای شناسایی مکالمات پرخطر در ChatGPT
سم آلتمن، مدیرعامل OpenAI، وعده داده که این شرکت در زمینهی ایمنسازی هوش مصنوعی شفافتر عمل کند و گزارشهای عمومی بیشتری دربارهی اقدامات حفاظتی منتشر کند.
چرا ایمنی در ChatGPT حیاتی است؟
ماجرای اخیر بار دیگر اهمیت ایمنی هوش مصنوعی را برجسته کرده است. تحقیقات نشان میدهد که نوجوانان بیش از سایر گروههای سنی در معرض خطرات روانی ناشی از استفادهی نادرست از ابزارهای هوش مصنوعی مولد قرار دارند. از آنجایی که ChatGPT میلیونها کاربر نوجوان در سراسر جهان دارد، اضافهشدن کنترل والدین میتواند گامی مهم برای کاهش این خطرات باشد.
رقابت غولهای فناوری بر سر ایمنی هوش مصنوعی
OpenAI تنها شرکتی نیست که به دنبال افزایش امنیت در هوش مصنوعی است. رقبایی مانند گوگل و متا (فیسبوک/اینستاگرام) نیز در حال کار روی سیستمهای ایمنی برای محصولات مبتنی بر AI خود هستند. با افزایش فشارهای قانونی در آمریکا و اروپا، انتظار میرود که موضوع ایمنی ChatGPT و هوش مصنوعی مولد به یکی از محورهای اصلی رقابت بین شرکتهای بزرگ فناوری تبدیل شود.
سخن پایانی
آپدیت جدید ChatGPT با اضافهکردن قابلیت کنترل والدین، نشاندهندهی تغییر استراتژیک OpenAI در مسیر افزایش ایمنی هوش مصنوعی است. این شرکت امیدوار است با چنین اقداماتی، اعتماد از دسترفته کاربران و والدین را بازیابد و نشان دهد که آیندهی چت جی پی تی تنها بر پایهی قدرت پردازشی نیست، بلکه بر پایهی امنیت، شفافیت و مسئولیت اجتماعی ساخته خواهد شد.
منبع: fdmagroup ir
