شرکت سازنده چت‌جی‌پی‌تی، OpenAI از اولین پیش نویس یک کتاب قوانین جدید برای ChatGPT به نام Model Spec رونمایی کرده است. OpenAI که در روز چهارشنبه منتشر شد، در یک پست وبلاگی گفت که این سند را به اشتراک می گذارد تا گفتگوهای عمومی در مورد نحوه رفتار مدل های هوش مصنوعی را عمیق تر کند.
OpenAI گفت: "ما این کار را انجام می دهیم زیرا فکر می کنیم برای مردم مهم است که بتوانند انتخاب های عملی مربوط به شکل دادن به رفتار مدل را درک کنند و در مورد آنها بحث کنند."
این سند مجموعه‌ای از اصول را شامل می‌شود که شامل اهداف (مثلاً در نظر گرفتن آسیب‌های احتمالی)، قوانین (مانند محافظت از حریم خصوصی افراد)، و رفتارهای پیش‌فرض (مثلاً پرسیدن سؤال‌های روشن‌کننده در صورت لزوم) است.
شبیه قانون اساسی کلود است. چت ربات آنتروپیک با هوش مصنوعی Constitutional آموزش داده شد، سیستمی مبتنی بر مجموعه‌ای از اصول که به ربات بازخورد هوش مصنوعی می‌دهد. این اصول بر اساس اعلامیه جهانی حقوق بشر و شرایط خدمات اپل و سایر موارد است.
این برای شما چه معنایی دارد
برای عمیق‌تر کردن گفتگوی عمومی در مورد اینکه مدل‌های هوش مصنوعی چگونه باید رفتار کنند، ما مشخصات مدل خود را به اشتراک می‌گذاریم - رویکردمان برای شکل‌دهی رفتار مدل مطلوب. https://t.co/RJBRwrcTtQ 8 مه 2024
OpenAI قبلاً تشخیص داده است که تنظیم صحیح هر مورد استفاده چالش برانگیز است، به ویژه هنگامی که صحبت از ارائه نکردن اطلاعاتی می شود که می تواند به کسی کمک کند قانون را نقض کند.
برای مثال، ممانعت از درخواست راهنمایی‌های دزدی از طریق ChatGPT ساده‌تر از این است که کسی ادعا کند که یک فروشگاه خرده‌فروشی کوچک دارد و بپرسد: "روش‌های رایج دزدی که باید به آنها توجه کنم چیست؟"
کارشناسان بیشتر از این که هوش مصنوعی توسط انسان ها مورد سوء استفاده قرار گیرد می ترسند تا اینکه خود هوش مصنوعی آن اعمال را انجام دهد.
ثبت نام کنید تا بهترین راهنمای تام را مستقیماً به صندوق ورودی خود دریافت کنید. زندگی خود را با دوز روزانه از بزرگترین اخبار فناوری، هک های سبک زندگی و تجزیه و تحلیل انتخاب شده ما ارتقا دهید. اولین کسی باشید که در مورد ابزارهای پیشرفته و داغ ترین معاملات می دانید. برای دریافت اخبار و پیشنهادات سایر برندهای آینده با من تماس بگیرید از طرف شرکای مورد اعتماد یا حامیان مالی ما ایمیل دریافت کنید
با این حال، بعید است که محدودیت های قابل توجهی بر اساس چنین سناریوهایی اعمال شود، زیرا انجام این کار در وهله اول استفاده از چت بات را از بین می برد. علاوه بر این، می توان استدلال کرد که موتورهای جستجو در حال حاضر می توانند برای یافتن راه هایی برای دور زدن قانون استفاده شوند.
ایجاد پرسونا برای ChatGPT
🚨 OpenAI به تازگی در مورد "شکل دادن به رفتار مدل مطلوب" پست کرده است، و من به شدت با قانون پیشنهادی زیر مخالفم، زیرا این یک شیب لغزنده برای اطلاعات غلط خطرناک است. pic.twitter.com/crpN4LYyrSM8 مه 2024
آنچه محتمل تر است این است که «شخصیت» جدید ChatGPT می تواند توسعه یابد. بگویید که می خواهید ChatGPT به عنوان معلم ریاضی شما عمل کند. به جای اینکه فوراً به سؤالی که با آن دست و پنجه نرم می کنید پاسخ دهد، می تواند رویکرد کندتری داشته باشد و نکاتی را در طول مسیر به شما ارائه دهد تا شما را در حل مشکل خود راهنمایی کند.
یک نکته بحث برانگیز در OpenAI's Model Spec این است که سعی نکنید نظر کسی را تغییر دهید - که در این سند با یک چت بات نشان داده شده است که وقتی از شما می‌پرسد آیا زمین مسطح است می‌گوید: «هرکسی حق دارد باورهای خودش را داشته باشد».
لویزا جاروفسکی، مدیر عامل شرکت آموزشی هوش مصنوعی Implement Privacy، در X نوشت که به شدت با قانون پیشنهادی مخالف است، زیرا این یک شیب لغزنده برای اطلاعات غلط خطرناک است.
او نوشت: «امیدوارم صدها سال دانش و توافق علمی را به نفع نسبی‌سازی و «حقایق شخصی‌شده» نابود نکنیم.
در آینده، کاربران ممکن است ببینند چت ربات های رقیب تلاش می کنند تا بر اساس جهان بینی مخاطبان مختلف را جذب کنند.
OpenAI در حال جمع‌آوری بازخورد کاربران در مورد مدل Spec تا ۲۲ مه است.
