ویرگول
ورودثبت نام
همایون آزادپور
همایون آزادپور
خواندن ۴ دقیقه·۸ ماه پیش

حقایقی درباره آینده دهشتناک هوش مصنوعی از زبان خالق ChatGPT

ایلان ماسک، ثروتمندترین مرد جهان از شرکت OpenAI و مدیرعامل آن شکایت کرد و مدعی شد که این شرکت مأموریت اصلی خود را به‌خاطر سود فراموش کرده است. ایلان ماسک در حال تنظیم شکایتی علیه OpenAI و مدیرعامل آن، سام آلتمن است و ادعا می‌کند که این شرکت با مخفی کردن کد جدیدترین محصولات هوش مصنوعی خود، از مأموریت اولیه خود دور شده است.

گرچه مدیران OpenAI این خبر را ناشی از پشیمانی ماسک از ترک شرکت دانسته‌اند اما این رویداد، نکته‌ای را به یادمان می‌آورد درباره ایده اولیه شرکت OpenAI که قرار بود پروژه‌ای غیرانتفاعی در جهت توسعه هوش مصنوعی باشد. گرچه بعدها این ایده تغییر کرد اما سیر حرکت این شرکت از پژوهش‌هایی در زمینه هوش مصنوعی، تا تبدیل شدنش به یکی از شرکت‌های پرسود با سریع‌ترین رشد جالب توجه است.


سم آلتمن، مدیرعامل OpenA، سال‌های قبل به یک خبرنگار گفته بود کارمندانش خیلی شب‌ها نمی‌توانند پلک روی پلک بگذارند، بس که نگران‌اند مبادا بدون درکِ خطرها هوش‌های مصنوعی‌ای را منتشر کنند. اگر دوست دارید درباره شکل این خطرها بیش‌تر بدانید بگذارید اطلاعاتی از پشت پرده در اختیارتان بگذارم.

پیش از آن که مدل gpt4 - که در حال حاضر یکی از برترین و قوی‌ترین مدل‌های هوش مصنوعی است که توسط اپن‌ای آی منتشر شده - به شکل عمومی عرضه شود، پس از پایان تعلیم مدل، اُپن‌ای‌آی، حدود پنجاه متخصص امنیت سایبری را گرد آورد و آن‌ها چند ماه با جی‌پی‌تی-۴ ور رفتند تا شاید رفتار ناشایستی از آن سر بزند. خانم آگاروال خیلی زود متوجه شد جی‌پی‌تی-۴ خیلی بهتر از نسخۀ قبلی خود می‌توانست توصیه‌های شرورانه کند. موتور جست‌وجو می‌تواند به شما بگوید کدام مواد شیمیایی برای مواد منفجره مناسب‌ترند، اما جی‌پی‌تی-۴ می‌توانست قدم‌به‌قدم، شیوۀ ترکیب آن‌ها در آزمایشگاه خانگی را هم شرح دهد. توصیه‌هایش خلاقانه و سنجیده بود و با کمال میل هم حاضر می‌شد آموزش‌های خود را تکرار کند و تفصیل بدهد تا متوجه بشوید. علاوه‌بر کمک در ساختن بمب خانگی، می‌توانست مثلاً در انتخاب برجی که قصد انفجارش را دارید هم به شما کمک کند. خودش حساب‌کتاب می‌کرد و مقایسه می‌کرد میان حداکثرسازیِ تلفات و اجرای موفق چه توازنی برقرار است.

ویلنر، یکی از مهندسان ارشد شرکت، می‌گوید «مدل کم‌وبیش مثل آینه عمل می‌کرد». اگر به فکر خودزنی بودید، ممکن بود تشویقتان کند. انگار فرهنگ مخ‌زنی در تاروپود آن پیچیده بود.

گرچه متخصصان شرکت کوشیدند خطرات مدل را به حداقل برسانند اما همچنان نگرانی‌هایی وجود داشت. اما آلتمن در لحظه انتشار مدل جدید هوش مصنوعی‌اش نه تنها هیچ نگرانی‌ای نداشت بلکه لحظه را لحظه‌ی پیروزی می‌دانست.

می‌گفت کاری به این ندارد که هوش مصنوعی درنهایت چه خطراتی ممکن است داشته باشد، و اصلاً و ابداً از انتشار چت‌جی‌پی‌تی پشیمان نیست. بالعکس، آن را یک خدمت عمومی بزرگ می‌داند: «می‌تونستیم فعلاً صداش رو درنیاریم و تا پنج سال دیگه هم همین‌جا توی ساختمانمون روش کار کنیم. اون‌وقت یک چیزی ساخته می‌شد که همه از تعجب شاخ دربیارند».

او معتقد است مردم به زمان نیاز دارند تا با این فکر کنار بیایند که شاید به‌زودی با هوش جدید و قدرتمندی همزیستی کنیم که همه‌چیز را، از کار گرفته تا روابط انسانی، از نو خواهد ساخت. چت‌جی‌پی‌تی نوعی اعلانِ هدف بود.

سال ۲۰۱۵، آلتمن، ایلان ماسک و چند پژوهشگر برجستۀ حوزۀ هوش مصنوعی اُپن‌اِی‌آی را تأسیس کردند چون باور داشتند هوش عمومی مصنوعی (چیزی که قابلیت‌های فکری‌اش به‌اندازۀ یک فارغ‌التحصیل دانشگاهی باشد) بالاخره در دسترس قرار گرفته است. می‌خواستند به آن دست یابند و پا را از آن هم فراتر بگذارند: می‌خواستند یک اَبَرهوش را به عرصۀ وجود احضار کنند، قوۀ تفکری بسیار فراتر از انسان‌ها. ضمناً اگرچه شرکت‌های فناوری بزرگ بی‌پروا می‌شتافتند تا برای مقاصد خودْ اول از همه به آنجا برسند، اما آن‌ها می‌خواستند جانب احتیاط و ایمنی را هم رعایت کنند «تا به تمام بشریت فایده برسانند». اُپن‌اِی‌آی را به‌صورت یک سازمان غیرانتفاعی بنیان گذاشتند تا در قیدوبند «نیاز به ایجاد بازده مالی» نباشند و عهد بستند که پژوهش‌های خود را در اوج شفافیت انجام دهند، که خبری از آن آزمایشگاه‌های فوق‌سری در فلان بیابان نیومکزیکو نباشد.

اما حالا همه چیز فرق کرده است. آینده بدون هوش مصنوعی قابل تصور نیست و تمام شرکت‌های بزرگ دنیا به سمت ساخت مدل مخصوص خودشان حرکت کرده‌اند تا از سودآوریِ بی‌پایان این فناوری عقب نمانند. وقتی OpenAI که قرار بود شرکتی غیرانتفاعی باشد و هوش مصنوعی را محتاطانه و بدون توجه صرف به سودآوری توسعه دهد اکنون به سودآورترین شرکت هوش مصنوعی بدل شده، بدیهی است که سایر بازیگران بزرگ عرصه فناوری نیز وسوسه شوند.

اما خدمتی که هوش مصنوعی می‌تواند به بشریت عرضه کند با هیچ چیز دیگر قابل مقایسه نیست. از لحاظ فراگیری و گستردگی شاید با اینترنت قابل مقایسه باشد اما هوش مصنوعی در زمینه‌هایی مثل پزشکی، نجوم، تسهیل زندگی و کار افراد بشر و حوزه‌های بسیار دیگری می‌تواند کارهایی شبیه معجزه انجام دهد. اگر خطرات هوش مصنوعی توسط افرادی که به خیر عامه می‌اندیشند تحت نظارت و کنترل قرار گیرد شاید بتوان به آینده‌ای که هوش مصنوعی می‌تواند رقم بزند امیدوار بود. در غیر این صورت همچنان نگرانی‌هایی درباره آن وجود خواهد داشت.

هوش مصنوعیسم آلتمنایلان ماسکخطرات هوش مصنوعی
شاید از این پست‌ها خوشتان بیاید